211service.com
Vijf vragen die je kunt gebruiken om de AI-hype te doorbreken
Een abstracte illustratie met de nummers 1-5 en vraagtekens mevrouw Tech
Twee weken geleden organiseerde de Verenigde Arabische Emiraten Ai Everything, de eerste grote AI-conferentie en een van de grootste AI-applicatieconferenties ter wereld. Het evenement was een indrukwekkend bewijs van de breedte van industrieën waarin bedrijven nu machine learning gebruiken. Het diende ook als een belangrijke herinnering aan hoe de zakenwereld de mogelijkheden van de technologie kan verdoezelen en overdrijven.
Als reactie daarop wil ik kort de vijf vragen schetsen die ik gewoonlijk gebruik om de kwaliteit en validiteit van de technologie van een bedrijf te beoordelen:
1. Wat is het probleem dat het probeert op te lossen?
Ik begin altijd met de probleemstelling. Wat zegt het bedrijf dat het probeert te doen, en is het machine learning waard? Misschien praten we met Affectiva, dat technologie voor emotieherkenning bouwt om de stemmingen van mensen nauwkeurig te volgen en te analyseren. Conceptueel is dit een patroonherkenningsprobleem en zou dus een probleem kunnen zijn dat machine learning zou kunnen aanpakken (zie: Wat is machine learning?). Het zou ook een hele uitdaging zijn om het op een andere manier te benaderen, omdat het te complex is om in een set regels te programmeren.
2. Hoe pakt het bedrijf dat probleem aan met machine learning?
Nu we een conceptueel begrip van het probleem hebben, willen we weten hoe het bedrijf het gaat aanpakken. Een bedrijf voor emotieherkenning kan verschillende benaderingen gebruiken om zijn product te bouwen. Het zou een computervisiesysteem kunnen trainen om patronen te matchen met de gezichtsuitdrukkingen van mensen of een audiosysteem te trainen om patronen te matchen met de stem van mensen. Hier willen we uitzoeken hoe het bedrijf zijn probleemstelling heeft omgevormd tot een machine-learningprobleem en bepalen welke gegevens het in zijn algoritmen moet invoeren.
Verwant verhaal
Verwant verhaal De definitie van kunstmatige intelligentie evolueert voortdurend en de term wordt vaak verminkt, dus we zijn hier om te helpen.
3. Hoe haalt het bedrijf zijn trainingsgegevens?
Als we eenmaal weten wat voor soort gegevens het bedrijf nodig heeft, willen we weten hoe het bedrijf deze verwerft. De meeste AI-applicaties maken gebruik van gesuperviseerde machine learning, waarvoor schone, hoogwaardige gelabelde gegevens nodig zijn. Wie labelt de gegevens? En als de labels iets subjectiefs zoals emoties vastleggen, volgen ze dan een wetenschappelijke standaard? In het geval van Affectiva zou je ontdekken dat het bedrijf vrijwillig audio- en videogegevens van gebruikers verzamelt en getrainde specialisten in dienst heeft om de gegevens op een strikt consistente manier te labelen. Als u de details van dit deel van de pijplijn kent, kunt u ook mogelijke bronnen van vooringenomenheid voor gegevensverzameling of labeling identificeren (Zie: Dit is hoe AI-bias echt gebeurt).
4. Heeft het bedrijf processen voor het controleren van zijn producten?
Nu moeten we onderzoeken of het bedrijf zijn producten test. Hoe nauwkeurig zijn de algoritmen? Worden ze gecontroleerd op vooringenomenheid? Hoe vaak evalueert het zijn algoritmen opnieuw om er zeker van te zijn dat ze nog steeds op peil blijven? Als het bedrijf nog geen algoritmen heeft die de gewenste nauwkeurigheid of eerlijkheid bereiken, welke plannen heeft het dan om ervoor te zorgen dat ze dat zullen doen voordat ze worden geïmplementeerd?
5. Moet het bedrijf machine learning gebruiken om dit probleem op te lossen?
Dit is meer een oordeel. Zelfs als een probleem kan worden opgelost met machine learning, is het belangrijk om je af te vragen of het zou moeten zijn. Alleen omdat je een emotieherkenningsplatform kunt creëren dat een nauwkeurigheid van ten minste 80% bereikt voor verschillende rassen en geslachten, wil nog niet zeggen dat het niet zal worden misbruikt. Wegen de voordelen van het beschikbaar hebben van deze technologie op tegen de mogelijke mensenrechtenschendingen van emotioneel toezicht? En beschikt het bedrijf over mechanismen om eventuele negatieve effecten te verzachten?
Naar mijn mening moet een bedrijf met een machine-learningproduct van hoge kwaliteit alle vakjes afvinken: het moet een probleem aanpakken dat geschikt is voor machine learning, robuuste data-acquisitie- en auditprocessen hebben, zeer nauwkeurige algoritmen hebben of een plan hebben om deze te verbeteren, en worstel frontaal met ethische vragen. Vaak slagen bedrijven voor de eerste vier tests, maar niet voor de laatste. Voor mij is dat een grote rode vlag. Het toont aan dat het bedrijf niet holistisch nadenkt over hoe zijn technologie het leven van mensen kan beïnvloeden en een grote kans heeft om later een Facebook te trekken. Als u een leidinggevende bent die op zoek is naar machine learning-oplossingen voor uw bedrijf, zou dit u moeten waarschuwen om niet samen te werken met een bepaalde leverancier.
Dit verhaal verscheen oorspronkelijk in onze Webby-genomineerde AI-nieuwsbrief The Algorithm. Meld je hier aan om meer van dit soort verhalen rechtstreeks in je inbox te ontvangen. Het is gratis.