211service.com
De gevaren van Tech-Bro AI
Tabitha Goldstaub, medeoprichter van CognitieX , dat bedrijven helpt bij het inzetten van AI, zegt dat diversificatie van het veld nodig is om ervoor te zorgen dat producten echt goed werken. 24 oktober 2017
Miguel Porlan
Als je nadenkt over kunstmatige intelligentie en de kerncomponenten van wat een AI maakt, heb je het feit dat het een doel heeft gekregen en dan een manier zal vinden om dat doel te bereiken. Het is dan vaak erg ondoorzichtig hoe het dat doel heeft bereikt. Als je een onbewuste vooringenomenheid in een machine inbouwt, weet je misschien niet dat die er is; de output kan schadelijk zijn voor vrouwen en het is erg moeilijk om erachter te komen waarom dat precies is gebeurd.
In traditionele technologie kun je zien [wat er is gebeurd]: vrouwen sterven bij auto-ongelukken omdat de crashtestdummies de vorm van een man hadden in plaats van de vorm van een vrouw. [Met AI kunnen er] soortgelijke situaties van leven of dood zijn, in medicijnproeven of in autonome voertuigen en dat soort dingen.
Dit verhaal maakte deel uit van ons nummer van november 2017
- Zie de rest van het nummer
- Abonneren
Er zijn enkele voorbeelden van [genderbias in AI vandaag]: Google-advertenties die beter verdienende [vacature]-advertenties weergeven aan mannen dan aan vrouwen . We kunnen andere soorten situaties veronderstellen die zouden kunnen gebeuren - wat als vrouwen niet zo goed in staat zouden zijn om leningen of hypotheken of verzekeringen te krijgen?
Ik heb geen dystopische kijk op AI. Ik zie geen killer robots. Ik ben zoveel meer gefocust op de smalle toepassingen, en ik denk dat als je naar elk van die smalle toepassingen kijkt, er een kans is dat het vrouwen negatief beïnvloedt. Ik denk niet dat kunstmatige intelligentie hier het probleem is; het is eerder het extra probleem dan de oorzaak. We hebben het over het risico dat ons onbewuste seksisme of onbewust racisme sijpelt in de machines die we bouwen.
Hoe krijgen we iemand die AI bouwt over deze dingen na te denken? We moeten ervoor zorgen dat consumenten ethische AI eisen. Niet genoeg mensen zien dit als meer dan alleen een genderkwestie; dit is een feitelijke, fundamentele productkwestie.
— zoals verteld aan Rachel Metz