211service.com
Waarom we moeten verwachten dat algoritmen bevooroordeeld zijn?
Technologieën aangedreven door algoritmen en kunstmatige intelligentie zijn steeds meer aanwezig in ons leven, en we lopen nu regelmatig tegen een netelige vraag aan: kunnen deze programma's neutrale actoren zijn? Of zullen ze altijd een bepaalde mate van menselijke vooringenomenheid weerspiegelen?
Het stof over de lijst met trending topics van Facebook en de mogelijke liberale vooringenomenheid raakte zo'n lef dat de Amerikaanse senaat riep op het bedrijf om met een officiële verklaring te komen, en deze week zei COO Sheryl Sandberg dat het bedrijf zal beginnen opleiden van medewerkers om hun politieke voorkeuren te identificeren en te beheersen.
Dit is echter slechts één resultaat van een bredere trend die Fred Benenson, de voormalige datachef van Kickstarter, noemt wiskunde wassen : onze neiging om programma's zoals Facebook te verafgoden als volledig objectief omdat ze wiskunde als kern hebben.
Een gebied van mogelijke vooringenomenheid komt van het feit dat zo veel van de programmeurs die deze programma's maken, met name experts op het gebied van machine learning, mannelijk zijn. in een recente Bloomberg artikel , wordt geciteerd Margaret Mitchell, een onderzoeker bij Microsoft, die klaagt over de gevaren van een zee van kerels die de vragen stellen die centraal staan bij het maken van deze programma's.
Er is al geruime tijd bezorgdheid over dit probleem, aangezien onderzoeken aanwijzingen hebben gevonden voor vooringenomenheid in online reclame-, wervings- en prijsstrategieën die worden aangedreven door vermoedelijk neutrale algoritmen.
In een studie , Harvard-professor Latanya Sweeney keek naar de Google AdSense-advertenties die opkwamen tijdens zoekopdrachten naar namen die verband hielden met blanke baby's (Geoffrey, Jill, Emma) en namen die verband hielden met zwarte baby's (DeShawn, Darnell, Jermaine). Ze ontdekte dat advertenties met het woord arrestatie werden weergegeven naast meer dan 80 procent van de zoekopdrachten op zwarte namen, maar minder dan 30 procent van de zoekopdrachten op witte namen.
Sweeney maakt zich zorgen dat de manier waarop de advertentietechnologie van Google raciale vooroordelen bestendigt, de kansen van een zwarte persoon in een wedstrijd zou kunnen ondermijnen, of het nu gaat om een prijs, een date of een baan.
Op gebieden zoals kredietverlening en kredietverlening die traditioneel te lijden hebben onder de bekende menselijke discriminatie, moet bijzonder voorzichtig worden omgegaan.
ZestFinance, een online kredietverstrekker gebaseerd op het idee dat machine learning-programma's het aantal mensen dat kredietwaardig wordt geacht kunnen vergroten door naar tienduizenden datapunten te kijken, stelt dat het goed is afgestemd op de gevaren van discriminerend lenen. Om discriminatie te voorkomen, heeft ZestFinance tools ontwikkeld om zijn eigen resultaten te testen.
Maar het gevaar blijft dat een niet-herkende vooringenomenheid, niet alleen in de programmering van een algoritme, maar zelfs in de gegevens die erin stromen, elk programma onbedoeld in een discriminator kan veranderen. Voor consumenten die de complexiteit van deze programma's niet kunnen uitpakken, zal het moeilijk zijn om te weten of ze eerlijk zijn behandeld.
Algoritmen en datagestuurde producten zullen altijd de ontwerpkeuzes weerspiegelen van de mensen die ze hebben gebouwd, legde Benenson uit in een recente Q&A met Technical.ly Brooklyn, en het is onverantwoord om anders aan te nemen.
(Lees verder : Wall Street Journal , Technical.ly Brooklyn , Bloomberg , AI gaat van de grond [PDF])