Amazon heeft AI-rekruteringssoftware gedumpt omdat het vooringenomen was tegen vrouwen

Categorie: Siliconen vallei Geplaatst 10 okt

De gegevens waarop het kunstmatige-intelligentie-algoritme was getraind, creëerden een voorkeur voor mannelijke kandidaten.

Het nieuws: Volgens een rapport van Reuters , begon Amazon in 2014 met de ontwikkeling van een geautomatiseerd systeem om werkzoekenden te rangschikken met één tot vijf sterren. Maar vorig jaar schrapte het bedrijf het project nadat het een voorkeur had ontwikkeld voor mannelijke kandidaten in technische functies.

Waarom? De AI-tool is getraind op basis van 10 jaar aan cv's die het bedrijf had ontvangen. Omdat technologie een door mannen gedomineerde industrie is, waren de meeste van die cv's afkomstig van mannen.

Het resultaat: Het systeem is onbedoeld getraind om mannelijke kandidaten te verkiezen boven vrouwelijke kandidaten. Het zou naar verluidt een straf opleveren voor cv's die het woord vrouwen of de namen van bepaalde colleges voor alleen vrouwen bevatten. Hoewel Amazon wijzigingen aanbracht om deze voorwaarden neutraal te maken, verloor het bedrijf het vertrouwen dat het programma inderdaad genderneutraal was op alle andere gebieden.

Waarom het uitmaakt: We kunnen kunstmatige intelligentie niet als inherent onbevooroordeeld behandelen. Door de systemen te trainen op bevooroordeelde data worden de algoritmen ook bevooroordeeld. Als oneerlijke AI-wervingsprogramma's zoals deze niet worden ontdekt voordat ze worden geïmplementeerd, zullen ze al lang bestaande diversiteitsproblemen in het bedrijfsleven bestendigen in plaats van ze op te lossen.

Wil je op de hoogte blijven van hoe technologie de werkplek van de toekomst verandert? Meld u aan voor onze nieuwsbrief over de toekomst van werk, Clocking In.