Alle geautomatiseerde wervingssoftware is standaard vatbaar voor vooringenomenheid

Categorie: Technisch beleid Geplaatst 13 dec

NAAR nieuw rapport out van non-profit Upturn analyseerde enkele van de meest prominente wervingsalgoritmen op de markt en ontdekte dat dergelijke algoritmen standaard vatbaar zijn voor vooringenomenheid.

De wervingsstappen: Er zijn algoritmen ontwikkeld om vier primaire fasen van het wervingsproces te automatiseren: sourcing, screening, sollicitatiegesprekken en selectie. Uit de analyse bleek dat, hoewel voorspellende tools zelden werden ingezet om die definitieve keuze te maken over wie te huren, ze tijdens deze fasen vaak werden gebruikt om mensen af ​​te wijzen.

Wanneer vooringenomenheid binnensluipt: Als eerdere wervingsgegevens worden gebruikt, kan de trainingsinformatie bevooroordeeld of niet representatief zijn, waardoor deze vooroordelen worden overgedragen naar de software. Alleen al het verwijderen van gegevens over geslacht en ras houdt vooringenomenheid niet uit de software. Andere informatie, zoals de afstand tot het kantoor, kan sterk samenhangen met meer gevoelige factoren. Amazon zag dit in een wervingsalgoritme dat het probeerde te ontwikkelen. Wervingsmanagers kunnen ook geneigd zijn om te veel geloof te hechten aan de aanbevelingen die door wervingsalgoritmen worden gedaan.

AI reguleren: Uit de studie bleek ook dat de huidige wetten niet zijn toegerust om het probleem aan te pakken. De wetten die zijn ontworpen om beslissingen over het aannemen van mensen te reguleren, maken niet gemakkelijk onderzoek en handhaving mogelijk bij het omgaan met op machines gebaseerde discriminatie.

De pluspunten: Aan de andere kant kunnen voorspellende tools helpen om menselijke vooroordelen en aannames uit het verleden bloot te leggen die voorheen over het hoofd werden gezien. Dit zou bedrijven in staat stellen positieve veranderingen door te voeren in hun praktijken. Verschillende leveranciers ondernemen niet alleen stappen om hun producten te controleren op vooringenomenheid, maar ook om aandelenbevorderende functies in hun producten in te bouwen, zegt een van de auteurs van het rapport, Miranda Bogen. We hopen dat meer leveranciers dit soort interventies zullen omarmen, maar er is nog een lange weg te gaan voordat we erop kunnen vertrouwen dat voorspellende tools niet meer schade dan voordelen aanrichten.

Het probleem oplossen: Om het gebruik van het inhuren van AI's eerlijker te maken, beveelt het rapport het volgende aan:

—onafhankelijke controle van software van werkgevers en leveranciers mogelijk maken
—overheden hun regelgeving laten bijwerken om voorspellende wervingssoftware te dekken
-advertentie- en vacatureplatforms in meer detail onderzoeken om hun groeiende invloed op werving te analyseren

Omdat er zoveel verschillende punten in dat proces zijn waar vooroordelen kunnen ontstaan, moeten werkgevers zeker voorzichtig te werk gaan, zegt Bogen. Ze moeten transparant zijn over de voorspellende tools die ze gebruiken en alle mogelijke stappen ondernemen om proactief vooroordelen te detecteren en aan te pakken - en als ze dat niet met vertrouwen kunnen doen, moeten ze de stekker eruit trekken.

Dit artikel is oorspronkelijk gepubliceerd in onze nieuwsbrief over de toekomst van werk, Inklokken. U kunt zich hier aanmelden.