211service.com
Voorstanders van gehandicaptenrechten maken zich zorgen over discriminatie in AI-wervingstools
mevrouw Tech | Getty
Je vermogen om je volgende baan te krijgen, kan afhangen van hoe goed je een van de AI-aangedreven games speelt die bedrijven leuk vinden AstraZeneca en postgenoten worden steeds vaker gebruikt in het wervingsproces.
Sommige bedrijven die deze spellen maken, zoals Pymetrics en Arctic Shores, beweren dat ze vooroordelen bij het aannemen van personeel beperken. Maar voor werkzoekenden met een handicap kunnen AI-aanwervingsgames bijzonder moeilijk te navigeren zijn.
In de nieuwste aflevering van de podcast In Machines We Trust van MIT Technology Review onderzoeken we hoe door AI aangedreven wervingsgames en andere tools mensen met een handicap kunnen uitsluiten. En hoewel veel mensen in de VS een beroep doen op de federale commissie die verantwoordelijk is voor discriminatie op het werk om deze technologieën te reguleren, moet het agentschap nog actie ondernemen.
Om het van dichterbij te bekijken, vroegen we: Henry Claypool , een analist van het gehandicaptenbeleid, om een van te spelen pymetrie ’s spellen. Pymetrics meet negen vaardigheden, waaronder aandacht, vrijgevigheid en risicotolerantie, die CEO en medeoprichter Frida Polly zegt betrekking hebben op succes op het werk.
Wanneer het werkt met een bedrijf dat op zoek is naar nieuwe mensen, vraagt Pymetrics het bedrijf eerst om mensen te identificeren die al slagen in de baan die het probeert te vervullen, en laat ze zijn spelletjes spelen. Om vervolgens de vaardigheden te identificeren die het meest specifiek zijn voor de succesvolle werknemers, vergelijkt het hun spelgegevens met gegevens van een willekeurige steekproef van spelers.
Toen hij zich aanmeldde, zette de game Claypool ertoe aan te kiezen tussen een aangepaste versie - ontworpen voor mensen met kleurenblindheid, ADHD of dyslexie - en een ongewijzigde versie. Deze vraag stelt aanvragers met een handicap voor een dilemma, zegt hij.
De angst is dat als ik op een van deze klik, ik iets zal onthullen dat me diskwalificeert voor de baan, en als ik niet klik op - zeg maar - dyslexie of wat dan ook dat het voor mij moeilijk maakt om brieven te lezen en als ik die informatie snel verwerk, ben ik in het nadeel, zegt Claypool. Ik ga hoe dan ook falen.
Verwant verhaal
We hebben AI-interviewtools getest. Dit is wat we hebben gevonden. Eén gaf onze kandidaat een hoge score voor Engelse taalvaardigheid toen ze alleen in het Duits sprak.
Polli zegt dat Pymetrics werkgevers niet vertelt welke sollicitanten tijdens het wervingsproces in-game aanpassingen hebben aangevraagd, wat zou moeten voorkomen dat werkgevers mensen met bepaalde handicaps discrimineren. Ze voegde eraan toe dat het bedrijf in reactie op onze rapportage deze informatie duidelijker zal maken, zodat aanvragers weten dat hun behoefte aan een in-game accommodatie privé en vertrouwelijk is.
De Americans with Disabilities Act vereist dat werkgevers redelijke aanpassingen bieden aan mensen met een handicap. En als de wervingsbeoordelingen van een bedrijf mensen met een handicap uitsluiten, dan moet het bewijzen dat die beoordelingen noodzakelijk zijn voor de baan.
Voor werkgevers, met behulp van games zoals die geproduceerd door Arctische kusten lijkt misschien objectiever. In tegenstelling tot traditionele psychometrische tests, evalueert het algoritme van Arctic Shores kandidaten op basis van hun keuzes tijdens het spel. Kandidaten weten echter vaak niet wat de game meet of wat ze kunnen verwachten tijdens het spelen. Voor aanvragers met een handicap maakt dit het moeilijk om te weten of ze om een accommodatie moeten vragen.
Safe Hammad, CTO en medeoprichter van Arctic Shores, zegt dat zijn team erop gericht is de beoordelingen voor zoveel mogelijk mensen toegankelijk te maken. Mensen met kleurenblindheid en gehoorbeperkingen kunnen de software van het bedrijf gebruiken zonder speciale aanpassingen, zegt hij, maar werkgevers mogen dergelijke verzoeken niet gebruiken om kandidaten te screenen.
Het gebruik van deze tools kan soms mensen uitsluiten op manieren die voor een potentiële werkgever misschien niet duidelijk zijn. patty sanchez is arbeidsdeskundige bij de MacDonald Trainingscentrum in Florida die werkt met werkzoekenden die doof of slechthorend zijn. Ongeveer twee jaar geleden solliciteerde een van haar klanten naar een baan bij Amazone waarvoor een video-interview nodig was via HuurVue .
Sanchez, die ook doof is, probeerde het bedrijf te bellen en om hulp te vragen, maar kon er niet doorkomen. In plaats daarvan bracht ze haar cliënt en een gebarentaaltolk naar de verhuurlocatie en haalde vertegenwoordigers daar over om hem persoonlijk te interviewen. Amazon heeft haar klant ingehuurd, maar Sanchez zegt dat dit soort problemen vaak voorkomen bij het navigeren door geautomatiseerde systemen. (Amazon heeft niet gereageerd op een verzoek om commentaar.)
Het toegankelijk maken van wervingstechnologie betekent ervoor zorgen dat een kandidaat de technologie kan gebruiken en dat de vaardigheden die het meet, kandidaten met een handicap niet op oneerlijke wijze uitsluit, zegt hij. Alexandra Givens , de CEO van de Centrum voor Democratie en Technologie , een organisatie gericht op burgerrechten in het digitale tijdperk.
AI-aangedreven wervingstools houden vaak geen rekening met mensen met een handicap bij het genereren van hun trainingsgegevens, zegt ze. Zulke mensen zijn al lang uitgesloten van het personeelsbestand, dus algoritmen die zijn gemodelleerd naar de eerdere aanwervingen van een bedrijf, weerspiegelen hun potentieel niet.
Zelfs als de modellen uitschieters zouden kunnen verklaren, verschilt de manier waarop een handicap zich presenteert sterk van persoon tot persoon. Twee mensen met autisme kunnen bijvoorbeeld heel verschillende sterke punten en uitdagingen hebben.
Terwijl we deze systemen automatiseren en werkgevers streven naar wat het snelst en meest efficiënt is, verliezen ze de kans voor mensen om hun kwalificaties en hun bekwaamheid om het werk te doen, daadwerkelijk te laten zien, zegt Givens. En dat is een enorm verlies.
Een hands-off benadering
Overheidsregelgevers vinden het moeilijk om AI-wervingstools te controleren. In december 2020 schreven 11 senatoren: een brief naar de Amerikaanse Commissie voor gelijke kansen op werk bezorgdheid uit over het gebruik van wervingstechnologieën na de covid-19-pandemie. In de brief werd gevraagd naar de bevoegdheid van het bureau om te onderzoeken of deze tools discrimineren, met name tegen mensen met een handicap.
De EEOC reageerde in januari met een brief die was gelekt naar MIT Technology Review . In de brief gaf de commissie aan dat ze geen AI-inhuurtools kan onderzoeken zonder een specifieke claim van discriminatie. De brief schetste ook bezorgdheid over de aarzeling van de sector om gegevens te delen en zei dat variatie tussen de software van verschillende bedrijven zou verhinderen dat de EEOC een algemeen beleid zou invoeren.
Ik was verrast en teleurgesteld toen ik de reactie zag, zegt Roland Behm , een advocaat en pleitbezorger voor mensen met gedragsproblemen. De hele strekking van die brief leek de EEOC meer een passieve toeschouwer dan een handhavingsinstantie te laten lijken.
Het bureau start meestal een onderzoek zodra een persoon een claim van discriminatie indient. Met AI-wervingstechnologie weten de meeste kandidaten echter niet waarom ze zijn afgewezen voor de baan. Ik denk dat een reden dat we niet meer handhavingsacties of particuliere rechtszaken op dit gebied hebben gezien, te wijten is aan het feit dat kandidaten niet weten dat ze worden beoordeeld of beoordeeld door een computer, zegt Keith Nerd , een EEOC-commissaris.
Sonderling zegt dat hij gelooft dat kunstmatige intelligentie het wervingsproces zal verbeteren, en hij hoopt dat het bureau werkgevers advies zal geven over hoe ze dit het beste kunnen implementeren. Hij zegt dat hij het toezicht van het Congres verwelkomt.
Verwant verhaal
Auditors testen wervingsalgoritmen op vooringenomenheid, maar er is geen gemakkelijke oplossing AI-audits kunnen bepaalde soorten vooroordelen over het hoofd zien, en ze verifiëren niet noodzakelijkerwijs dat een wervingstool de beste kandidaten voor een baan kiest.
Echter, Aaron Rieke , directeur van opleving , een non-profitorganisatie die zich toelegt op burgerrechten en technologie, sprak zijn teleurstelling uit over de reactie van de EEOC: ik zou eigenlijk hopen dat de EEOC in de komende jaren een beetje agressiever en creatiever zou kunnen zijn in het nadenken over het gebruik van die autoriteit.
Pauline Kim , een professor in de rechten aan de Washington University in St. Louis , wiens onderzoek zich richt op algoritmische wervingstools, zegt dat de EEOC proactiever zou kunnen zijn bij het verzamelen van onderzoek en het bijwerken van richtlijnen om werkgevers en AI-bedrijven te helpen de wet na te leven.
Behm voegt eraan toe dat de EEOC andere handhavingsmogelijkheden zou kunnen nastreven, waaronder een aanklacht van een commissaris, waardoor commissarissen een onderzoek naar vermoedelijke discriminatie kunnen starten in plaats van een individuele claim te eisen (Sonderling zegt dat hij overweegt een dergelijke aanklacht in te dienen). Hij stelt ook voor dat het EEOC overleg pleegt met belangengroepen om richtlijnen te ontwikkelen voor AI-bedrijven in de hoop mensen met een handicap beter te vertegenwoordigen in hun algoritmische modellen.
Het is onwaarschijnlijk dat AI-bedrijven en werkgevers expres mensen met een handicap uitfilteren, zegt Behm. Maar ze hebben niet de tijd en moeite gestoken die nodig zijn om de systemen te begrijpen die voor veel mensen levensveranderende beslissingen nemen: word ik aangenomen of niet? Kan ik mijn gezin onderhouden of niet?