De AI-rekruteringsindustrie wordt onder de loep genomen, maar het zal moeilijk zijn om dit op te lossen

Categorie: Technisch beleid Geplaatst nov 07

Het Electronic Privacy Information Center (EPIC) heeft: vroeg de Federal Trade Commission om HireVue . te onderzoeken , een AI-tool die bedrijven helpt erachter te komen welke werknemers ze moeten aannemen.

Wat is HireVue? HireVue is een van een groeiend aantal kunstmatige-intelligentietools die bedrijven gebruiken om sollicitanten te beoordelen. Het algoritme analyseert video-interviews en gebruikt alles, van woordkeuze tot gezichtsbewegingen, om een ​​inzetbaarheidsscore te berekenen die wordt vergeleken met die van andere sollicitanten. Meer dan 100 bedrijven hebben het al gebruikt voor meer dan een miljoen sollicitanten, volgens de Washington Post .

Wat is het probleem? Het is moeilijk te voorspellen welke werknemers succesvol zullen zijn op basis van zaken als gezichtsuitdrukkingen. Erger nog, critici maken zich zorgen dat het algoritme is getraind op beperkte gegevens en dat het dus waarschijnlijker is dat traditionele sollicitanten (wit, mannelijk) als inzetbaarder worden bestempeld. Als gevolg hiervan zullen aanvragers die afwijken van het traditionele - inclusief mensen die geen Engels als moedertaal spreken of mensen met een handicap - waarschijnlijk lagere scores behalen, experts zeggen . Bovendien moedigt het sollicitanten aan om het systeem te spelen door te interviewen op een manier waarvan ze weten dat HireVue het leuk zal vinden.

Wat is het volgende? AI-inhuurtools zijn niet goed gereguleerd en het aanpakken van het probleem zal om een ​​paar redenen moeilijk zijn.

—De meeste bedrijven zullen hun gegevens niet vrijgeven of uitleggen hoe de algoritmen werken, dus het is erg moeilijk om enige vooringenomenheid te bewijzen. Dat is een deel van de reden waarom er tot nu toe geen grote rechtszaken zijn geweest. De EPIC-klacht, die suggereert dat de belofte van HireVue in strijd is met de FTC-regels tegen oneerlijke en bedrieglijke praktijken, is een begin. Maar het is niet duidelijk of er iets gaat gebeuren. De FTC heeft de klacht ontvangen, maar heeft niet gezegd of zij deze zal vervolgen.

-Andere pogingen om vooringenomenheid te voorkomen zijn goedbedoeld maar beperkt. Eerder dit jaar hebben wetgevers in Illinois een wet aangenomen die werkgevers verplicht om: vertel het op zijn minst aan werkzoekenden dat ze deze algoritmen zullen gebruiken en om hun toestemming te krijgen. Maar dat is niet erg handig. Veel mensen zullen waarschijnlijk instemmen, simpelweg omdat ze de kans niet willen missen.

—Ten slotte, net als AI in de gezondheidszorg of AI in de rechtszaal, zal kunstmatige intelligentie bij het aannemen van personeel de vooroordelen van de samenleving opnieuw creëren, wat een gecompliceerd probleem is. Regelgevers zullen moeten uitzoeken hoeveel verantwoordelijkheid bedrijven moeten nemen om de fouten van een bevooroordeelde samenleving te vermijden.