LinkedIn's job-matching AI was bevooroordeeld. De oplossing van het bedrijf? Meer AI.

mevrouw Tech | Envato

Jaren geleden ontdekte LinkedIn dat de aanbevelingsalgoritmen die het gebruikt om sollicitanten te matchen met vacatures, vooringenomen resultaten opleverden. De algoritmen rangschikten kandidaten mede op basis van hoe waarschijnlijk het was dat ze zouden solliciteren naar een functie of zouden reageren op een recruiter. Het systeem verwees uiteindelijk meer mannen dan vrouwen voor open functies, simpelweg omdat mannen vaak agressiever zijn in het zoeken naar nieuwe kansen.

LinkedIn ontdekte het probleem en bouwde een ander AI-programma om de vertekening in de resultaten van het eerste tegen te gaan. Ondertussen hanteren enkele van 's werelds grootste vacaturesites - waaronder CareerBuilder, ZipRecruiter en Monster - een heel andere benadering om vooroordelen op hun eigen platforms aan te pakken, zoals we melden in de nieuwste aflevering van de podcast van MIT Technology Review In Machines We Trust. Omdat deze platforms echter niet precies onthullen hoe hun systemen werken, is het voor werkzoekenden moeilijk om te weten hoe effectief een van deze maatregelen is om discriminatie daadwerkelijk te voorkomen.

Als u vandaag op zoek zou gaan naar een nieuwe baan, zou kunstmatige intelligentie uw zoektocht hoogstwaarschijnlijk beïnvloeden. AI kan bepalen welke vacatures u ziet op vacaturesites en beslissen of u uw cv doorgeeft aan de recruiters van een bedrijf. Sommige bedrijven kunnen je vragen om te spelen AI-aangedreven videogames die je persoonlijkheidskenmerken meten en peilen of je geschikt bent voor specifieke rollen.

Verwant verhaal

Auditors testen wervingsalgoritmen op vooringenomenheid, maar er is geen gemakkelijke oplossing

AI-audits kunnen bepaalde soorten vooroordelen over het hoofd zien, en ze verifiëren niet noodzakelijkerwijs dat een wervingstool de beste kandidaten voor een baan kiest.

Steeds meer bedrijven gebruiken AI om nieuwe werknemers te werven en aan te nemen, en AI kan hierbij een rol spelen: bijna elke fase in het wervingsproces . Covid-19 zorgde voor een nieuwe vraag naar deze technologieën. Beide Nieuwsgierig ding en HuurVue , bedrijven die gespecialiseerd zijn in AI-aangedreven interviews, meldden een toename van het bedrijfsleven tijdens de pandemie.

De meeste banenjachten beginnen echter met een eenvoudige zoekopdracht. Werkzoekenden wenden zich tot platforms zoals LinkedIn , Monster , of ZipRecruiter , waar ze hun cv kunnen uploaden, door vacatures kunnen bladeren en kunnen solliciteren op vacatures.

Het doel van deze websites is om gekwalificeerde kandidaten te matchen met beschikbare vacatures. Om al deze vacatures en kandidaten te organiseren, gebruiken veel platforms AI-aangedreven aanbevelingsalgoritmen. De algoritmen, ook wel matching-engines genoemd, verwerken informatie van zowel de werkzoekende als de werkgever om voor elk een lijst met aanbevelingen samen te stellen.

Je hoort meestal de anekdote dat een recruiter zes seconden naar je cv kijkt, toch? zegt Derek Kan, vice-president productbeheer bij Monster. Als we kijken naar de aanbevelingsengine die we hebben gebouwd, kunt u die tijd terugbrengen tot milliseconden.

De meeste matching-engines zijn geoptimaliseerd om applicaties te genereren, zegt John Jersin , de voormalige vice-president van productbeheer bij LinkedIn. Deze systemen baseren hun aanbevelingen op drie categorieën gegevens: informatie die de gebruiker rechtstreeks aan het platform verstrekt; gegevens die aan de gebruiker zijn toegewezen op basis van anderen met vergelijkbare vaardigheden, ervaringen en interesses; en gedragsgegevens, zoals hoe vaak een gebruiker reageert op berichten of interactie heeft met vacatures.

In het geval van LinkedIn sluiten deze algoritmen de naam, leeftijd, geslacht en ras van een persoon uit, omdat het opnemen van deze kenmerken kan bijdragen aan vooringenomenheid in geautomatiseerde processen. Maar het team van Jersin ontdekte dat de algoritmen van de dienst nog steeds gedragspatronen konden detecteren die werden vertoond door groepen met bepaalde genderidentiteiten.

Terwijl mannen bijvoorbeeld eerder solliciteren naar banen waarvoor werkervaring vereist is die verder gaat dan hun kwalificaties, hebben vrouwen de neiging om alleen banen te zoeken waarin hun kwalificaties overeenkomen met de vereisten van de functie. Het algoritme interpreteert deze variatie in gedrag en past zijn aanbevelingen aan op een manier die onbedoeld vrouwen benadeelt.

Je zou bijvoorbeeld meer senior banen kunnen aanbevelen aan de ene groep mensen dan aan de andere, zelfs als ze op hetzelfde niveau gekwalificeerd zijn, zegt Jersin. Die mensen krijgen misschien niet dezelfde kansen. En dat is eigenlijk de impact waar we het hier over hebben.

Mannen nemen ook meer vaardigheden op op hun cv met een lagere vaardigheid dan vrouwen, en ze gaan vaak agressiever om met recruiters op het platform.

Om dergelijke problemen aan te pakken, hebben Jersin en zijn team op LinkedIn bouwde een nieuwe AI ontworpen om representatievere resultaten te produceren en in 2018 geïmplementeerd. Het was in wezen een afzonderlijk algoritme dat was ontworpen om aanbevelingen tegen te gaan die scheef waren in de richting van een bepaalde groep. De nieuwe AI zorgt ervoor dat het aanbevelingssysteem, voordat de door de oorspronkelijke engine samengestelde matches worden doorverwezen, een representatieve verdeling van gebruikers over geslacht omvat.

Kan zegt dat Monster, dat op elk moment 5 tot 6 miljoen banen opsomt, ook gedragsgegevens in zijn aanbevelingen opneemt, maar niet op dezelfde manier corrigeert voor vooringenomenheid als LinkedIn doet. In plaats daarvan richt het marketingteam zich erop dat gebruikers met verschillende achtergronden zich voor de dienst hebben aangemeld, en het bedrijf vertrouwt vervolgens op werkgevers om verslag uit te brengen en Monster te vertellen of het een representatieve groep kandidaten heeft doorgegeven.

Irina Novoselsky , CEO van CareerBuilder, zegt dat ze zich richt op het gebruik van gegevens die de service verzamelt om werkgevers te leren hoe ze vooroordelen uit hun vacatures kunnen verwijderen. Als een kandidaat bijvoorbeeld een functiebeschrijving leest met het woord 'rockstar', is er een aanzienlijk lager percentage vrouwen dat solliciteert, zegt ze.

Ian Seal , CEO en medeoprichter van ZipRecruiter, zegt dat de algoritmen van het bedrijf geen rekening houden met bepaalde identificerende kenmerken zoals namen bij het rangschikken van kandidaten; in plaats daarvan classificeren ze mensen op basis van 64 andere soorten informatie, waaronder geografische gegevens. Hij zegt dat het bedrijf de details van zijn algoritmen niet bespreekt, daarbij verwijzend naar zorgen over intellectueel eigendom, maar voegt eraan toe: ik geloof dat we zo dicht bij een op verdiensten gebaseerde beoordeling van mensen zijn als momenteel mogelijk is.

Met automatisering bij elke stap van het wervingsproces, moeten werkzoekenden nu leren hoe ze zich kunnen onderscheiden van zowel het algoritme als de wervingsmanagers. Maar zonder duidelijke informatie over wat deze algoritmen doen, staan ​​kandidaten voor grote uitdagingen.

Ik denk dat mensen de impact die algoritmen en aanbevelingsmotoren op banen hebben onderschatten, zegt Kan. De manier waarop je jezelf presenteert, wordt hoogstwaarschijnlijk eerst door duizenden machines en servers gelezen, voordat het zelfs maar in een menselijk oog komt.

Dit artikel is bijgewerkt op 25-6-21 om aan te geven dat de nieuwe AI van LinkedIn zorgt voor een representatieve verdeling van gebruikers (geen gelijkmatige verdeling) over geslachten worden aanbevolen voor banen.

zich verstoppen