211service.com
Een AI-inhuurbedrijf zegt dat het jobhoppen kan voorspellen op basis van je sollicitatiegesprekken
Een screenshot van PredictiveHire.
Sinds het begin van de pandemie, een groeiend aantal bedrijven hebben zich tot AI gewend om te helpen bij hun aanwerving. De meest voorkomende systemen zijn het gebruik van algoritmen voor het scannen van gezichten, spelletjes, vragen of andere evaluaties om te bepalen welke kandidaten moeten worden geïnterviewd.
Terwijl activisten en wetenschappers waarschuwen dat deze screeningtools discriminatie in stand kunnen houden, stellen de makers zelf dat algoritmische aanwerving helpt bij het corrigeren van menselijk vooroordelen. Algoritmen kunnen worden getest en aangepast, terwijl menselijke vooroordelen veel moeilijker te corrigeren zijn - zo gaat het denken. In een papier van december 2019 , hebben onderzoekers van Cornell het landschap van algoritmische screeningbedrijven bekeken om hun claims en praktijken te analyseren. Van de 18 die ze identificeerden met Engelstalige websites, bracht de meerderheid zichzelf op de markt als een eerlijker alternatief voor personeelswerving, wat suggereert dat ze vasthielden aan de verhoogde bezorgdheid over deze problemen om de voordelen van hun tools aan te prijzen en meer klanten te krijgen.
Maar discriminatie is niet de enige zorg bij algoritmische aanwervingen, en sommige wetenschappers maken zich zorgen dat marketingtaal die zich richt op vooringenomenheid, bedrijven in staat stelt andere zaken, zoals de rechten van werknemers, te omzeilen. een nieuwe voordruk van een van deze bedrijven dient nu als een belangrijke herinnering: we moeten de aandacht die mensen zijn begonnen te besteden aan vooroordelen en discriminatie, niet het feit laten verdringen dat er een heleboel andere problemen zijn, zegt Solon Barocas, een assistent-professor aan de Cornell University en hoofdonderzoeker bij Microsoft Research, die algoritmische rechtvaardigheid en verantwoording bestudeert.
Het bedrijf in kwestie is het in Australië gevestigde PredictiveHire, opgericht in oktober 2013. Het biedt een chatbot die kandidaten een reeks open vragen stelt. Vervolgens analyseert het hun reacties om werkgerelateerde persoonlijkheidskenmerken zoals gedrevenheid, initiatief en veerkracht te beoordelen. Volgens de CEO van het bedrijf, Barbara Hyman, zijn haar klanten werkgevers die een groot aantal applicaties moeten beheren, zoals die in de detailhandel, verkoop, callcenters en gezondheidszorg. Zoals de Cornell-studie aantoonde, maakt het ook actief gebruik van beloften van eerlijker personeel in zijn marketingtaal. Op zijn homepage adverteert het stoutmoedig: Meet Phai. Uw co-piloot in aanwerving. Interviews SUPER SNEL maken. INCLUSIEF, EINDELIJK. EINDELIJK ZONDER BIAS.
Zoals we eerder hebben geschreven, is het idee van bias-vrije algoritmen: zeer misleidend . Maar PredictiveHire's laatste onderzoek is verontrustend om een andere reden. Het is gericht op het bouwen van een nieuw machine-learningmodel dat probeert te voorspellen hoe groot de kans is dat een kandidaat van baan verandert, de praktijk om vaker van baan te veranderen dan een werkgever wenst. Het werk volgt het recente peer-reviewed onderzoek van het bedrijf waarin werd gekeken naar hoe open sollicitatievragen correleren met persoonlijkheid (op zich al een zeer omstreden praktijk ). Omdat organisatiepsychologen al een verband hebben aangetoond tussen persoonlijkheid en jobhoppen, zegt Hyman, wilde het bedrijf testen of ze hun bestaande data konden gebruiken voor de voorspelling. Het behoud van werknemers is een enorm aandachtspunt voor veel bedrijven waarmee we werken, gezien de kosten van een hoog personeelsverloop, geschat op 16% van de kosten van het salaris van elke werknemer, voegt ze eraan toe.
Het onderzoek maakte gebruik van de vrije-tekstreacties van 45.899 kandidaten die de chatbot van PredictiveHire hadden gebruikt. Aanvragers waren oorspronkelijk vijf tot zeven open vragen en zelfbeoordelingsvragen gesteld over hun ervaringen uit het verleden en situationeel oordeel. Deze omvatten vragen die bedoeld waren om eigenschappen te plagen waarvan studies eerder hebben aangetoond dat ze sterk correleren met jobhoppende neigingen, zoals meer openstaan voor ervaring, minder praktisch en minder nuchter. De bedrijfsonderzoekers beweren dat het model jobhoppen met statistische significantie kon voorspellen. De website van PredictiveHire maakt al reclame voor dit werk als een beoordeling van het vluchtrisico binnenkort beschikbaar .
Het nieuwe werk van PredictiveHire is een goed voorbeeld van wat Nathan Newman stelt als een van de grootste nadelige effecten van big data op arbeid. Newman, adjunct universitair hoofddocent aan het John Jay College of Criminal Justice, schreef in: een wetsartikel uit 2017 dat naast de zorgen over discriminatie op het werk, big data-analyse ook op talloze manieren was gebruikt om de lonen van werknemers te verlagen.
Op machine learning gebaseerde persoonlijkheidstests worden bijvoorbeeld in toenemende mate gebruikt bij het aannemen van potentiële werknemers die een grotere kans hebben om te ageren voor hogere lonen of vakbondsvorming te ondersteunen. Werkgevers houden in toenemende mate de e-mails, chats en andere gegevens van werknemers in de gaten om te beoordelen wie er zou kunnen vertrekken en om de minimale loonsverhoging te berekenen die nodig is om hen te laten blijven. En algoritmische beheersystemen zoals die van Uber decentraliseren werknemers weg van kantoren en digitale vergaderruimten waardoor ze met elkaar kunnen coördineren en gezamenlijk een betere behandeling en beloning eisen.
Geen van deze voorbeelden zou verrassend moeten zijn, betoogde Newman. Ze zijn gewoon een moderne manifestatie van wat werkgevers in het verleden hebben gedaan om de lonen te onderdrukken door vakbondsactiviteiten aan te pakken en te beëindigen. Het gebruik van persoonlijkheidsbeoordelingen bij het aannemen van personeel, dat dateert uit de jaren dertig van de vorige eeuw in de VS, begon in feite als een mechanisme om mensen te elimineren die het meest waarschijnlijk arbeidsorganisatoren zouden worden. De tests werden vooral populair in de jaren zestig en zeventig toen organisatiepsychologen ze hadden verfijnd om werknemers te beoordelen op hun vakbondssympathieën.
In deze context is de strijd-risicobeoordeling van PredictiveHire slechts een ander voorbeeld van deze trend. Jobhoppen, of de dreiging van jobhoppen, wijst Barocas erop dat het een van de belangrijkste manieren is waarop werknemers hun inkomen kunnen verhogen. Het bedrijf bouwde zijn beoordeling zelfs op persoonlijkheidsonderzoeken die zijn ontworpen door organisatiepsychologen.
Barocas pleit er niet per se voor om de tools helemaal weg te gooien. Hij is van mening dat het een nobel doel is om het aannemen van personeel voor iedereen beter te laten werken en dat het zou kunnen worden bereikt als regelgevers dat verplichten grotere transparantie . Momenteel heeft geen van hen een strenge, peer-reviewed evaluatie gekregen, zegt hij. Maar als bedrijven meer openhartig zouden zijn over hun praktijken en hun tools zouden indienen voor een dergelijke validatie, zou dit kunnen helpen om hen verantwoordelijk te houden. Het zou wetenschappers ook kunnen helpen om gemakkelijker met bedrijven in contact te komen om de effecten van de tools op zowel arbeid als discriminatie te bestuderen.
Ondanks al mijn eigen werk van de afgelopen jaren, waarbij ik mijn bezorgdheid uitte over dit soort zaken, zegt hij, geloof ik eigenlijk dat veel van deze tools de huidige stand van zaken aanzienlijk kunnen verbeteren.