211service.com
Is de gig-economie opgetuigd?
Illustratie door Matthew Hollister
Apps en sites die kunnen worden gebruikt om mensen in te huren voor individuele taken, zoals het ophalen van boodschappen of het ontwerpen van een nieuw logo, hebben de afgelopen jaren een grote vlucht genomen en beloven een efficiëntere en eerlijkere markt voor werkgelegenheid. Een nieuwe studie van de Northeastern University in Boston suggereert echter dat raciale en seksuele discriminatie gebruikelijk kan zijn op twee populaire gig-economieplatforms.
Onderzoekers onder leiding van Christo Wilson , een assistent-professor aan Northeastern, en Ancsa Hannák , een promovendus, onderzocht TaskRabbit, een platform voor het inhuren van mensen om boodschappen te doen, en Fiverr, een marktplaats voor creatieve diensten. Op beide vonden ze bewijs van vooringenomenheid langs raciale en geslachtslijnen.
Het is slechts één voorbeeld van hoe vooringenomenheid online platforms en services binnensluipt. En het is verontrustend omdat de kluseconomie beloofde niet alleen efficiënter en flexibeler te zijn, maar ook minder bevooroordeeld, aangezien algoritmen het werk doen om mensen met elkaar in contact te brengen.
Op Fiverr vonden de onderzoekers bewijs dat zwarte en Aziatische arbeiders lagere beoordelingen kregen dan blanke mensen. En op TaskRabbit kregen vrouwen minder beoordelingen dan mannen, en zwarte arbeiders kregen lagere beoordelingen dan blanke. Misschien wel het meest verontrustend, vonden de onderzoekers ook bewijs van een dergelijke vooringenomenheid in het aanbevelingsalgoritme op TaskRabbit. Het onderzoek wordt deze week gepresenteerd op een academische conferentie in New York.
Het is onmogelijk om met zekerheid te zeggen dat de door Wilson en Hannák geïdentificeerde correlatie te wijten is aan raciale en gendervooroordelen van de kant van de huurders, in tegenstelling tot een onbekende verstorende factor, maar Wilson zegt dat het patroon zorgwekkend is. Er is ons verteld dat dit de toekomst van arbeid is, zegt hij. Als je een algoritme gaat uitrollen dat door miljoenen mensen zal worden gebruikt, heb je een soort verantwoordelijkheid jegens het publiek om te onderzoeken wat je implementeert, het te evalueren en te zien of het een van deze zal hebben negatieve bijwerkingen.
Een woordvoerder van Fiverr stelt dat de methodologie van het onderzoek gebrekkig was omdat het factoren zoals internationale grenzen en taalverschillen negeert. Ze merkt ook op dat gebruikers geen demografische informatie hoeven te verstrekken om de service te gebruiken, waardoor het gemakkelijk is om discriminatie te voorkomen. TaskRabbit heeft niet gereageerd op een verzoek om commentaar.
Er zijn echter steeds meer aanwijzingen dat vooringenomenheid van invloed kan zijn op alle soorten digitale diensten. Vorige maand hebben onderzoekers van MIT, Stanford en de Universiteit van Washington ontdekte dat dat Uber-chauffeurs in Boston vaker reizen annuleerden voor klanten met Afro-Amerikaans klinkende namen, en dat zwarte Uber-klanten in Seattle langere wachttijden hadden dan hun blanke tegenhangers. In een vorig jaar gepubliceerd onderzoek hebben onderzoekers van CMU bewijs gevonden dat advertenties voor goedbetaalde banen vaker aan mannen dan aan vrouwen werden getoond.
In veel gevallen weerspiegelt de waargenomen vooringenomenheid gewoon wat er in de echte wereld wordt gevonden, zoals de bewuste en onbewuste vooroordelen die werkgevers kunnen hebben bij het nemen van beslissingen. Dus voor aanbevelingsengines of machine learning-systemen is de vraag hoe vooringenomenheid kan worden verwijderd, hetzij uit de datasets die naar algoritmen worden gevoerd, hetzij uit de algoritmen zelf.
Mensen hebben het idee dat het neutraal is omdat het een computer is, voegt Wilson eraan toe. Als je gegevens hebt die bevooroordeeld zijn, is het logisch dat je een algoritme gaat trainen dat bevooroordeeld is.
Don MacKenzie , een assistent-professor aan de Universiteit van Washington en een van de auteurs van de recente Uber-studie, benadrukt dat de studie niet aantoont dat er raciale of gendervooroordelen in het spel zijn. Maar hij zegt dat het belangrijk is om vooringenomenheid in de kluseconomie en onderliggende algoritmen in overweging te nemen, en voegt eraan toe dat het probleem beheersbaar moet zijn als bedrijven voorzichtig zijn.
Dit is een opkomend gebied, en als er een reeks best practices is, ben ik me daar niet van bewust, zegt MacKenzie. Vanuit mijn perspectief moeten bedrijven, ontwikkelaars en datawetenschappers waakzaam zijn, naar feedback luisteren en niet bang zijn om verschillende oplossingen uit te proberen. Ik denk dat als iedereen deze kwesties te goeder trouw, constructief en met de bereidheid om verschillende dingen te proberen benadert, we dichter bij het elimineren van vooringenomenheid in deze systemen kunnen komen.