AI moet het probleem van de onzichtbare werknemer onder ogen zien

SAIPH SAVAGE

Veel van de meest succesvolle en meest gebruikte machine learning-modellen zijn getraind met de hulp van duizenden laagbetaalde gigwerkers . Miljoenen mensen over de hele wereld verdienen geld op platforms als Amazon Mechanical Turk, waarmee bedrijven en onderzoekers kleine taken kunnen uitbesteden aan online crowdworkers. Volgens één schatting , verdienen meer dan een miljoen mensen alleen al in de VS elke maand geld door op deze platforms te werken. Zo'n 250.000 van hen verdienen op deze manier minimaal driekwart van hun inkomen. Maar hoewel velen voor enkele van de rijkste AI-labs ter wereld werken, worden ze onder het minimumloon betaald en krijgen ze geen kansen om hun vaardigheden te ontwikkelen.

Saiph Savage is de directeur van het mens-computerinteractielab aan de West Virginia University, waar ze werkt aan maatschappelijke technologie, waarbij ze zich richt op zaken als het bestrijden van desinformatie en het helpen van gigwerkers om hun werkomstandigheden te verbeteren. Deze week gaf ze een uitgenodigd gesprek bij NeurIPS , een van 's werelds grootste AI-conferenties, getiteld A future of work for the invisible workers in AI. Ik sprak met Savage op Zoom de dag voordat ze haar talk gaf.

Ons gesprek is bewerkt voor duidelijkheid en lengte.

Je hebt het over de onzichtbare werkers in AI. Wat voor werk doen deze mensen?

Veel taken omvatten het labelen van gegevens, met name afbeeldingsgegevens, die worden ingevoerd in onder toezicht staande machine learning-modellen, zodat ze de wereld beter begrijpen. Andere taken zijn het transcriberen van audio. Als je bijvoorbeeld met Alexa van Amazon praat, kan het zijn dat werknemers transcriberen wat je zegt, zodat het algoritme voor spraakherkenning spraak beter leert begrijpen. En ik had net een ontmoeting met crowdworkers op het platteland van West Virginia. Ze worden ingehuurd door Amazon om veel dialogen voor te lezen om Alexa te helpen begrijpen hoe mensen in die regio praten. U kunt werknemers ook websites laten labelen die mogelijk vol staan ​​met aanzetten tot haat of pedofilie. Dit is de reden waarom, wanneer u naar afbeeldingen zoekt op Google of Bing, u niet aan die dingen wordt blootgesteld.

Mensen worden ingehuurd om deze taken uit te voeren op platforms zoals Amazon Mechanical Turk. Grote technologiebedrijven kunnen interne versies gebruiken, bijvoorbeeld Facebook en Microsoft. Het verschil met Amazon Mechanical Turk is dat iedereen het kan gebruiken. Onderzoekers en startups kunnen op het platform aansluiten en zichzelf van stroom voorzien met onzichtbare werkers.

Welke problemen hebben deze onzichtbare arbeiders?

Ik zie crowdwork niet echt als een slechte zaak; het is echt een goed idee. Het heeft het voor bedrijven heel gemakkelijk gemaakt om extern personeel toe te voegen.

Verwant verhaal

De komende oorlog tegen de verborgen algoritmen die mensen in armoede vangen Een groeiende groep advocaten ontdekken, navigeren en bestrijden de geautomatiseerde systemen die de slechte huisvesting, banen en basisvoorzieningen ontkennen.

Maar er zijn een aantal problemen. Een daarvan is dat werknemers op deze platforms zeer lage lonen verdienen. We deden een onderzoek waarbij we honderden Amazon Mechanical Turk-werknemers gedurende meerdere jaren volgden, en we ontdekten dat ze ongeveer $ 2 per uur verdienden. Dit is veel minder dan het Amerikaanse minimumloon. Er zijn mensen die hun leven aan deze platforms wijden; het is hun belangrijkste bron van inkomsten.

En dat brengt andere problemen met zich mee. Deze platforms snijden ook toekomstige banen af, omdat fulltime crowdworkers geen manier krijgen om hun vaardigheden te ontwikkelen - althans niet degenen die worden erkend. We ontdekten dat veel mensen hun werk op deze platforms niet op hun cv zetten. Als ze zeggen dat ze aan Amazon Mechanical Turk hebben gewerkt, weten de meeste werkgevers niet eens wat dat is. De meeste werkgevers zijn zich er niet van bewust dat dit de werknemers achter onze AI zijn.

Het is duidelijk dat je een echte passie hebt voor wat je doet. Hoe ben je hier uiteindelijk mee aan de slag gegaan?

Ik werkte aan een onderzoeksproject op Stanford, waar ik eigenlijk een crowdworker was, en het stelde me bloot aan de problemen. Ik hielp bij het ontwerpen van een nieuw platform, dat leek op Amazon Mechanical Turk, maar werd beheerd door de arbeiders. Maar ik was ook techneut bij Microsoft. En dat opende ook mijn ogen voor hoe het is om bij een groot techbedrijf te werken. Je wordt gezichtsloos, wat erg lijkt op wat crowdworkers ervaren. En dat heeft me er echt toe aangezet om de werkplek te willen veranderen.

Je had het over een studie. Hoe kom je erachter wat deze werknemers doen en met welke omstandigheden ze te maken hebben?

Ik doe drie dingen. Ik interview werknemers, ik voer enquêtes uit en ik bouw tools die me een meer kwantitatief perspectief geven op wat er op deze platforms gebeurt. Ik heb kunnen meten hoeveel tijd werknemers investeren in het voltooien van taken. Ik meet ook de hoeveelheid onbetaalde arbeid die werknemers verrichten, zoals het zoeken naar taken of communiceren met een werkgever - dingen waarvoor je zou worden betaald als je een salaris had.

Je bent deze week uitgenodigd om een ​​lezing te geven bij NeurIPS. Waarom is dit iets dat de AI-gemeenschap moet horen?

Welnu, ze stimuleren hun onderzoek met de arbeid van deze arbeiders. Ik denk dat het heel belangrijk is om te beseffen dat een zelfrijdende auto of wat dan ook bestaat vanwege mensen die geen minimumloon krijgen. Terwijl we nadenken over de toekomst van AI, moeten we nadenken over de toekomst van werk. Het is nuttig eraan te herinneren dat deze werkers mensen zijn.

Beweert u dat bedrijven of onderzoekers bewust te weinig betalen?

Nee, dat is het niet. Ik denk dat ze misschien onderschatten wat ze van werknemers vragen en hoe lang het zal duren. Maar vaak hebben ze gewoon helemaal niet nagedacht over de andere kant van de transactie.

Omdat ze gewoon een platform op internet zien. En het is goedkoop.

Ja precies.

Wat doen we eraan?

Veel dingen. Ik help werknemers om een ​​idee te krijgen hoe lang een taak hen kan kosten. Op deze manier kunnen ze evalueren of een taak de moeite waard zal zijn. Daarom heb ik voor deze platforms een AI-plug-in ontwikkeld die werknemers helpt informatie te delen en elkaar te coachen over welke taken hun tijd waard zijn en waarmee je bepaalde vaardigheden kunt ontwikkelen. De AI leert welk type advies het meest effectief is. Het neemt de tekstopmerkingen op die werknemers naar elkaar schrijven en leert welk advies tot betere resultaten leidt en promoot dit op het platform.

Stel dat werknemers hun loon willen verhogen. De AI identificeert welk type advies of strategie het meest geschikt is om werknemers daarbij te helpen. Het kan bijvoorbeeld suggereren dat u dit soort taken van deze werkgevers doet, maar niet deze andere soorten taken daar. Of het zal u vertellen niet meer dan vijf minuten te besteden aan het zoeken naar werk. Het machine-learningmodel is gebaseerd op de subjectieve mening van werknemers over Amazon Mechanical Turk, maar ik ontdekte dat het de lonen van werknemers kon verhogen en hun vaardigheden kon ontwikkelen.

Dus het gaat erom werknemers te helpen het meeste uit deze platforms te halen?

Dat is een begin. Maar het zou interessant zijn om na te denken over carrièreladders. We kunnen werknemers bijvoorbeeld begeleiden bij het uitvoeren van een aantal verschillende taken waardoor ze hun vaardigheden kunnen ontwikkelen. We kunnen ook nadenken over het bieden van andere mogelijkheden. Bedrijven die banen op deze platforms plaatsen, kunnen de werknemers online micro-stages aanbieden.

En we moeten ondernemers steunen. Ik heb tools ontwikkeld die mensen helpen hun eigen gig-marktplaatsen te creëren. Denk eens aan deze werknemers: ze zijn erg bekend met optredens en hebben misschien nieuwe ideeën over hoe ze een platform moeten runnen. Het probleem is dat ze niet over de technische vaardigheden beschikken om er een op te zetten, dus ik bouw een tool die het opzetten van een platform een ​​beetje laat lijken op het configureren van een websitesjabloon.

Veel hiervan gaat over het gebruik van technologie om de machtsverhoudingen te verschuiven.

Het gaat ook om het veranderen van het verhaal. Ik heb onlangs twee crowdworkers ontmoet met wie ik heb gesproken en ze noemen zichzelf eigenlijk tech-werkers, wat - ik bedoel, ze zijn op een bepaalde manier tech-werkers omdat ze onze technologie aandrijven. Als we het hebben over crowdworkers, wordt meestal voorgesteld dat ze deze vreselijke banen hebben. Maar het kan nuttig zijn om de manier waarop we denken over wie deze mensen zijn, te veranderen. Het is gewoon een andere technische baan.

zich verstoppen