Facebook heeft 30.000 eigen contentmoderators nodig, zegt een nieuw rapport

Associated Press Associated Press

Stel je voor dat Facebook nu zou stoppen met het modereren van zijn site. Iedereen kon posten wat hij wilde. De ervaring lijkt te suggereren dat het vrij snel een zou worden helse omgeving overspoeld met spam, pesterijen, misdaad, terroristische onthoofdingen, neonazistische teksten en afbeeldingen van seksueel misbruik van kinderen. In dat scenario zouden waarschijnlijk grote delen van het gebruikersbestand vertrekken, gevolgd door de lucratieve adverteerders.

Maar als matiging zo belangrijk is, wordt het niet als zodanig behandeld. De overgrote meerderheid van de 15.000 mensen die de hele dag bezig zijn met beslissen wat wel en niet op Facebook mag, werkt niet eens voor Facebook. De hele functie van contentmoderatie wordt uitbesteed aan externe leveranciers, die tijdelijke werknemers in dienst hebben op precaire contracten op meer dan 20 locaties wereldwijd. Ze moeten honderden berichten per dag beoordelen, waarvan vele diep traumatiserend . fouten zijn wijdverbreid , ondanks de goedkeuring door het bedrijf van AI-tools om berichten te sorteren op basis waarvan aandacht nodig is. Facebook heeft zelf toegegeven een foutenpercentage van 10% te hebben, of het nu gaat om het ten onrechte markeren van te verwijderen berichten die moeten worden bijgehouden of omgekeerd. Aangezien recensenten drie miljoen berichten per dag moeten doorlopen, komt dat neer op 300.000 fouten per dag. Sommige fouten kunnen dodelijke gevolgen hebben. Leden van het leger van Myanmar gebruikten bijvoorbeeld Facebook aanzetten tot genocide tegen de overwegend islamitische Rohingya-minderheid in 2016 en 2017. Het bedrijf gaf het later toe slaagde er niet in zijn eigen beleid af te dwingen het verbieden van haatzaaiende uitlatingen en het aanzetten tot geweld.

Als we willen verbeteren hoe moderatie wordt uitgevoerd, moet Facebook inhoudsmoderators in huis halen, hen volwaardige werknemers maken en hun aantal verdubbelen, stelt een nieuw rapport van het Stern Center for Business and Human Rights van de New York University.

Contentmoderatie is niet zoals andere uitbestede functies, zoals koken of schoonmaken, zegt rapportauteur Paul M. Barrett, adjunct-directeur van het centrum. Het is een centrale functie van het bedrijf van sociale media, en dat maakt het enigszins vreemd dat het wordt behandeld alsof het een perifeer probleem is of het probleem van iemand anders.

Waarom wordt contentmoderatie op deze manier behandeld door de leiders van Facebook? Het komt op zijn minst gedeeltelijk neer op de kosten, zegt Barrett. Zijn aanbevelingen zouden zijn: erg duur voor het bedrijf om uit te voeren - hoogstwaarschijnlijk in de tientallen miljoenen dollars (hoewel om dit in perspectief te plaatsen, het maakt miljarden dollars winst per jaar). Maar er is een tweede, meer complexe reden. De activiteit van contentmoderatie past gewoon niet in het zelfbeeld van Silicon Valley. Bepaalde soorten activiteiten worden zeer gewaardeerd en verheerlijkt - productinnovatie, slimme marketing, engineering ... de kern van de wereld van contentmoderatie past daar niet in, zegt hij.

Hij vindt dat het tijd is voor Facebook om moderatie als een centraal onderdeel van zijn bedrijf te beschouwen. Hij zegt dat het op deze manier verhogen van de status zou helpen om het soort catastrofale fouten die in Myanmar worden gemaakt te voorkomen, de verantwoordelijkheid te vergroten en werknemers beter te beschermen tegen schade aan hun geestelijke gezondheid.

Het lijkt een onvermijdelijke realiteit dat het modereren van de inhoud altijd gepaard gaat met blootstelling aan gruwelijk materiaal, zelfs als het werk in-house wordt gebracht. Er is echter zoveel meer dat het bedrijf zou kunnen doen om het gemakkelijker te maken: bijvoorbeeld moderators beter screenen om ervoor te zorgen dat ze zich echt bewust zijn van de risico's van het werk en ervoor zorgen dat ze eersteklas zorg en advies beschikbaar hebben. Barrett denkt dat het modereren van inhoud iets is dat alle Facebook-medewerkers minstens een jaar moeten doen als een soort dienstplicht om hen te helpen de impact van hun beslissingen te begrijpen.

Het rapport doet acht aanbevelingen voor Facebook:

• Stop met het uitbesteden van contentmoderatie en verhoog het station van moderators op de werkplek.
• Verdubbel het aantal moderators om de kwaliteit van de inhoudsbeoordeling te verbeteren.
• Huur iemand in om toezicht te houden op inhoud en feitencontrole die rechtstreeks rapporteert aan de CEO of COO.
• Matiging verder uitbreiden in risicolanden in Azië, Afrika en elders.
• Bied alle moderatoren medische zorg van topkwaliteit ter plaatse, inclusief toegang tot psychiaters.
• Sponsor onderzoek naar de gezondheidsrisico's van contentmoderatie, in het bijzonder PTSS.
• Verken nauw op maat gemaakte overheidsregulering van schadelijke inhoud.
• Breid de feitencontrole aanzienlijk uit om valse informatie te ontmaskeren.

De voorstellen zijn op zijn zachtst gezegd ambitieus. Wanneer contact wordt opgenomen voor commentaar, zou Facebook niet bespreken of het zou overwegen om deze uit te vaardigen. Een woordvoerder zei echter dat de huidige aanpak betekent dat we snel de focus van ons personeelsbestand kunnen aanpassen als dat nodig is, eraan toevoegend dat het ons de mogelijkheid geeft om ervoor te zorgen dat we de juiste taalexpertise hebben - en snel kunnen aannemen in verschillende tijdzones - als nieuwe behoeften zich voordoen of wanneer een situatie over de hele wereld dit rechtvaardigt.

Maar Barrett denkt dat een recent experiment dat is uitgevoerd als reactie op de coronaviruscrisis, aantoont dat verandering mogelijk is. Facebook kondigde aan dat, omdat veel van zijn inhoudsmoderators niet in staat waren om naar de kantoren van het bedrijf te gaan, het zou verantwoordelijkheid verschuiven naar interne medewerkers voor het controleren van bepaalde gevoelige inhoudscategorieën.

Ik vind het heel veelzeggend dat Zuckerberg op een moment van crisis vertrouwde op de mensen die hij vertrouwt: zijn fulltime medewerkers, zegt hij. Misschien zou dat kunnen worden gezien als de basis voor een gesprek binnen Facebook over het aanpassen van de manier waarop het naar inhoudsmoderatie kijkt.

zich verstoppen