211service.com
De automoderator van Reddit is de toekomst van internet, en zeer onvolmaakt
afbeelding van man kijkend naar computercode drie monitoren automoderator automod modereren reddit Jefferson Santos via Unsplash
De afgelopen vier jaar heeft Shagun Jhaver verschillende subreddits gemodereerd, ijverig door pagina's gescrolld en berichten geblokkeerd die de communityregels schenden of ronduit aanstootgevend zijn.
Jhaver, een promovendus bij Georgia Tech wiens onderzoek zich richt op contentmoderatie, vroeg zich af of een automatische moderator hem niet alleen tijd zou kunnen besparen, maar ook de mentale tol van het doorzoeken van psychologisch uitputtende content. Dus ging hij samen met drie collega's op zoek naar een automatische moderator, in dit geval AutoMod - echt gewerkt.
Het team modereerde persoonlijk verschillende pagina's op Reddit en voerde vervolgens interviews met 16 andere moderators van enkele van de meest populaire subreddits op de site, waaronder r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying en r/politics, elk waarvan miljoenen abonnees. Ze vertrouwen allemaal op AutoMod om hen te helpen modereren. Jhaver presenteert de het werk volgende week op de ACM-conferentie over computerondersteund coöperatief werk en sociale computers .
Social-mediaplatforms zoals Facebook, Instagram en YouTube vertrouwen al lang op menselijke moderators om handmatig door inhoud te kammen en gewelddadig en aanstootgevend materiaal te verwijderen, variërend van racistische en seksistische haatzaaiende uitlatingen tot grafische video's van massale schietpartijen. Vaak werken ze op contract, tegen een minimumloon met weinig voordelen, en kunnen moderators merken dat ze lange uren maken terwijl ze worden geteisterd met inhoud die eist een zware tol van hun geestelijke gezondheid .
Automoderators zijn een poging om de verveling en negatieve effecten van dergelijk werk te verzachten. AutoMod, ontwikkeld door Redditor Chad Birch als een manier om zijn vermogen om het r/gaming-kanaal te modereren te vergroten, is een op regels gebaseerde tool voor het identificeren van woorden die het plaatsingsbeleid van een bepaalde pagina schenden. Sindsdien is het op grote schaal gebruikt - Reddit heeft het in 2015 op de hele site geadopteerd en de immens populaire game-streamingplatforms Twitch en Discord volgden kort daarna.
Of AutoMod daadwerkelijk tijd bespaart, is echter twijfelachtig. Aan de ene kant zijn automoderators erg goed in wat ze doen: als ze zijn geprogrammeerd om scheldwoorden te vinden, zullen ze berichten die ze bevatten, vinden en blokkeren. Het kan berichten naar posters sturen over problematische inhoud, wat volgens Jhaver educatief is, in die zin dat auteurs kunnen leren wat er mis was met wat ze ook hebben gepost.
Dat is geen geringe prestatie. Zoals Jhaver en zijn collega's opmerken, is ongeveer 22% van alle inzendingen op Reddit tussen maart en oktober 2018 verwijderd. Dat komt neer op zo'n 17,4 miljoen posts in die periode.
Maar laten we zeggen dat het woord belangrijk is voor de context in de post – een discussie in 2016 over de beruchte opmerking over het grijpen van de geslachtsdelen van een vrouw , bijvoorbeeld. Dergelijke berichten zouden worden gemarkeerd vanwege de aanstootgevende taal, ook al is het bespreken van die taal in de eerste plaats het punt van de post. Jhaver zegt dat dit gebruikers frustreert, die dan terug moeten gaan en moderators moeten vragen om de post te herstellen.
En in een wereld van sociale media waar verontrustende inhoud steeds vaker bestaat uit aanstootgevende memes, livestreams van opnames of andere visuele, tekstloze inhoud, is de afhankelijkheid van AutoMod bij het vinden van trefwoorden een grote verplichting.
Robert Peck, een moderator voor de grote subreddits r/pics en r/aww, weet dit maar al te goed. Elk van die pagina's is beeldgestuurd en elk heeft miljoenen volgers die veel meer inhoud plaatsen dan van iemand redelijkerwijs zou kunnen worden gevraagd.
Toch zegt hij dat, hoewel het geen afbeeldingen kan analyseren, AutoMod zijn werk gemakkelijker heeft gemaakt. Gebruikers voegen direct beschrijvingen toe aan afbeeldingen, en we kunnen die titels controleren, zegt hij. We zoeken naar account dikmakers of spam die accounts hebben die berichten automatiseren. Ze gebruiken vaak haakjes. We kunnen AutoMod vertellen om naar die patronen te zoeken.
Of je het nu leuk vindt of niet, AutoMod en zijn soortgenoten zijn de toekomst van het modereren van sociale platforms. Het zal waarschijnlijk altijd onvolmaakt zijn, want machines zijn nog ver verwijderd van het echt begrijpen van de menselijke taal. Maar dit is waar automatisering om draait: mensen tijd besparen op vervelende of verwerpelijke taken. Door je te kunnen concentreren op berichten die een menselijke benadering vereisen, wordt het werk van een moderator veel waardevoller, en kunnen zowel moderators als posters zich concentreren op het voeren van betere gesprekken.
Het lost het probleem van mensen die vervelende, kwaadaardige of anderszins schadelijke inhoud plaatsen niet op - dat zal nog steeds een van de neteligste problemen zijn waarmee het moderne internet te kampen heeft. Maar het maakt een verschil. Peck zegt dat hij dankbaar is voor het vermogen van AutoMod om hem te helpen bij het batchproces van berichten. Het is een krachtig stukje technologie en behoorlijk gebruiksvriendelijk - nergens in de buurt van de moeilijkheid om een gelijkwaardige bot te programmeren, zegt hij. [AutoMod] is mijn krachtigste tool, en ik zou verloren zijn zonder.