Waarom sociale media inhoud niet in de schaduw kunnen houden

Pexels

In 2016 kon ik op één hand het soort interventies tellen dat technologiebedrijven bereid waren te gebruiken om hun platforms te ontdoen van verkeerde informatie, haatzaaiende uitlatingen en intimidatie. In de loop der jaren zijn grove mechanismen zoals het blokkeren van inhoud en het verbieden van accounts veranderd in een complexere set tools, waaronder het in quarantaine plaatsen van onderwerpen, het verwijderen van berichten uit de zoekresultaten, het blokkeren van aanbevelingen en het naar beneden rangschikken van berichten met prioriteit.

En toch, zelfs met meer opties tot hun beschikking, blijft verkeerde informatie een serieus probleem. Er was veel berichtgeving over verkeerde informatie op de verkiezingsdag - mijn collega Emily Drefyuss ontdekte bijvoorbeeld dat toen Twitter probeerde om te gaan met inhoud met de hashtag #BidenCrimeFamily, met tactieken zoals de-indexering door zoekresultaten te blokkeren, gebruikers, waaronder Donald Troef aangepast door varianten van dezelfde tag te gebruiken . Maar we weten nog steeds niet veel over hoe Twitter besloot om die dingen in de eerste plaats te doen, of hoe het weegt en leert van de manieren waarop gebruikers reageren op moderatie.

Welke acties hebben deze bedrijven ondernomen? Hoe werken hun moderatieteams? Wat is het proces voor het nemen van beslissingen?

Terwijl socialemediabedrijven accounts schorsten en berichten labelden en verwijderden, probeerden veel onderzoekers, maatschappelijke organisaties en journalisten hun beslissingen te begrijpen. Het gebrek aan transparantie over die beslissingen en processen betekent dat – voor velen – de verkiezingsresultaten dit jaar eindigen met een asterisk, net als in 2016.

Welke acties hebben deze bedrijven ondernomen? Hoe werken hun moderatieteams? Wat is het proces voor het nemen van beslissingen? De afgelopen jaren hebben platformbedrijven grote taskforces samengesteld die zich bezighouden met het verwijderen van verkeerde informatie over verkiezingen en het labelen van vroege overwinningsverklaringen. Sarah Roberts , een professor aan de UCLA, heeft geschreven over de onzichtbare arbeid van moderators van platforminhoud als een schaduwindustrie, een labyrint van aannemers en complexe regels waar het publiek weinig van af weet. Waarom weten we niet meer?

In de mist na de verkiezingen zijn sociale media het terrein geworden voor een laagdrempelige oorlog tegen onze cognitieve veiligheid, met desinformatiecampagnes en complottheorieën die zich verspreiden. Toen de nieuwsuitzendingen de rol van informatiepoortwachter vervulden, was het: opgezadeld met verplichtingen van algemeen belang zoals het delen van tijdige, lokale en relevante informatie. Socialmediabedrijven hebben een vergelijkbare positie in de samenleving geërfd, maar ze hebben niet dezelfde verantwoordelijkheden op zich genomen. Deze situatie heeft de kanonnen geladen voor claims van vooringenomenheid en censuur in de manier waarop ze verkiezingsgerelateerde inhoud modereerden.

De kosten dragen

In oktober heb ik lid geworden van een panel van experts over verkeerde informatie, samenzwering en infodemics voor de House Permanent Select Committee on Intelligence. Ik werd geflankeerd door Cindy Otis, een ex-CIA-analist; Nina Jankowicz, een desinformatiemedewerker bij het Wilson Center; en Melanie Smith, hoofd analyse bij Graphika.

Terwijl ik mijn getuigenis voorbereidde, worstelde Facebook met QAnon, een gemilitariseerde sociale beweging die wordt gecontroleerd door hun afdeling gevaarlijke organisaties en veroordeeld door het Huis in een tweeledige rekening . Mijn team is geweest jarenlang onderzoek gedaan naar QAnon . Deze samenzweringstheorie is een geliefd onderwerp geworden onder onderzoekers van desinformatie vanwege alle manieren waarop het uitbreidbaar, aanpasbaar en veerkrachtig is gebleven in het licht van de inspanningen van platformbedrijven om het in quarantaine te plaatsen en te verwijderen.

QAnon is ook een probleem geworden voor het Congres, omdat het niet langer gaat om mensen die deelnemen aan een vreemd online spel: het is als een tornado neergestreken in het leven van politici, die nu het doelwit zijn van intimidatiecampagnes die oversteken van de koorts dromen van samenzweerders tot geweld . Bovendien is het snel en op nieuwe manieren gebeurd. Samenzweringstheorieën hebben meestal jaren nodig om zich door de samenleving te verspreiden, met de promotie van belangrijke politieke, media- en religieuze figuren. Sociale media hebben dit proces versneld door steeds groeiende vormen van contentlevering. QAnon-volgers geven niet alleen commentaar op het laatste nieuws; ze buigen het naar hun wens .

Ik concentreerde mijn getuigenis op de vele niet nader genoemde schade die wordt veroorzaakt door het onvermogen van socialemediabedrijven om te voorkomen dat verkeerde informatie hun diensten verzadigt. Journalisten, volksgezondheids- en medische professionals, leiders van het maatschappelijk middenveld en stadsbestuurders, zoals wetshandhavers en verkiezingsfunctionarissen, dragen de kosten van verkeerde informatie op grote schaal en de last om de gevolgen ervan aan te pakken. Veel mensen liepen op hun tenen rond politieke kwesties tijdens het chatten met vrienden en familie, maar toen verkeerde informatie over protesten blanke burgerwachten begon te mobiliseren en medische verkeerde informatie ertoe leidde dat mensen de pandemie bagatelliseerden, namen verschillende professionele sectoren belangrijke nieuwe rollen op zich als pleitbezorgers voor de waarheid .

Neem de volksgezondheid en medische professionals, die middelen hebben moeten ontwikkelen om medische verkeerde informatie over covid-19 te verminderen. Artsen proberen online beïnvloeders te worden om nepadviezen en valse beweringen over wondermiddelen te corrigeren, waardoor ze tijd wegnemen van het verlenen van zorg of het ontwikkelen van behandelingen. Veel redacties hebben zich ondertussen aangepast aan de normalisering van desinformatie op sociale media door een desinformatieritme te ontwikkelen - het ontmaskeren van complottheorieën of nepnieuwsclaims die hun lezers zouden kunnen beïnvloeden. Maar die middelen zouden veel beter besteed kunnen worden aan het ondersteunen van journalistiek in plaats van in wezen op te treden als inhoudsmoderators van derden.

Verwant verhaal

Bedankt voor het plaatsen van: Rooklessen voor het reguleren van sociale media Voormalige Facebook-managers geven toe dat ze het draaiboek van de tabaksindustrie hebben gebruikt voor verslavende producten. Misschien kan het ook worden gebruikt om de schade ongedaan te maken.

Ook maatschappelijke organisaties zijn gedwongen middelen te besteden aan het monitoren van verkeerde informatie en het beschermen van hun basis tegen gerichte campagnes. Geracialiseerde desinformatie is een doorgewinterde tactiek van binnenlandse en buitenlandse beïnvloedingsoperaties: campagnes imiteren gekleurde gemeenschappen of gebruiken racisme om polarisatie over wigkwesties te stimuleren. Brandi Collins-Dexter getuigde over deze problemen tijdens een hoorzitting van het congres in juni, en benadrukte hoe technologiebedrijven zich verschuilen achter oproepen om de vrijheid van meningsuiting tegen elke prijs te beschermen, zonder genoeg te doen om zwarte gemeenschappen te beschermen die dagelijks op sociale media worden geviseerd met medische verkeerde informatie, haatzaaiende uitlatingen, opruiing en intimidatie.

verkiezingsfunctionarissen , wetshandhavers en eerstehulpverleners zijn ernstig in het nadeel als ze proberen hun werk te doen terwijl geruchten en complottheorieën zich online verspreiden. Direct, rechtshandhaving bereidt zich voor op geweld op stembureaus.

Een weg naar verbetering

Wanneer verkeerde informatie zich van de digitale naar de fysieke wereld verspreidt, kan dit publieke middelen ombuigen en de veiligheid van mensen bedreigen. Dit is de reden waarom socialemediabedrijven het probleem net zo serieus moeten nemen als hun verlangen om te profiteren.

Maar ze hebben een pad nodig om te verbeteren. Sectie 230 van de Communications and Fatsoen Act stelt sociale-mediabedrijven in staat om contentmoderatie te verbeteren, maar politici hebben gedreigd deze beveiligingen te verwijderen zodat ze hun eigen propagandacampagnes kunnen voortzetten. Tijdens de hoorzitting in oktober doemde het spook op van een nieuw agentschap dat onafhankelijk toezicht zou kunnen houden op schendingen van burgerrechten, kwesties op het gebied van gegevensprivacy zou kunnen onderzoeken en de marktexternaliteiten van deze industrie op andere sectoren.

Zoals ik tijdens de hoorzitting heb betoogd, betekent het enorme bereik van sociale media over de hele wereld dat het belangrijk is dat de regelgeving niet begint met het ontmantelen van Section 230 totdat er een nieuw beleid is ingevoerd.

Tot die tijd hebben we meer transparantie nodig. Verkeerde informatie gaat niet alleen over de feiten; het gaat erom wie mag zeggen wat de feiten zijn. Eerlijke beslissingen over contentmoderatie zijn de sleutel tot publieke verantwoording.

In plaats van vast te houden aan technostalgie voor een tijd dat het nog niet zo erg was, is het soms de moeite waard om te vragen wat er voor nodig is om sociale media niet uit te vinden, zodat we een koers kunnen uitzetten voor het web dat we willen - een web dat democratie bevordert, kennis, zorg en rechtvaardigheid. Anders wordt elke onverklaarbare beslissing van technologiebedrijven over toegang tot informatie mogelijk voer voor samenzweerders en, erger nog, de basis voor een te ver doorgedreven overheidsbeleid.

zich verstoppen