211service.com
Hoe WeChat privégesprekken censureert, automatisch in realtime
Conceptuele illustratie van WeChat-beeldcensuur mevrouw Tech
WeChat is op veel verschillende manieren een venster op de toekomst van internet.
Het is gevestigd in China en heeft meer dan 1,1 miljard gebruikers wereldwijd. Het is een van 's werelds meest geavanceerde en populaire apps. Wat opmerkelijk is, is de manier waarop het zoveel hoeken van het leven van een Chinees bereikt: het is de manier waarop een groot deel van het land praat, betaalt, speelt, beweegt en nog veel meer. Terwijl Mark Zuckerberg nadenkt over de toekomst van Facebook, probeert hij steeds meer WeChat te gebruiken emuleren .
Er is meer aan deze zogenaamde super-app dan berichten, eten, auto's en betalingen. De allesomvattende ambitie van WeChat omvat enkele van de meest geavanceerde, snelwerkende en verreikende censuurtechnologieën op aarde.
Nieuw onderzoek van de University of Toronto's CitizenLab trekt het doek terug over hoe WeChat's realtime, automatische censuur van tekst en afbeeldingen wordt gebruikt om controle uit te oefenen over politieke discussies over onderwerpen variërend van internationale kwesties zoals de handelsoorlog met de VS tot binnenlandse schandalen zoals de verdwijning van gerechtelijke documenten in een 2018-geschil tussen twee Chinese mijnbouwbedrijven van miljarden dollars. Alle discussie is uiteindelijk onderworpen aan de goedkeuring van de Chinese regering.
De censoren van WeChat hebben te maken met twee soorten uitdagingen. Grote openbare berichten op WeChat Moments, een openbare functie die lijkt op de tijdlijn van Facebook, worden nauwkeurig bekeken en gefilterd door algoritmen die soms meer dan 10 seconden nodig hebben om te worden uitgevoerd - een ijzig tempo op sociale media. Maar één-op-één- en groepsberichten zijn een heel ander probleem, omdat het vaak intieme en directe gesprekken zijn. Dat vereist realtime censuur.
Tekst is relatief eenvoudig te doorzoeken en te censureren. Het filteren van afbeeldingen is moeilijker, vooral wanneer u de afbeeldingen vrijwel onmiddellijk probeert te onderzoeken en te censureren. Om deze taak te volbrengen, houdt WeChat een enorme en altijd groeiende index bij van MD5-hashes, kleine cryptografische gegevenshandtekeningen die uniek zijn voor elk bestand. Wanneer een gecensureerde afbeelding wordt verzonden, wordt deze door de hash-index opgevangen en verwijderd. Noch de afzender, noch de ontvanger zal ooit weten dat er iets is gecensureerd.
Als de afbeelding niet onmiddellijk wordt gecensureerd, wordt deze verzonden voor automatische analyse. Met behulp van optische tekenherkenning wordt de afbeelding onderzocht op tekst (het versturen van screenshots van krantenartikelen was ooit een gemakkelijke manier om censuur te omzeilen). De afbeelding wordt vervolgens gecontroleerd op visuele gelijkenis met andere gecensureerde afbeeldingen. Zogenaamd schadelijke inhoud - inclusief alles over internationale of binnenlandse politiek die door de Chinese Communistische Partij als ongewenst wordt beschouwd - wordt opgesnoven, uit het gesprek verwijderd en vervolgens toegevoegd aan die originele hash-index, die het vanaf dat moment markeert voor onmiddellijke censuur . Het is een zichzelf versterkend systeem dat groeit met elke verzonden afbeelding. Deze laatste systemen worden ook gebruikt op WeChat's Moments om de dynamische zwarte lijst van het bedrijf te controleren en op te bouwen.
De Chinese techgigant Tencent, eigenaar van WeChat, staat onder grote druk van Peking om effectieve censuurtechnologie te implementeren, zegt Adam Segal, directeur van het digitale en cyberspacebeleidsprogramma bij de Council on Foreign Relations. De Chinese bedrijven zijn allemaal verantwoordelijk voor inhoud, en hoewel ze vertrouwden op tienduizenden menselijke censoren, hebben ze ook nieuwe [machine learning]-benaderingen ontwikkeld voor het verwijderen van inhoud. Binnen China maakt het deel uit van de grotere trend onder Xi Jinping om de controles op het Chinese internet en de samenleving in het algemeen aan te scherpen.
WeChat is zo alomtegenwoordig in China dat het vooruitzicht om geschorst of verbannen te worden levens kan ontwrichten. De app combineert de functies van Facebook, Uber, GrubHub en meer. U kunt doktersafspraken maken, energierekeningen betalen, met professionele contacten praten of overheidsdiensten inschakelen.
Dit is echt een mega-app geworden, zegt Sarah Cook, senior onderzoeksanalist voor Oost-Azië bij de pro-democratische onderzoeksgroep Freedom House. Het is echt moeilijk om in de moderne Chinese samenleving te functioneren zonder WeChat te gebruiken, en dus is het huiveringwekkende effect echt.
Onder leiding van Peking reageren de censoren van Tencent handig op de actualiteit. Naast dodelijke historische gebeurtenissen zoals de protesten op het Tiananmenplein en de Culturele Revolutie, komen er snel nieuwe evenementen bij.
Onderzoekers ontdekten dat nieuwswaardige gebeurtenissen zoals de arrestatie van een Huawei-manager op beschuldiging van fraude en het CRISPR-babyschandaal waarin een Chinese wetenschapper de geboorte van meisjes met bewerkte genomen aankondigde, golven van censuur veroorzaakten. Dat gold ook voor tal van andere zaken, zoals conflicten met de VS en binnenlandse corruptie of andere problemen.
Eén gebeurtenis leidde tot nog meer gecensureerde beelden: in december 2018 brak er een schandaal uit toen het Chinese Hooggerechtshof de verdwijning van documenten toegaf in een geschil van miljarden dollars tussen mijnbouwbedrijven. Onderzoekers ontdekten dat tientallen afbeeldingen met betrekking tot de vermeende diefstal van de documenten werden gecensureerd.
In de afgelopen jaren heb je de combinatie gehad van strengere censuurbeperkingen en strengere controles, zegt Cook. Er is minder officiële tolerantie voor conversatie, expressie en netwerken die eerder werd getolereerd. Je hebt vooral gezien dat Tencent en WeChat boetes kregen. Dus nu proberen ze nieuwe methoden te gebruiken om zogenaamde 'schadelijke inhoud' te vangen die de Chinese Communistische Partij wil stoppen. Dat is waar realtime geautomatiseerde censuur om de hoek komt kijken.