Ex-beveiligingsbaas van Facebook: Big Tech vragen om haatzaaiende uitlatingen te politie is een gevaarlijk pad

Josh Edelson | Met dank aan Stanford University

Tot een paar weken geleden was Alex Stamos de chief security officer van Facebook. Hij leidde de jacht op Russische politieke desinformatie op het platform na de Amerikaanse verkiezingen van 2016. Nu aan de Stanford University kondigde hij onlangs de oprichting aan van het Stanford Internet Observatory - een project om haatzaaien, propaganda en manipulatie aan te pakken door academische onderzoekers, sociale wetenschappers, beleidsmakers en de techreuzen zelf samen te brengen.

Zoals veel mensen vindt Stamos dat technische platforms zoals Facebook en Google te veel macht hebben. Maar hij is het niet eens met de oproepen om ze uit elkaar te halen. En hij betoogt dat juist de mensen die zeggen dat Facebook en Google te machtig zijn, ze geven meer macht door erop aan te dringen dat ze meer doen om haatzaaiende uitlatingen en propaganda te beheersen.

Dat is een gevaarlijke weg, waarschuwt hij. Als democratische landen technologiebedrijven beperkingen opleggen aan de vrijheid van meningsuiting, zullen autocratische landen dat ook doen. Binnenkort zal de technologie machinesnelheid en realtime moderatie mogelijk maken van alles wat we online zeggen. Als we Big Tech proberen te beteugelen, riskeren we Big Brother te creëren. Dus wat is de oplossing? Ik sprak met Stamos op zijn kantoor in Stanford om erachter te komen. (Het interview is voor de duidelijkheid ingekort en bewerkt.)

Je zei onlangs dat het al te laat is om de midterms van 2018 te redden van buitenlandse inmenging. Wie is er verantwoordelijk voor het laten gebeuren, gezien alles wat we in 2016 hebben geleerd?

In 2016 zijn er drie dingen gebeurd. Er was een desinformatie- en propagandacampagne van het [Russische] Internet Research Agency en aanverwante groepen. Er was de lekcampagne waarbij de GRU [Russische militaire inlichtingendienst] inbrak in de e-mail van de DNC [Democratisch Nationaal Comité] en vervolgens verhalen plaatste [in de media]. En er was een verkennende penetratie van de verkiezingssystemen van 21 staten.

Het eerste probleem heeft het meeste werk gehad [aan gedaan] omdat het volledig onder de verantwoordelijkheid van de platforms valt. Ze hebben gedefinieerd wat een politieke advertentie is en wat een probleemadvertentie is, hebben advertentietransparantie gecreëerd, gedefinieerd wat ongepaste coördinatie is en zijn begonnen met het handhaven van die regels.

'De Russen konden hun B-team sturen om de DNC te hacken. Ik weet niet zeker of mensen klaar zijn voor het A-team.'

Over de hack- en lekcampagne van GRU is heel weinig gebeurd. Er zijn upgrades geweest in de beveiliging bij de DNC. Ik verwacht dat de meeste campagnes voorzichtiger zijn. Maar er lijkt geen grootschalige upgrade van beveiliging tussen campagnes en kandidaten te zijn. De Russen konden hun B-team sturen om de DNC te hacken. Ik weet niet zeker of mensen klaar zijn voor het A-team.

Op de derde hebben we bijna niets gedaan. Je hebt nog steeds 10.000 verkiezingsautoriteiten [in de VS] die verkiezingen houden. We hebben een aantal staten zonder papieren back-up [voor stembiljetten]. Er zijn veel te veel autoriteiten die verantwoordelijk zijn voor hun eigen veiligheid om [verkiezingen] veilig te stellen zonder dat de federale overheid een enorme hoeveelheid middelen ter beschikking stelt. Dat is waar we denk ik de meeste kwetsbaarheid hebben.

Dus is het probleem van desinformatie/propaganda grotendeels opgelost?

In een vrije samenleving zul je dat probleem nooit oplossen. Ik denk dat het belangrijkste [in de VS] de transparantie van advertenties is. Met of zonder buitenlandse inmenging verdelen de partijen, de campagnes, de PAC's [politieke actiecomités] hier in de VS het electoraat in kleine emmers, en dat is een slechte zaak. Transparantie is een goed begin.

De volgende stap die we nodig hebben, is federale wetgeving om een ​​limiet te stellen aan advertentietargeting. Er zijn duizenden bedrijven in het internetadvertentie-ecosysteem. Facebook, Google en Twitter zijn de enigen die iets hebben gedaan, omdat ze de meeste persaandacht hebben gekregen en de meeste druk van politici. Dus zonder wetgeving gaan we alle aanvallers gewoon in de lange staart van reclame duwen, naar bedrijven die geen toegewijde teams hebben die op zoek zijn naar Russische desinformatiegroepen.

Facebook is bekritiseerd vanwege Russische politieke inmenging, zowel in de VS als in andere landen, de genocide in Myanmar , en een heleboel andere dingen. Heb je het gevoel dat Facebook de omvang van zijn invloed en zijn verantwoordelijkheid volledig heeft begrepen?

Ik denk dat het bedrijf de impact ervan zeker begrijpt. Het moeilijkste is om het op te lossen. Negentig procent van de Facebook-gebruikers woont buiten de Verenigde Staten. Meer dan de helft leeft in niet-vrije landen of democratieën zonder bescherming voor meningsuiting. Een van de problemen is het bedenken van oplossingen in deze landen die niet meteen naar een heel donkere plek gaan [d.w.z. censuur].

'Ik denk dat [Facebook] de impact ervan zeker begrijpt. Het moeilijkste is om het op te lossen.'

Een andere is uitzoeken welke problemen technische middelen achter moeten laten. Hoe groot een bedrijf ook is, er zijn maar een bepaald aantal problemen die u [aan kunt pakken]. Een van de problemen die bedrijven hebben gehad, is dat ze zich in een brandbestrijdingsmodus bevinden waarin ze van noodgeval naar noodgeval springen.

Dus naarmate ze meer personeel krijgen, wordt dat beter, maar we hebben ook een beter geïnformeerde externe discussie nodig over de dingen waarop we willen dat de bedrijven zich concentreren: wat zijn de problemen die absoluut moeten worden opgelost en wat niet. U noemde een aantal problemen die eigenlijk heel verschillend zijn, maar mensen vervagen ze allemaal samen.

Vindt u dat technologiebedrijven te veel macht hebben? Moet Facebook gedwongen worden om zich bijvoorbeeld van Instagram en WhatsApp af te stoten?

Als antitrustmensen denken dat het gepast is om desinvestering van individuele platforms af te dwingen, is dat aan hen. Ik denk niet dat dit deze problemen oplost of erger maakt. Wat de zaken nog erger zou maken, is het opbreken van specifieke producten. Tien WhatsApps is erger dan één WhatsApp, en tien Facebooks is erger dan één Facebook, omdat je de schaalvoordelen [en] het vermogen verliest om goed bemande teams te hebben die experts zijn in dit soort misbruik [haatdragende taal, propaganda, enz. .].

De waarheid is dat de grote bedrijven de responsieven waren. Iedereen negeert de kleine bedrijven omdat het geen goede krantenkoppen oplevert. Facebook heeft meer gedaan dan de overgrote meerderheid van andere bedrijven.

Hoe regel je in een wereld waarin technologie zo snel evolueert en regelgeving zo langzaam gaat? Hoe moet een samenleving verstandige grenzen stellen aan wat technologiebedrijven doen?

Maar op dit moment vraagt ​​de samenleving niet om grenzen aan wat ze doen. Het vraagt ​​van technologiebedrijven om dat te doen meer . En dat vind ik een gevaarlijke weg. In alle problemen die je noemde – Russische desinformatie, Myanmar – is wat je deze bedrijven vertelt: we willen dat je meer macht hebt om te bepalen wat andere mensen zeggen en doen.

'Over vijf of tien jaar kan er... machinesnelheid, realtime moderatie zijn van alles wat we online zeggen.'

Dat is erg gevaarlijk, vooral met de opkomst van machine learning. Over vijf of tien jaar kunnen er systemen voor machinaal leren zijn die zowel menselijke talen als mensen begrijpen. We kunnen eindigen met machinesnelheid, realtime moderatie van alles wat we online zeggen. Dus de bevoegdheden die we de technologiebedrijven nu verlenen, zijn de bevoegdheden die die machines over vijf jaar zullen hebben.

Wat is het fundamentele probleem dat het Stanford Internet Observatory probeert op te lossen?

Er is geen specifiek academisch vakgebied dat het misbruik van technologie bestudeert, afgezien van zeer technische gebreken. Informatica-afdelingen doen onderzoek naar nieuwe soorten exploits, nieuwe soorten bugs, esoterische cryptografische oplossingen, maar je kunt geen doctoraat krijgen op het gebied van pesten en intimidatie en de technische oplossingen daarvoor. Je hebt misschien politicologen die de impact van sociale netwerken op democratie bestuderen, en mensen op de afdeling psychologie die de impact bestuderen van het gebruik van Instagram op tieners die suïcidaal zijn, maar ze hebben niet de technische vaardigheden en infrastructuur.

Dus het Stanford Internet Observatory zal een permanent programma zijn, bemand met datawetenschappers, software-engineers, onderzoekers en analisten die begrijpen hoe ze moeten communiceren met de technische platforms en hoe ze op zeer grote schaal data-analyse kunnen uitvoeren. Die groep kan dan diensten verlenen aan academische groepen over de hele wereld en eigen onderzoek doen. Dan kunnen we werk katalyseren dat waarschijnlijk niet zou gebeuren omdat het niet netjes in een bepaald academisch gebied valt.

Wat zijn enkele van de oplossingen waaraan u werkt?

Als je naar 2016 kijkt, zie je falende inlichtingendiensten tussen de Amerikaanse regering [en] geallieerde regeringen, en tussen die regeringen en de technische platforms. We moeten nadenken over de verantwoordelijkheden voor deze verschillende groepen en hoe je het feit dat de technologiebedrijven op een quasi-overheidsmanier handelen, op één lijn brengt. Wat voor soort controles moeten ze hebben en op welk punt begint en eindigt hun verantwoordelijkheid? We werken aan aanbevelingen voor het Congres voor volgend jaar.

We bouwen ook aan de mogelijkheid om het gebruik van desinformatie bij verschillende verkiezingen te monitoren. Ons doel is om dat voor de Indiase en Europese verkiezingen volgend jaar operationeel te hebben.

Democraten zullen onvermijdelijk ontvankelijker zijn dan Republikeinen voor dit soort oplossingen. Hoe maak je dit onpartijdig?

Het idee dat verkiezingsinmenging alleen Republikeinen helpt, is krankzinnig. Het Russische draaiboek is er. De zwakke punten in ons systeem zijn aangetoond. We hebben onze tegenstanders het signaal gegeven dat ze zich kunnen bemoeien met onze verkiezing en we zullen niets doen om dat echt te straffen.

'Mijn boodschap aan de Republikeinen is: 'Laten we dit probleem oplossen voordat jullie je eigen 2016 moeten hebben.'

Dus ik zou verwachten dat andere tegenstanders betrokken zouden raken bij toekomstige verkiezingen. China, Iran, Noord-Korea - het idee dat al deze landen de Republikeinen gaan steunen is belachelijk. Dus mijn boodschap aan de Republikeinen is: laten we dit probleem oplossen voordat jullie je eigen 2016 moeten hebben.

Deze discussie moet voorbij Trump gaan. Republikeinen eindigen met een hersenbloeding als je suggereert dat Trump niet eerlijk is gekozen. Dus we hoeven het alleen maar te hebben over de kwetsbaarheden en welke mogelijke impact het heeft in 2020. Als ik privé met Republikeinen praat, zijn ze daar veel ontvankelijker voor.

Een verwant probleem is het gebrek aan technologische geletterdheid bij politici. Hoe los je dat op?

Deze mensen hebben over het algemeen behoorlijk slimme stafleden, maar de meeste stafleden hebben niet in de techniek gewerkt. We moeten dus mensen die in de technologie hebben gewerkt stimuleren om in DC te gaan werken. Er zijn voorbeelden zoals: Chris Soghoian [een technologie-activist, nu werkzaam voor senator Ron Wyden] waar techneuten naar het congres gaan en individueel een enorme impact hebben.

En het gaat twee kanten op. We moeten computerwetenschappers leren over geschiedenis en ethiek, en we moeten majors in de vrije kunsten leren over de grondbeginselen van technologie, zodat ze invloed kunnen uitoefenen. Het vermogen om met nerds te praten op een manier die ze respecteren, is enorm krachtig, en dat is iets dat op dit moment in het Congres ontbreekt.

zich verstoppen