Hoe de gegevens te vergiftigen die Big Tech gebruikt om u te surveilleren?

Eric Risberg / AP

Elke dag laat je leven een spoor van digitale broodkruimels achter die techreuzen gebruiken om je te volgen. Je stuurt een e-mail, bestelt wat te eten, streamt een show. Ze krijgen waardevolle datapakketten terug om meer inzicht te krijgen in uw voorkeuren. Die gegevens worden ingevoerd in algoritmen voor machine learning om u te targeten met advertenties en aanbevelingen. Google verzilvert uw gegevens voor meer dan $ 120 miljard per jaar aan advertentie-inkomsten.

In toenemende mate kunnen we ons niet meer afmelden voor deze regeling. In 2019 probeerde Kashmir Hill, toen een verslaggever voor Gizmodo, beroemd om schrapte vijf grote tech-reuzen uit haar leven . Zes weken lang was ze ellendig en worstelde ze met het uitvoeren van digitale basisfuncties. De techreuzen voelden ondertussen niet eens jeuk.

Nu suggereren onderzoekers van de Northwestern University nieuwe manieren om deze machtsonbalans te herstellen door onze collectief gegevens als ruilmiddel. Techreuzen hebben misschien mooie algoritmen tot hun beschikking, maar ze zijn zinloos zonder voldoende van de juiste gegevens om op te trainen.

In een nieuw papier gepresenteerd op de Association for Computing Machinery's Conferentie over eerlijkheid, verantwoording en transparantie volgende week stellen onderzoekers, waaronder promovendi Nicholas Vincent en Hanlin Li, drie manieren voor waarop het publiek dit in hun voordeel kan benutten:

• Gegevenswaarschuwingen , geïnspireerd door het idee van arbeidsstakingen, waarbij uw gegevens worden achtergehouden of verwijderd zodat een technologiebedrijf ze niet kan gebruiken, bijvoorbeeld door een platform te verlaten of privacytools te installeren.
• Gegevensvergiftiging , wat inhoudt dat er betekenisloze of schadelijke gegevens worden toegevoegd. AdNauseam , is bijvoorbeeld een browserextensie die op elke afzonderlijke advertentie klikt die aan u wordt weergegeven, waardoor de algoritmen voor advertentietargeting van Google worden verward.
• Bewuste databijdrage , wat inhoudt dat je betekenis geeft vol gegevens naar de concurrent van een platform waartegen je wilt protesteren, bijvoorbeeld door in plaats daarvan je Facebook-foto's te uploaden naar Tumblr.

Mensen gebruiken al veel van deze tactieken om hun eigen privacy te beschermen. Als u ooit een adblocker of een andere browserextensie heeft gebruikt die uw zoekresultaten aanpast om bepaalde websites uit te sluiten, heeft u zich beziggehouden met het opsporen van gegevens en heeft u een instantie teruggevorderd vanwege het gebruik van uw gegevens. Maar zoals Hill ontdekte, doen sporadische individuele acties zoals deze niet veel om techreuzen te laten veranderen hun gedragingen.

Wat als miljoenen mensen zouden coördineren om de gegevens van een technologiegigant goed te vergiftigen? Dat zou hen misschien wat hefboomwerking kunnen geven om hun eisen te doen gelden.

Mogelijk zijn daar al enkele voorbeelden van. In januari verwijderden miljoenen gebruikers hun WhatsApp-accounts en verhuisden ze naar concurrenten zoals Signal en Telegram nadat Facebook had aangekondigd dat het WhatsApp-gegevens zou gaan delen met de rest van het bedrijf. De exodus zorgde ervoor dat Facebook vertraging haar beleid verandert.

Deze week nog, Google ook aangekondigd dat het zou stoppen met het volgen van individuen op internet en het richten van advertenties op hen. Hoewel het onduidelijk is of dit een echte verandering is of slechts een rebranding, zegt Vincent, is het mogelijk dat het toegenomen gebruik van tools zoals AdNauseam heeft bijgedragen aan die beslissing door de effectiviteit van de algoritmen van het bedrijf te verminderen. (Natuurlijk is het uiteindelijk moeilijk te zeggen. De enige persoon die echt weet hoe effectief een beweging met gegevenshefboomwerking een systeem heeft beïnvloed, is het technologiebedrijf, zegt hij.)

Vincent en Li denken dat deze campagnes een aanvulling kunnen zijn op strategieën zoals beleidsadvocatuur en het organiseren van arbeiders in de beweging om weerstand te bieden aan Big Tech.

Het is opwindend om dit soort werk te zien, zegt Ali Alkhatib, een research fellow aan het Centre for Applied Data Ethics van de Universiteit van San Francisco, die niet bij het onderzoek betrokken was. Het was echt interessant om te zien hoe ze nadachten over de collectieve of holistische visie: we kunnen met de put rotzooien en eisen stellen aan die dreiging, omdat het onze gegevens zijn en alles past hier goed bij elkaar.

Verwant verhaal

Zo verloren we de controle over ons gezicht

Het grootste onderzoek ooit naar gezichtsherkenningsgegevens laat zien hoezeer de opkomst van deep learning heeft geleid tot een verlies van privacy.

Er is nog werk aan de winkel om deze campagnes meer wijdverbreid te maken. Computerwetenschappers zouden een belangrijke rol kunnen spelen bij het maken van meer tools zoals AdNauseam, die de drempel zouden helpen verlagen om aan dergelijke tactieken deel te nemen. Beleidsmakers zouden ook kunnen helpen. Gegevensstakingen zijn het meest effectief wanneer ze worden ondersteund door strenge gegevensprivacywetten, zoals de Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie, die consumenten het recht geeft om de verwijdering van hun gegevens aan te vragen. Zonder dergelijke regelgeving is het moeilijker om te garanderen dat een technologiebedrijf u de mogelijkheid geeft om uw digitale gegevens op te schonen, zelfs als u uw account verwijdert.

En er moeten nog enkele vragen worden beantwoord. Hoeveel mensen heeft een data strike nodig om het algoritme van een bedrijf te beschadigen? En wat voor soort gegevens zijn het meest effectief bij het vergiftigen van een bepaald systeem? In een simulatie met bijvoorbeeld een algoritme voor filmaanbevelingen, ontdekten de onderzoekers dat als 30% van de gebruikers zou staken, dit de nauwkeurigheid van het systeem met 50% zou kunnen verminderen. Maar elk machine learning-systeem is anders en bedrijven werken ze voortdurend bij. De onderzoekers hopen dat meer mensen in de machine learning-gemeenschap vergelijkbare simulaties van de systemen van verschillende bedrijven kunnen uitvoeren en hun kwetsbaarheden kunnen identificeren.

Alkhatib suggereert dat wetenschappers ook meer onderzoek zouden moeten doen naar hoe ze collectieve data-actie kunnen inspireren. Collectieve actie is echt moeilijk, zegt hij. Het is een uitdaging om mensen ertoe aan te zetten lopende acties uit te voeren. En dan is er nog de uitdaging: hoe zorg je ervoor dat een groep mensen die erg vergankelijk is - in dit geval mensen die vijf seconden lang een zoekmachine gebruiken - zichzelf blijft zien als onderdeel van een gemeenschap die echt lang meegaat?

Deze tactieken kunnen ook stroomafwaartse gevolgen hebben die zorgvuldig moeten worden onderzocht, voegt hij eraan toe. Zou datavergiftiging uiteindelijk alleen maar meer werk kunnen opleveren voor inhoudsmoderators en andere mensen die belast zijn met het opschonen en labelen van de trainingsgegevens van bedrijven?

Maar over het algemeen zijn Vincent, Li en Alkhatib optimistisch dat het gebruik van gegevens een overtuigend hulpmiddel kan worden om vorm te geven aan hoe techreuzen met onze gegevens en onze privacy omgaan. AI-systemen zijn afhankelijk van data. Het is gewoon een feit over hoe ze werken, zegt Vincent. Uiteindelijk is dat een manier waarop het publiek aan de macht kan komen.

zich verstoppen