Het echte privacyprobleem

Aangezien internetbedrijven en overheidsinstanties steeds meer informatie over ons leven analyseren, is het verleidelijk om te reageren door nieuwe privacywetten aan te nemen of mechanismen te creëren die ons betalen voor onze gegevens. In plaats daarvan hebben we een civiele oplossing nodig, want de democratie staat op het spel. Door

• Jevgeny Morozov archiefpagina

22 oktober 2013

In 1967 publiceerde The Public Interest, toen een toonaangevend trefpunt voor highbrow beleidsdebatten, een provocerend essay van Paul Baran, een van de grondleggers van de datatransmissiemethode die bekend staat als packet switching. met een adellijke titel Het toekomstige computerhulpprogramma , speculeerde het essay dat op een dag een paar grote, gecentraliseerde computers informatieverwerking zouden bieden … op dezelfde manier waarop men nu elektriciteit koopt.

Onze thuiscomputerconsole zal worden gebruikt om berichten te verzenden en te ontvangen, zoals telegrammen. We kunnen controleren of het plaatselijke warenhuis het geadverteerde sportshirt in de gewenste kleur en maat op voorraad heeft. We zouden kunnen vragen wanneer de levering gegarandeerd zou zijn, als we bestelden. De informatie zou actueel en nauwkeurig zijn. We konden onze rekeningen betalen en onze belastingen berekenen via de console. We zouden vragen stellen en antwoorden krijgen van informatiebanken - geautomatiseerde versies van de hedendaagse bibliotheken. We zouden een actueel overzicht krijgen van alle televisie- en radioprogramma's … De computer zou zelf een bericht kunnen sturen om ons te herinneren aan een naderend jubileum en ons te behoeden voor de rampzalige gevolgen van vergeetachtigheid.

Dit verhaal maakte deel uit van ons nummer van november 2013

• Zie de rest van het nummer
• Abonneren

Het duurde tientallen jaren voordat cloud computing de visie van Baran vervulde. Maar hij was vooruitziend genoeg om zich zorgen te maken dat utility computing zijn eigen regelgevingsmodel nodig zou hebben. Hier was een medewerker van de RAND Corporation - nauwelijks een schans van marxistische gedachten - die zich zorgen maakte over de concentratie van marktmacht in de handen van grote computerbedrijven en staatsinterventie eisten. Baran wilde ook beleid dat maximale bescherming zou kunnen bieden aan het behoud van de rechten op privacy van informatie:

Zeer gevoelige persoonlijke en belangrijke zakelijke informatie zal worden opgeslagen in veel van de beoogde systemen … Op dit moment staat niets meer dan vertrouwen – of in het beste geval een gebrek aan technische verfijning – in de weg van een potentiële afluisteraar … de mechanismen om adequate waarborgen te verzekeren. Omdat het moeilijk is om complexe systemen opnieuw op te bouwen om er later beveiligingen in op te nemen, lijkt het wenselijk om op deze problemen te anticiperen.

Scherpe, bullshitvrije analyse: het technofuturisme is sindsdien in verval.

Alle privacyoplossingen waar je over hoort zijn op het verkeerde spoor.

Als je het essay van Baran leest (slechts een van de vele die destijds over utility computing zijn gepubliceerd) realiseer je je dat ons hedendaagse privacyprobleem niet eigentijds is. Het is niet alleen een gevolg van het feit dat Mark Zuckerberg zijn ziel en onze profielen aan de NSA heeft verkocht. Het probleem werd al vroeg onderkend en er werd weinig aan gedaan.

Bijna alle beoogde toepassingen van Baran voor utility computing zijn puur commercieel. Shirts bestellen, rekeningen betalen, entertainment zoeken, vergeetachtigheid overwinnen: dit is niet het internet van virtuele communities en netizens. Baran stelde zich eenvoudig voor dat netwerkcomputing ons in staat zou stellen dingen te doen die we al doen zonder netwerkcomputing: winkelen, entertainment, onderzoek. Maar ook: spionage, surveillance en voyeurisme.

Als Barans computerrevolutie niet erg revolutionair klinkt, komt dat deels omdat hij niet had gedacht dat het de fundamenten van het kapitalisme en bureaucratisch bestuur, dat al eeuwen bestond, zou omverwerpen. Tegen de jaren negentig geloofden veel digitale enthousiasten echter anders; ze waren ervan overtuigd dat de verspreiding van digitale netwerken en de snelle daling van de communicatiekosten een werkelijk nieuwe fase in de menselijke ontwikkeling vertegenwoordigden. Voor hen waren de surveillance die in de jaren 2000 door 9/11 werd geactiveerd en de kolonisatie van deze ongerepte digitale ruimtes door Google, Facebook en big data aberraties die konden worden weerstaan ​​of op zijn minst ongedaan gemaakt konden worden. Als we nu het verloren decennium konden wissen en terugkeren naar de utopie van de jaren tachtig en negentig door strengere wetten aan te nemen, gebruikers meer controle te geven en betere encryptietools te bouwen!

Een andere lezing van de recente geschiedenis zou een andere agenda voor de toekomst opleveren. Het wijdverbreide gevoel van emancipatie door informatie dat veel mensen nog aan de jaren negentig toeschrijven, was waarschijnlijk slechts een langdurige hallucinatie. Zowel het kapitalisme als de bureaucratische administratie pasten zich gemakkelijk aan aan het nieuwe digitale regime; beide gedijen op informatiestromen, hoe meer geautomatiseerd, hoe beter. Wetten, markten of technologieën zullen die vraag naar gegevens niet belemmeren of ombuigen, aangezien ze alle drie een rol spelen bij het ondersteunen van het kapitalisme en bureaucratisch bestuur. Er is iets anders nodig: politiek.

Zelfs programma's die onschuldig lijken, kunnen de democratie ondermijnen.

Laten we eerst eens kijken naar de symptomen van onze huidige malaise. Ja, de commerciële belangen van technologiebedrijven en de beleidsbelangen van overheidsinstanties zijn samengekomen: beide zijn geïnteresseerd in het verzamelen en snel analyseren van gebruikersgegevens. Google en Facebook zijn genoodzaakt om steeds meer gegevens te verzamelen om de effectiviteit van de advertenties die ze verkopen te vergroten. Overheidsinstanties hebben dezelfde gegevens nodig - ze kunnen deze alleen of in samenwerking met technologiebedrijven verzamelen - om hun eigen programma's uit te voeren.

Veel van die programma's gaan over nationale veiligheid. Maar dergelijke gegevens kunnen op veel andere manieren worden gebruikt die ook de privacy ondermijnen. De Italiaanse regering is bijvoorbeeld met behulp van een tool genaamd de redditometro, of inkomensmeter, die ontvangsten en uitgavenpatronen analyseert om mensen die meer uitgeven dan ze aan inkomsten claimen, te markeren als potentiële belastingfraudeurs. Zodra mobiele betalingen een groot percentage van contante transacties vervangen - met Google en Facebook als tussenpersonen - zullen de gegevens die door deze bedrijven worden verzameld, onmisbaar zijn voor belastinginners. Evenzo, juridische academici zijn bezig met verkennen hoe datamining kan worden gebruikt om contracten of testamenten op te stellen die zijn afgestemd op de persoonlijkheden, kenmerken en het gedrag in het verleden van individuele burgers, waardoor de efficiëntie wordt vergroot en wanpraktijken worden verminderd.

Op een ander front, technocraten zoals Cass Sunstein, de voormalige beheerder van het Office of Information and Regulatory Affairs in het Witte Huis en een vooraanstaand voorstander van nanny statecraft die burgers ertoe aanzet bepaalde dingen te doen , hopen dat het verzamelen en onmiddellijk analyseren van gegevens over individuen kan helpen bij het oplossen van problemen zoals obesitas, klimaatverandering en rijden onder invloed door ons gedrag te sturen. Een nieuw boek van drie Britse academici: Gedrag veranderen: de opkomst van de psychologische toestand — bevat een lange lijst van dergelijke plannen die aan het werk zijn in het VK, waar de nudging-eenheid van de regering, geïnspireerd door Sunstein, zo succesvol is geweest dat het gaat bijna worden een winstgevende operatie.

Dankzij smartphones of Google Glass kunnen we nu worden gepingd wanneer we op het punt staan ​​iets stoms, ongezonds of ondeugdelijks te doen. We hoeven niet per se te weten waarom de actie verkeerd zou zijn: de algoritmen van het systeem doen de morele berekening alleen. Burgers nemen de rol op zich van informatiemachines die het techno-bureaucratische complex voeden met onze data. En waarom zouden we dat niet doen, als ons in ruil daarvoor een slankere taille, schonere lucht of een langer (en veiliger) leven wordt beloofd?

Deze logica van preëmptie verschilt niet van die van de NSA in haar strijd tegen terreur: laten we problemen voorkomen in plaats van de gevolgen ervan aan te pakken. Zelfs als we de handen van de NSA binden - door een combinatie van beter toezicht, strengere regels voor gegevenstoegang of sterkere en vriendelijkere versleutelingstechnologieën - zou de datahonger van andere staatsinstellingen blijven bestaan. Ze zullen het verantwoorden. Over kwesties als zwaarlijvigheid of klimaatverandering - waar de beleidsmakers snel aan toevoegen dat we te maken hebben met een tikkend-bomscenario - zullen ze zeggen dat een klein tekort aan democratie een lange weg kan gaan.

Dit is hoe dat tekort eruit zou zien: de nieuwe digitale infrastructuur, die bloeit op basis van realtime gegevens die door burgers zijn aangeleverd, stelt de technocraten in staat om de politiek, met al zijn lawaai, wrijving en ontevredenheid, uit het politieke proces te halen. Het vervangt het rommelige gedoe van coalitievorming, onderhandelingen en overleg met de netheid en efficiëntie van gegevensgestuurde administratie.

Dit fenomeen heeft een meme-vriendelijke naam: algoritmische regulering , zoals Silicon Valley-uitgever Tim O'Reilly het noemt. In wezen hebben informatierijke democratieën een punt bereikt waarop ze publieke problemen willen proberen op te lossen zonder dat ze zich tegenover de burgers hoeven uit te leggen of te rechtvaardigen. In plaats daarvan kunnen ze gewoon een beroep doen op ons eigen belang - en ze weten genoeg over ons om een ​​perfect, zeer persoonlijk, onweerstaanbaar duwtje in de rug te geven.

Privacy is een middel tot democratie, geen doel op zich.

Nog een waarschuwing uit het verleden. Het was 1985 en Spiros Simitis, Duitslands toonaangevende privacywetenschapper en beoefenaar – destijds de commissaris voor gegevensbescherming van de Duitse deelstaat Hessen – sprak de rechtenfaculteit van de Universiteit van Pennsylvania toe. Zijn Lectuur onderzocht hetzelfde probleem dat Baran bezighield: de automatisering van gegevensverwerking. Maar Simitis verloor de geschiedenis van het kapitalisme en de democratie niet uit het oog, dus zag hij technologische veranderingen in een veel dubbelzinniger licht.

Hij erkende ook dat privacy geen doel op zich is. Het is een middel om een ​​bepaald ideaal van democratische politiek te bereiken, waarbij burgers worden vertrouwd als meer dan alleen zelfgenoegzame leveranciers van informatie aan alziende en alles optimaliserende technocraten. Waar privacy wordt ontmanteld, waarschuwde Simitis, vervaagt zowel de kans op een persoonlijke beoordeling van het politieke … proces als de mogelijkheid om een ​​bepaalde levensstijl te ontwikkelen en te behouden.

Drie technologische trends lagen ten grondslag aan de analyse van Simitis. Ten eerste merkte hij op dat zelfs in die tijd elk gebied van sociale interactie werd bemiddeld door informatietechnologie - hij waarschuwde voor het intensieve ophalen van persoonlijke gegevens van vrijwel elke werknemer, belastingbetaler, patiënt, bankklant, uitkeringsgerechtigde of autobestuurder. Als gevolg hiervan was privacy niet langer alleen een probleem van een ongelukkige kerel die overrompeld werd in een lastige situatie; het was ieders probleem geworden. Ten tweede maakten nieuwe technologieën zoals smartcards en videotex het niet alleen mogelijk om individuele activiteiten tot in de kleinste details vast te leggen en te reconstrueren, maar normaliseerden ze ook de bewaking en verweven deze met ons dagelijks leven. Ten derde stelde de persoonlijke informatie die door deze nieuwe technologieën werd geregistreerd, sociale instellingen in staat om gedragsnormen af ​​te dwingen, wat leidde tot manipulatiestrategieën op de lange termijn die bedoeld waren om individueel gedrag te vormen en aan te passen.

Moderne instellingen hadden hier zeker baat bij. Verzekeringsmaatschappijen zouden kostenbesparende programma's kunnen afstemmen op de behoeften en eisen van patiënten, ziekenhuizen en de farmaceutische industrie. De politie zou nieuwe databases en verschillende mobiliteitsprofielen kunnen gebruiken om potentiële criminelen te identificeren en verdachten te lokaliseren. Welzijnsinstanties kunnen plotseling frauduleus gedrag aan het licht brengen.

Maar hoe zouden deze technologieën ons als burgers beïnvloeden - als subjecten die deelnemen aan het begrijpen en hervormen van de wereld om ons heen, niet alleen als consumenten of klanten die er alleen maar van profiteren?

In het ene geval na het andere, betoogde Simitis, stonden we te verliezen. In plaats van meer context voor beslissingen te krijgen, zouden we minder krijgen; in plaats van de logica te zien die onze bureaucratische systemen aanstuurt en die logica nauwkeuriger en minder kafkaës te maken, zouden we meer verwarring krijgen omdat de besluitvorming geautomatiseerd werd en niemand wist hoe de algoritmen precies werkten. We zouden een duisterder beeld krijgen van wat onze sociale instellingen doet werken; ondanks de belofte van meer personalisatie en empowerment, zouden de interactieve systemen slechts een illusie van meer participatie bieden. Interactieve systemen … suggereren daardoor individuele activiteit waarbij in feite niet meer dan stereotiepe reacties optreden.

Als je denkt dat Simitis een toekomst beschreef die nooit is uitgekomen, overweeg dan een recente krant over de transparantie van geautomatiseerde voorspellingssystemen door: Zo een Zarsky , een van 's werelds toonaangevende experts op het gebied van de politiek en ethiek van datamining. Hij merkt op dat datamining zou kunnen wijzen op individuen en gebeurtenissen, wat wijst op een verhoogd risico, zonder ons dat te vertellen waarom ze werden geselecteerd. Toevallig is de mate van interpreteerbaarheid is een van de meest ingrijpende beleidsbeslissingen die moeten worden genomen bij het ontwerpen van dataminingsystemen. Zarsky ziet hier enorme implicaties voor de democratie:

Uit een datamininganalyse kan een niet-interpreteerbaar proces volgen dat niet in menselijke taal verklaarbaar is. Hier neemt de software zijn selectiebeslissingen op basis van meerdere variabelen (zelfs duizenden) … Het zou moeilijk zijn voor de overheid om een ​​gedetailleerd antwoord te geven op de vraag waarom een ​​persoon werd uitgekozen om een ​​gedifferentieerde behandeling te krijgen door een geautomatiseerd aanbevelingssysteem. Het hoogste wat de overheid zou kunnen zeggen, is dat dit is wat het algoritme heeft gevonden op basis van eerdere gevallen.

Dit is de toekomst waar we slaapwandelen. Alles lijkt te werken, en misschien wordt het zelfs beter - alleen weten we niet precies waarom of hoe.

Te weinig privacy kan de democratie in gevaar brengen. Maar dat geldt ook voor teveel privacy.

Simitis heeft de trends goed. Zonder twijfelachtige veronderstellingen over het internettijdperk kwam hij tot een originele maar voorzichtige verdediging van de privacy als een essentieel kenmerk van een zelfkritische democratie - niet de democratie van een of andere abstracte politieke theorie, maar de rommelige, lawaaierige democratie die we bewonen, met zijn nooit - het beëindigen van tegenstellingen. Het meest cruciale inzicht van Simitis is met name dat privacy de democratie zowel kan ondersteunen als ondermijnen.

Traditioneel is onze reactie op veranderingen in geautomatiseerde informatieverwerking geweest om ze te zien als een persoonlijk probleem voor de betrokken personen. Een voorbeeld hiervan is het baanbrekende artikel Het recht op privacy , door Louis Brandeis en Samuel Warren. Ze schreven in 1890 en zochten het recht om met rust te worden gelaten - om een ​​ongestoord leven te leiden, weg van indringers. Volgens Simitis drukten ze de wens uit, die destijds veel voorkwam bij veel zelfgemaakte individuen, om strikt voor zichzelf en onder door hen bepaalde voorwaarden te genieten van de vruchten van hun economische en sociale activiteit.

Een prijzenswaardig doel: zonder een dergelijke juridische dekking aan ondernemers uit te breiden, was het moderne Amerikaanse kapitalisme misschien nooit zo robuust geworden. Maar dit recht, los van eventuele bijbehorende verantwoordelijkheden, zou ook een buitensporige mate van terugtrekking kunnen bestraffen die ons afschermt van de buitenwereld en de fundamenten ondermijnt van het zeer democratische regime dat het recht mogelijk heeft gemaakt. Als alle burgers hun recht op privacy volledig zouden uitoefenen, zou de samenleving worden beroofd van de transparante en gemakkelijk beschikbare gegevens die niet alleen nodig zijn voor de technocraten, maar - zelfs meer - zodat burgers problemen kunnen evalueren, meningen kunnen vormen en debatteren ( en af ​​en toe de technocraten ontslaan).

Dit is geen specifiek probleem van het recht op privacy. Voor sommige hedendaagse denkers, zoals de Franse historicus en filosoof Marcel Gauchet , lopen democratieën het risico het slachtoffer te worden van hun eigen succes: nadat ze een wettelijk regime van rechten hebben ingesteld dat burgers in staat stelt hun eigen privébelangen na te streven zonder enige verwijzing naar wat goed is voor het publiek, staan ​​ze op het punt de middelen uit te putten die hen in staat hebben gesteld te floreren.

Wanneer alle burgers hun rechten opeisen maar zich niet bewust zijn van hun verantwoordelijkheden, de politieke vragen die het democratische leven eeuwenlang hebben bepaald: hoe moeten we samenleven? Wat is in het algemeen belang, en hoe breng ik mijn eigen belang daarmee in evenwicht? - zijn ondergebracht in juridische, economische of administratieve domeinen. De politiek en het publiek registreren zich helemaal niet meer als domeinen; wetten, markten en technologieën verdringen debat en betwisting als geprefereerde, minder rommelige oplossingen.

Maar een democratie zonder geëngageerde burgers klinkt niet echt als een democratie – en zal dat misschien ook niet overleven. Dit was duidelijk voor Thomas Jefferson, die, hoewel hij wilde dat elke burger... een deelnemer aan de regering van zaken, was ook van mening dat burgerparticipatie een constante spanning tussen het openbare en het privéleven met zich meebrengt. Een samenleving die gelooft, zoals Simitis het uitdrukte, dat de toegang van de burger tot informatie eindigt waar de burgerlijk ’ claim voor privacy begint zal niet standhouden als een goed functionerende democratie.

De balans tussen privacy en transparantie behoeft dus vooral bijstelling in tijden van snelle technologische veranderingen. Dat evenwicht zelf is een politieke kwestie bij uitstek , te regelen via een openbaar debat en altijd open te laten voor onderhandeling. Het kan niet voor eens en voor altijd worden opgelost door een combinatie van theorieën, markten en technologieën. Zoals Simitis zei: Privacy wordt verre van beschouwd als een constitutief element van een democratische samenleving, maar als een getolereerde tegenstrijdigheid, waarvan de implicaties voortdurend moeten worden heroverwogen.

Wetten en marktmechanismen zijn onvoldoende oplossingen.

In de afgelopen decennia, toen we meer gegevens begonnen te genereren, raakten onze instellingen verslaafd. Als je de gegevens hebt achtergehouden en de feedbacklussen hebt verbroken, is het niet duidelijk of ze überhaupt zouden kunnen doorgaan. Wij, als burgers, bevinden ons in een vreemde positie: onze reden om de gegevens openbaar te maken is niet dat we ons diep bekommeren om het algemeen belang. Nee, we geven gegevens vrij uit eigenbelang, op Google of via zelftracking-apps. We zijn te goedkoop om geen gebruik te maken van gratis diensten die worden gesubsidieerd door advertenties. Of we willen onze conditie en voeding bijhouden, en dan verkopen we de gegevens.

Simitis wist al in 1985 dat dit onvermijdelijk zou leiden tot de algoritmische regulering die vandaag de dag vorm krijgt, aangezien politiek openbaar bestuur wordt dat op de automatische piloot draait, zodat burgers kunnen ontspannen en genieten, alleen om af en toe een duwtje te krijgen wanneer ze op het punt staan ​​te vergeten om Broccoli kopen.

Gewoonten, activiteiten en voorkeuren worden verzameld, geregistreerd en opgehaald om een ​​betere aanpassing te vergemakkelijken, niet om het vermogen van het individu om te handelen en te beslissen te verbeteren. Wat de oorspronkelijke drijfveer voor automatisering ook geweest mag zijn, verwerking blijkt steeds meer het ideale middel om een ​​individu aan te passen aan een vooraf bepaald, gestandaardiseerd gedrag dat gericht is op een zo hoog mogelijke naleving van de modelpatiënt, consument, belastingbetaler, werknemer of burger.

Wat Simitis hier beschrijft, is de constructie van wat ik onzichtbaar prikkeldraad noem rond ons intellectuele en sociale leven. Big data, met zijn vele onderling verbonden databases die zich voeden met informatie en algoritmen van twijfelachtige herkomst, leggen ernstige beperkingen op aan hoe we politiek en sociaal volwassen worden. De Duitse filosoof Jürgen Habermas waarschuwde terecht - in 1963 - dat een uitsluitend technische beschaving … wordt bedreigd … door de splitsing van mensen in twee klassen – de sociale ingenieurs en de gevangenen van gesloten sociale instellingen.

Het onzichtbare prikkeldraad van big data beperkt ons leven tot een ruimte die er misschien rustig en aantrekkelijk genoeg uitziet, maar die we niet zelf hebben gekozen en die we niet kunnen herbouwen of uitbreiden. Het ergste is dat we het niet als zodanig zien. Omdat we geloven dat we vrij zijn om overal heen te gaan, blijft het prikkeldraad onzichtbaar. Erger nog, er is niemand de schuldige: zeker niet Google, Dick Cheney of de NSA. Het is het resultaat van veel verschillende logica's en systemen - van het moderne kapitalisme, van bureaucratisch bestuur, van risicobeheer - die worden opgevoerd door de automatisering van informatieverwerking en door de depolitisering van de politiek.

Hoe meer informatie we over onszelf onthullen, hoe dichter maar onzichtbaarder dit prikkeldraad wordt. We verliezen geleidelijk ons ​​vermogen om te redeneren en te debatteren; we begrijpen niet meer waarom dingen ons overkomen.

Maar niet alles is verloren. We zouden kunnen leren onszelf te zien als gevangen in dit prikkeldraad en er zelfs doorheen te snijden. Privacy is de bron die ons in staat stelt om dat te doen en, als we zoveel geluk hebben, zelfs om onze ontsnappingsroute te plannen.

Dit is waar Simitis een werkelijk revolutionair inzicht tot uitdrukking bracht dat verloren is gegaan in hedendaagse privacydebatten: er kan geen vooruitgang worden geboekt, zei hij, zolang privacybescherming min of meer gelijk staat aan het recht van een individu om te beslissen wanneer en welke gegevens toegankelijk zijn . De valkuil waar veel goedbedoelende privacyvoorvechters in trappen, is te denken dat als ze het individu maar meer controle over zijn of haar gegevens zouden kunnen geven - door strengere wetten of een robuust eigendomsregime - het onzichtbare prikkeldraad zichtbaar en rafelig zou worden. Het zal niet - niet als die gegevens uiteindelijk worden teruggestuurd naar de instellingen die de draad om ons heen oprichten.

Denk aan privacy in ethische termen.

Als we privacy accepteren als een probleem van en voor democratie, dan zijn populaire oplossingen ontoereikend. In zijn boek bijvoorbeeld Wie bezit de toekomst? ? , stelt Jaron Lanier voor dat we één privacypool - de juridische - negeren en ons in plaats daarvan concentreren op de economische. Commerciële rechten zijn beter geschikt voor de veelheid aan eigenaardige kleine situaties die zich in het echte leven zullen voordoen dan nieuwe soorten burgerrechten in de trant van digitale privacy, schrijft hij. Op basis van deze logica bereiken we twee dingen door van onze gegevens een actief te maken dat we zouden kunnen verkopen. Ten eerste kunnen we bepalen wie er toegang toe heeft, en ten tweede kunnen we een deel van de economische verliezen compenseren die worden veroorzaakt door de verstoring van alles wat analoog is.

Het voorstel van Lanier is niet origineel. In Code en andere wetten van cyberspace (voor het eerst gepubliceerd in 1999), was Lawrence Lessig enthousiast over het bouwen van een eigendomsregime rond privégegevens. Lessig wilde een elektronische butler die met websites kon onderhandelen: de gebruiker stelt haar voorkeuren eenmaal in - specificeert hoe ze over privacy zou onderhandelen en wat ze bereid is op te geven - en vanaf dat moment, wanneer ze een site betreedt, de site en haar machine onderhandelen. Alleen als de machines het eens kunnen worden, kan de site haar persoonlijke gegevens verkrijgen.

Het is gemakkelijk in te zien waar een dergelijke redenering ons zou kunnen brengen. We zouden allemaal aangepaste smartphone-apps hebben die voortdurend de nieuwste informatie bevatten over de mensen die we ontmoeten, de plaatsen die we bezoeken en de informatie die we bezitten om de prijs van onze persoonlijke gegevensportfolio bij te werken. Het zou extreem dynamisch zijn: als je langs een chique winkel loopt die sieraden verkoopt, is de winkel misschien bereid meer te betalen om de verjaardag van je partner te weten dan wanneer je thuis tv zit te kijken.

Het eigendomsregime kan inderdaad de privacy versterken: als consumenten een goed rendement op hun dataportfolio willen, moeten ze ervoor zorgen dat hun data niet al ergens anders beschikbaar zijn. Ze verhuren het dus zoals Netflix films verhuurt of verkopen het op voorwaarde dat het alleen onder streng gecontroleerde voorwaarden kan worden gebruikt of doorverkocht. Sommige bedrijven bieden al datalockers aan om dergelijke veilige uitwisselingen te vergemakkelijken.

Dus als u het recht op privacy op zich zelf wilt verdedigen, kan het omzetten van gegevens in een verhandelbaar bezit uw twijfels wegnemen. De NSA zou nog steeds krijgen wat ze wilde; maar als je bang bent dat onze privé-informatie te vloeibaar is geworden en dat we de controle over de bewegingen ervan hebben verloren, kan een slim bedrijfsmodel, gekoppeld aan een sterk regime voor het beheer van digitale rechten, dat oplossen.

Ondertussen zouden overheidsinstanties die zich inzetten voor nanny statecraft deze gegevens ook willen hebben. Misschien betalen ze een kleine vergoeding of beloven ze een belastingvermindering voor het voorrecht om je later een duwtje in de rug te geven - met behulp van de gegevens van je smartphone. Consumenten winnen, ondernemers winnen, technocraten winnen. Privacy wordt op de een of andere manier ook bewaard. Dus wie verliest hier precies? Als je je Simitis hebt gelezen, weet je het antwoord: democratie wel.

Het is niet alleen omdat het onzichtbare prikkeldraad zou blijven. We moeten ons ook zorgen maken over de gevolgen voor rechtvaardigheid en gelijkheid. Mijn beslissing om persoonlijke informatie vrij te geven, zelfs als ik deze alleen aan mijn verzekeringsmaatschappij bekendmaak, zal onvermijdelijk gevolgen hebben voor andere mensen, van wie velen minder welgesteld zijn. Mensen die zeggen dat het volgen van hun conditie of locatie slechts een bevestigende keuze is waarvan ze zich kunnen afmelden, hebben weinig kennis van hoe instellingen denken. Als er eenmaal genoeg early adopters zijn die zichzelf volgen - en de meesten van hen zullen er waarschijnlijk iets aan hebben - zullen degenen die weigeren niet langer worden gezien als alleen maar eigenzinnige individuen die hun autonomie uitoefenen. Nee, ze zullen worden beschouwd als afwijkend met iets te verbergen. Hun verzekering wordt duurder. Als we dit feit nooit uit het oog verliezen, zal onze beslissing om onszelf te volgen niet zo gemakkelijk te herleiden zijn tot puur economisch eigenbelang; op een gegeven moment kunnen morele overwegingen een rol spelen. Wil ik echt mijn gegevens delen en een coupon krijgen die ik niet nodig heb als het betekent dat iemand anders die al drie banen heeft uiteindelijk meer moet betalen? Dergelijke morele zorgen worden terzijde geschoven als we de besluitvorming delegeren aan elektronische butlers.

Weinigen van ons hebben morele pijnen gehad over schema's voor het delen van gegevens, maar dat zou kunnen veranderen. Voordat het milieu een wereldwijd probleem werd, hebben maar weinigen van ons twee keer nagedacht over het nemen van het openbaar vervoer als we konden rijden. Voordat ethische consumptie een wereldwijd probleem werd, zou niemand meer hebben betaald voor koffie die hetzelfde smaakte maar eerlijke handel beloofde. Denk aan een goedkoop T-shirt dat je in een winkel ziet liggen. Het is misschien volkomen legaal om het te kopen, maar na decennia van hard werken door activistische groepen, doet een Made in Bangladesh-label ons er twee keer over nadenken. Misschien zijn we bang dat het is gemaakt door kinderen of uitgebuite volwassenen. Of misschien willen we, als we erover nadenken, het T-shirt wel kopen omdat we hopen dat het het werk kan ondersteunen van een kind dat anders tot prostitutie zou worden gedwongen. Wat is het juiste om hier te doen? We weten het niet, dus doen we wat onderzoek. Een dergelijk onderzoek kan niet van toepassing zijn op alles wat we kopen, anders zouden we de winkel nooit verlaten. Maar uitwisseling van informatie - de zuurstof van het democratisch leven - zou in de categorie moeten vallen van Meer nadenken, niet minder. Het is niet iets om te delegeren aan een elektronische butler - niet als we ons leven niet willen zuiveren van zijn politieke dimensie.

Saboteer het systeem. Roep meer vragen op.

We zouden ook last moeten hebben van de suggestie dat we het privacyprobleem kunnen herleiden tot de juridische dimensie. De vraag die we ons de afgelopen twee decennia hebben gesteld - hoe kunnen we ervoor zorgen dat we meer controle hebben over onze persoonlijke informatie? - kan niet de enige vraag zijn die we ons moeten stellen. Tenzij we leren en voortdurend opnieuw leren hoe geautomatiseerde informatieverwerking het democratische leven bevordert en belemmert, zou een antwoord op deze vraag waardeloos kunnen zijn, vooral als het democratische regime elk antwoord dat we in de tussentijd bedenken, zou moeten implementeren.

Intellectueel is het in ieder geval duidelijk wat er moet gebeuren: we moeten de kwestie niet alleen in de economische en juridische dimensie aanpakken, maar ook in een politieke, door de toekomst van privacy te verbinden met de toekomst van democratie op een manier die weigert te verminderen privacy aan markten of wetten. Wat betekent dit filosofische inzicht in de praktijk?

Ten eerste moeten we het debat over privacy en het delen van informatie politiseren. Het zou een goed begin zijn om het bestaan ​​- en de ingrijpende politieke gevolgen - van het onzichtbare prikkeldraad te articuleren. We moeten data-intensieve probleemoplossing onder de loep nemen en het soms antidemocratische karakter ervan blootleggen. Soms zouden we meer risico, onvolmaaktheid, improvisatie en inefficiëntie moeten accepteren om de democratische geest levend te houden.

Ten tweede moeten we leren hoe we het systeem kunnen saboteren, misschien door te weigeren zichzelf te volgen. Als het weigeren om onze calorie-inname of onze verblijfplaats te registreren de enige manier is om beleidsmakers ertoe te brengen de structurele oorzaken van problemen zoals obesitas of klimaatverandering aan te pakken - en niet alleen te sleutelen aan hun symptomen door middel van nudging - zouden informatieboycots gerechtvaardigd kunnen zijn. Weigeren om geld te verdienen met uw eigen gegevens kan net zo politiek zijn als weigeren auto te rijden of vlees te eten. Privacy kan dan opnieuw samensmelten als een politiek instrument om de geest van democratie levend te houden: we willen privéruimtes omdat we nog steeds geloven in ons vermogen om na te denken over wat er in de wereld scheelt en een manier te vinden om het op te lossen, en we geven dit liever niet op capaciteit voor algoritmen en feedbackloops.

Ten derde hebben we meer nodig provocerende digitale diensten . Het is niet genoeg dat een website ons vraagt ​​te beslissen wie onze gegevens mag zien. In plaats daarvan zou het onze eigen verbeeldingskracht moeten opwekken. Sites die goed zijn ontworpen, zouden burgers er niet toe aanzetten hun privé-informatie te bewaken of te delen, maar zouden de verborgen politieke dimensies van verschillende vormen van informatie-uitwisseling onthullen. We willen geen elektronische butler, we willen een elektronische provocateur. In plaats van nog een app die ons kan vertellen hoeveel geld we kunnen besparen door onze trainingsroutine te volgen, hebben we een app nodig die ons kan vertellen hoeveel mensen waarschijnlijk hun ziektekostenverzekering zullen verliezen als de verzekeringssector zoveel gegevens heeft als de NSA, het meeste is bijgedragen door consumenten zoals wij. Uiteindelijk zouden we dergelijke dimensies misschien zelf kunnen onderscheiden, zonder enige technologische aanwijzingen.

Tot slot moeten we af van vaste vooroordelen over hoe onze digitale diensten werken en onderling verbonden zijn. Anders worden we het slachtoffer van dezelfde logica die de verbeeldingskracht heeft beperkt van zoveel goedbedoelende privacyadvocaten die denken dat het verdedigen van het recht op privacy - niet vechten om de democratie te behouden - de drijfveer is voor het openbare beleid. Hoewel veel internetactivisten zeker anders zouden beweren, is wat er met internet gebeurt slechts van secundair belang. Net als bij privacy, zou het lot van de democratie zelf ons primaire doel moeten zijn.

Per slot van rekening had Paul Baran in 1967 het geluk niet te weten wat het internet zou worden. Dat weerhield hem er niet van om de voordelen van utility computing en de gevaren ervan in te zien. Laat het idee varen dat internet de afgelopen tien jaar uit de gratie is geraakt. Onszelf bevrijden van die verkeerde lezing van de geschiedenis zou ons kunnen helpen de antidemocratische dreigingen van de digitale toekomst aan te pakken.

Evgeny Morozov is de auteur van The Net Delusion: The Dark Side of Internet Freedom en Klik hier om alles op te slaan: de dwaasheid van technologisch oplossingsdenken.

zich verstoppen