Hoe democratieën de macht kunnen terugvorderen in de digitale wereld

mevrouw Tech | Getty

Moet Twitter de door de Amerikaanse president getweete leugens censureren? Moet YouTube desinformatie over covid-19 verwijderen? Moet Facebook meer doen tegen haatzaaien? Dergelijke vragen, die dagelijks in de media opduiken, kunnen het lijken alsof het belangrijkste technologisch gedreven risico voor democratieën het beheer van inhoud door sociale-mediabedrijven is. Toch zijn deze controverses slechts symptomen van een grotere dreiging: de diepte van de geprivatiseerde macht over de digitale wereld.

Elk democratisch land in de wereld staat voor dezelfde uitdaging, maar niemand kan die alleen onschadelijk maken. We hebben een wereldwijde democratische alliantie nodig om normen, regels en richtlijnen voor technologiebedrijven vast te stellen en om overeenstemming te bereiken over protocollen voor grensoverschrijdende digitale activiteiten, waaronder inmenging in verkiezingen, cyberoorlog en online handel. Burgers zijn beter vertegenwoordigd wanneer een coalitie van hun regeringen - in plaats van een handvol bedrijfsleiders - de voorwaarden van bestuur definieert, en wanneer controlemechanismen en toezichtmechanismen aanwezig zijn.

Er is een lange lijst met manieren waarop technologiebedrijven ons leven beheersen zonder veel regelgeving. Op gebieden van het bouwen van kritieke infrastructuur en het verdedigen ervan - of zelfs het produceren van offensieve cybertools - tot het ontwerpen van kunstmatige-intelligentiesystemen en overheidsdatabases, bepalen beslissingen die in het belang van het bedrijfsleven worden genomen normen en standaarden voor miljarden mensen.

Steeds vaker nemen bedrijven staatsfuncties over of ontwikkelen ze producten die fundamentele rechten aantasten. Zo worden gezichtsherkenningssystemen die nooit goed werden gereguleerd voordat ze werden ontwikkeld en ingezet, nu zo wijdverbreid gebruikt dat mensen van hun privacy worden beroofd. Evenzo verzamelen bedrijven systematisch privégegevens, vaak zonder toestemming - een industrienorm die regelgevers traag hebben aangepakt.

Verwant verhaal

Waarom het congres naar Twitter en Facebook moet kijken Als Amerikaanse politici zich echt zorgen maken over de schade die online platforms kunnen aanrichten, moeten ze kijken naar online complottheorieën - en hoe deze worden verergerd door het ontwerp van sociale-mediasites.

Aangezien technologieën sneller evolueren dan wetten, nemen de discrepanties tussen particuliere instanties en openbaar toezicht toe. Neem bijvoorbeeld smart city-bedrijven, die beloven dat lokale overheden de congestie kunnen verminderen door auto's in realtime te volgen en de timing van verkeerslichten aan te passen. In tegenstelling tot bijvoorbeeld een weg aangelegd door een bouwbedrijf, bevindt deze digitale infrastructuur zich niet per se in het publieke domein. De bedrijven die het bouwen, verwerven inzichten en waarde die misschien niet terugvloeien naar het publiek.

Deze ongelijkheid tussen de publieke en de private sector loopt uit de hand. Er is een informatiekloof, een talentkloof en een rekenkloof. Samen vormen deze een machts- en verantwoordelijkheidskloof. Er bestaat dus een hele laag van controle over ons dagelijks leven zonder democratische legitimiteit en met weinig toezicht.

Waarom zouden we ons zorgen moeten maken? Omdat beslissingen die bedrijven nemen over digitale systemen mogelijk niet voldoen aan essentiële democratische principes zoals keuzevrijheid, eerlijke concurrentie, non-discriminatie, rechtvaardigheid en verantwoording. Onbedoelde gevolgen van technologische processen, verkeerde beslissingen of bedrijfsgestuurde ontwerpen kunnen ernstige risico's opleveren voor de openbare veiligheid en de nationale veiligheid. En macht die niet onderworpen is aan systematische checks and balances staat op gespannen voet met de grondbeginselen van de meeste democratieën.

Tegenwoordig wordt technologieregulering vaak gekarakteriseerd als een drieledige strijd tussen de door de staat geleide systemen in China en Rusland, de marktgestuurde in de Verenigde Staten en een op waarden gebaseerde visie in Europa. De realiteit is echter dat er slechts twee dominante systemen voor technologisch bestuur zijn: het hierboven beschreven geprivatiseerde systeem, dat van toepassing is in de hele democratische wereld, en een autoritair systeem.

Om wereldwijde technologiebedrijven over de streep te trekken, hebben we iets nieuws nodig: een wereldwijde alliantie die democratie voorop stelt.

De laissez-faire-aanpak van democratische regeringen en hun onwil om particuliere bedrijven thuis in toom te houden, speelt ook op het internationale toneel. Terwijl democratische regeringen bedrijven grotendeels hebben toegestaan ​​om te regeren, hebben autoritaire regeringen normen opgesteld via internationale fora. Deze ongelukkige verschuiving valt samen met een trend van wereldwijd democratisch verval, aangezien grote democratieën als India, Turkije en Brazilië autoritairder zijn geworden. Zonder opzettelijke en onmiddellijke inspanningen van democratische regeringen om hun keuzevrijheid terug te winnen, zullen bedrijfs- en autoritaire bestuursmodellen de democratie overal uithollen.

Betekent dit dat democratische regeringen in plaats daarvan hun eigen sociale-mediaplatforms, datacenters en mobiele telefoons moeten bouwen? Nee. Maar ze moeten wel dringend hun rol terugeisen bij het creëren van regels en beperkingen die de kernprincipes van democratie op technologisch gebied hooghouden. Tot nu toe zijn deze regeringen langzaam begonnen dat te doen met wetten op nationaal niveau of, in het geval van Europa, op regionaal niveau. Maar om wereldwijde technologiebedrijven over de streep te trekken, hebben we iets nieuws nodig: een wereldwijde alliantie die democratie voorop stelt.

Een team vormen

Mondiale instellingen geboren in de nasleep van de Tweede Wereldoorlog, zoals de Verenigde Naties, de Wereldhandelsorganisatie en de Noord-Atlantische Verdragsorganisatie, creëerden een op regels gebaseerde internationale orde. Maar ze houden onvoldoende rekening met de digitale wereld in hun mandaten en agenda's, ook al beginnen velen zich eindelijk te concentreren op digitale samenwerking, e-commerce en cyberbeveiliging. En hoewel digitale handel (die zijn eigen regelgeving vereist, zoals regels voor e-commerce en criteria voor de uitwisseling van gegevens) van toenemend belang wordt, zijn de WTO-leden het niet eens geworden over wereldwijde regels voor diensten voor slimme productie, digitale toeleveringsketens en andere digitaal geactiveerde transacties.

Wat we nu nodig hebben, is daarom een ​​grote democratische coalitie die een zinvol alternatief kan bieden voor de twee bestaande modellen van technologisch bestuur, het geprivatiseerde en het autoritaire. Het zou een mondiale coalitie moeten zijn, die landen verwelkomt die aan democratische criteria voldoen.

De Community of Democracies, een coalitie van staten die in 2000 werd opgericht om de democratie te bevorderen maar nooit veel impact had, zou kunnen worden vernieuwd en verbeterd om een ​​ambitieus mandaat voor het bestuur van technologie op te nemen. Als alternatief zou een D7 of D20 kunnen worden opgericht - een coalitie die lijkt op de G7 of G20, maar is samengesteld uit de grootste democratieën ter wereld.

Zo'n groep zou overeenstemming bereiken over regelgeving en normen voor technologie in overeenstemming met de democratische kernbeginselen. Dan zou elke lidstaat ze op zijn eigen manier implementeren, net zoals EU-lidstaten vandaag doen met EU-richtlijnen.

Welke problemen zou zo'n coalitie oplossen? De coalitie zou bijvoorbeeld een gedeelde definitie kunnen aannemen van: vrijheid van meningsuiting voor sociale-mediabedrijven om te volgen. Misschien zou die definitie vergelijkbaar zijn met de breed gedeelde Europese benadering, waar meningsuiting vrij is, maar er zijn duidelijke uitzonderingen voor haatzaaiende uitlatingen en aanzetten tot geweld.

Of de coalitie zou de praktijk van politieke advertenties met microtargeting op sociale media: het zou bedrijven bijvoorbeeld kunnen verbieden om adverteerders toe te staan ​​advertenties aan te passen en te targeten op basis van iemands religie, etniciteit, seksuele geaardheid of verzamelde persoonlijke gegevens. De coalitie zou op zijn minst kunnen pleiten voor meer transparantie over microtargeting om een ​​beter geïnformeerd debat op gang te brengen over welke praktijken voor het verzamelen van gegevens verboden terrein zouden moeten zijn.

De democratische coalitie zou ook normen en methoden van toezicht kunnen aannemen voor de digitale operaties van verkiezingen en campagnes . Dit kan betekenen dat er overeenstemming moet worden bereikt over beveiligingsvereisten voor stemmachines, plus anonimiteitsnormen, stresstests en verificatiemethoden, zoals het vereisen van een papieren back-up voor elke stem. En de hele coalitie zou kunnen instemmen met het opleggen van sancties aan elk land of niet-statelijke actor die een verkiezing of referendum in een van de lidstaten verstoort.

Verwant verhaal

Waarom het verbod op politieke advertenties van Facebook het verkeerde probleem oplost Een moratorium op nieuwe politieke advertenties vlak voor de verkiezingsdag pakt een soort uitdaging aan die wordt veroorzaakt door sociale media. Het is gewoon niet degene die ertoe doet.

Een andere taak die de coalitie op zich kan nemen, is het ontwikkelen van handelsregels voor de digitale economie . Leden zouden bijvoorbeeld kunnen afspreken nooit te eisen dat bedrijven de broncode van software aan de overheid overhandigen, zoals China doet. Ze zouden ook kunnen overeenkomen om gemeenschappelijke regels voor gegevensbescherming vast te stellen voor grensoverschrijdende transacties. Door dergelijke maatregelen zou een soort digitale vrijhandelszone kunnen ontstaan ​​tussen gelijkgestemde landen.

China heeft al iets soortgelijks in de vorm van eWTP, een handelsplatform dat wereldwijde tariefvrije handel mogelijk maakt voor transacties onder de miljoen dollar. Maar eWTP, dat is opgericht door e-commercegigant Alibaba, wordt gerund door in China gevestigde bedrijven uit de particuliere sector. Het is bekend dat de Chinese overheid toegang heeft tot gegevens via particuliere bedrijven. Zonder een openbaar, op regels gebaseerd alternatief zou eWTP het de facto wereldwijde platform voor digitale handel kunnen worden, zonder democratisch mandaat of toezicht.

Een andere kwestie die deze coalitie zou kunnen aanpakken, zou zijn: veiligheid van toeleveringsketens voor apparaten zoals telefoons en laptops. Veel landen hebben smartphones en telecomapparatuur van Huawei verboden uit angst dat de technologie van het bedrijf ingebouwde kwetsbaarheden of achterdeurtjes heeft die de Chinese overheid zou kunnen misbruiken. Het proactief ontwikkelen van gezamenlijke normen om de integriteit van toeleveringsketens en producten te beschermen, zou een gelijk speelveld creëren tussen de leden van de coalitie en vertrouwen opbouwen in bedrijven die ermee instemmen zich eraan te houden.

Het volgende gebied dat de aandacht van de coalitie verdient, is: cyberoorlog en hybride conflict (waar digitale en fysieke agressie worden gecombineerd). In het afgelopen decennium heeft een groeiend aantal landen hybride conflicten aangemerkt als een bedreiging voor de nationale veiligheid. Elk land met hoogopgeleide cyberoperaties kan grote schade aanrichten aan landen die niet investeren in verdediging tegen hen. Ondertussen hebben cyberaanvallen door niet-statelijke actoren de machtsverhoudingen tussen staten doen verschuiven.

Op dit moment zijn er echter geen internationale criteria die bepalen wanneer een cyberaanval geldt als een oorlogsdaad. Dit moedigt slechte acteurs aan om met veel kleine klappen toe te slaan. Naast hun directe economische of (geo)politieke effect, eroderen dergelijke aanvallen het vertrouwen dat gerechtigheid zal geschieden.

Een democratische coalitie zou kunnen werken aan het dichten van deze verantwoordelijkheidskloof en een onafhankelijk tribunaal kunnen initiëren om dergelijke aanvallen te onderzoeken, misschien vergelijkbaar met het Permanente Hof van Arbitrage in Den Haag, dat uitspraak doet over internationale geschillen. Leiders van de democratische alliantie zouden dan op basis van de uitspraken van het tribunaal kunnen beslissen of er economische en politieke sancties moeten volgen.

Dit zijn slechts enkele van de manieren waarop een wereldwijde democratische coalitie regels zou kunnen ontwikkelen die in de digitale sfeer hard ontbreken. Coalitienormen zouden in feite mondiale normen kunnen worden als haar leden een groot deel van de wereldbevolking vertegenwoordigen. De Algemene Verordening Gegevensbescherming van de EU geeft een voorbeeld van hoe dit zou kunnen werken. Hoewel de AVG alleen van toepassing is op Europa, moeten wereldwijde technologiebedrijven de regels voor hun Europese gebruikers volgen, en dit maakt het moeilijker om bezwaar te maken omdat andere rechtsgebieden soortgelijke wetten aannemen. Evenzo kunnen niet-leden van de democratische coalitie uiteindelijk veel van haar regels volgen om van de voordelen te genieten.

Als democratische regeringen niet meer macht krijgen in het bestuur van technologie naarmate autoritaire regeringen machtiger worden, zal de digitale wereld - die deel uitmaakt van ons dagelijks leven - niet democratisch zijn. Zonder een systeem van duidelijke legitimiteit voor degenen die regeren - zonder checks, balances en mechanismen voor onafhankelijk toezicht - is het onmogelijk om technologiebedrijven verantwoordelijk te houden. Alleen door een wereldwijde coalitie voor technologisch bestuur op te bouwen, kunnen democratische regeringen democratie opnieuw op de eerste plaats zetten.

Marietje Schaake is directeur internationaal beleid bij het Cyber ​​Policy Center van Stanford University en internationaal beleidsmedewerker bij Stanford's Institute for Human-Centered Artificial Intelligence. Tussen 2009 en 2019 was Marietje lid van het Europees Parlement voor de Nederlandse liberaal-democratische partij.

zich verstoppen