211service.com
Het is tijd voor een Bill of Data Rights
mevrouw Tech
Het is de zomer van 2023 en Rachel is blut. Ze zit op een avond in een bar en bladert door vacatures op haar telefoon en krijgt een sms. Onderzoekers die een onderzoek doen naar de leverfunctie, hebben haar naam gekregen van het loyaliteitsprogramma van de bar - ze had zich aangemeld om een happy hour-korting te krijgen op nacho's. Ze bieden $ 50 per week voor toegang tot de gezondheidsgegevens van haar telefoon en haar tabblad voor de komende drie maanden.
In het begin ergert Rachel zich aan de inbraak. Maar ze heeft het geld nodig. Dus knikt ze naar haar telefoon - een subtiel maar duidelijk gebaar van instemming dat even juridisch bindend is als een handtekening - en gaat terug naar haar nacho's en haar zoektocht naar een baan.
Maar naarmate de zomer vordert, merkt Rachel dat ze afwijzing na afwijzing krijgt van werkgevers, terwijl haar vrienden een voor een banen op een rij zetten. Buiten het medeweten van haar - omdat ze de kleine lettertjes niet las - zijn sommige gegevens uit het onderzoek, samen met haar geschiedenis van drankaankopen, terechtgekomen bij een van de twee uitzendbureaus die de markt zijn gaan domineren. Elke werkgever die haar sollicitatie bij het bureau screent, ziet nu dat ze wordt geprofileerd als een depressieve onbetrouwbare. Geen wonder dat ze geen werk kan krijgen. Maar zelfs als ze zou kunnen ontdekken dat ze op deze manier is geprofileerd, welk beroep heeft ze dan?
Een dag in het leven
Als je dit leest, is de kans groot dat je, net als Rachel, vandaag een enorme hoeveelheid gegevens hebt gecreëerd - door online te lezen of te winkelen, je training bij te houden of gewoon ergens heen te gaan met je telefoon in je zak. Sommige van deze gegevens heb je met opzet gecreëerd, maar een groot deel ervan is door jouw acties gecreëerd zonder jouw medeweten, laat staan toestemming.
De wildgroei aan gegevens in de afgelopen decennia heeft sommige hervormers ertoe gebracht een strijdkreet te krijgen: u bezit uw gegevens! Onder andere Eric Posner van de Universiteit van Chicago, Eric Weyl van Microsoft Research en virtual reality-goeroe Jaron Lanier stellen dat gegevens als bezit moeten worden beschouwd. Mark Zuckerberg, de oprichter en hoofd van Facebook, zegt dat ook. Facebook zegt nu dat u eigenaar bent van alle contacten en informatie die u op Facebook plaatst en kunt bepalen hoe deze worden gedeeld. The Financial Times betwist dat een belangrijk onderdeel van het antwoord ligt in het eigenaarschap geven van consumenten over hun eigen persoonlijke gegevens. In een recente toespraak , Tim Cook, CEO van Apple, was het ermee eens en zei: Bedrijven moeten erkennen dat gegevens van gebruikers zijn.
Gegevenseigendom lost niet alleen bestaande problemen niet op; het creëert nieuwe.
Dit essay stelt dat data-eigendom een gebrekkige, contraproductieve manier van denken over data is. Het lost niet alleen bestaande problemen niet op; het creëert nieuwe. In plaats daarvan hebben we een raamwerk nodig dat mensen rechten naar bepalen hoe hun gegevens worden gebruikt zonder dat ze er zelf eigenaar van hoeven te worden. De Data Care Act, een rekening geïntroduceerd op 12 december door de Amerikaanse senator Brian Schatz, een democraat uit Hawaï, is een goede eerste stap in deze richting (afhankelijk van hoe de kleine lettertjes evolueert). Zoals Doug Jones, een Democratische senator uit Alabama en een van de medesponsors van de rekeningen, zei: Het recht op online privacy en veiligheid zou een fundamenteel recht moeten zijn.
Het begrip eigendom is aantrekkelijk omdat het suggereert u macht en controle over uw gegevens te geven. Maar het bezitten en verhuren van data is een slechte analogie. Controle over hoe bepaalde gegevensbits worden gebruikt, is slechts één van de vele problemen. De echte vragen zijn vragen over hoe data de samenleving en individuen vormen. Het verhaal van Rachel zal ons laten zien waarom gegevensrechten belangrijk zijn en hoe ze kunnen werken om niet alleen Rachel als individu, maar de samenleving als geheel te beschermen.
Je weet nooit wat er morgen gebeurt
Om te zien waarom eigendom van gegevens een gebrekkig concept is, moet u eerst nadenken over dit artikel dat u aan het lezen bent. Alleen al het openen op een elektronisch apparaat zorgde voor gegevens: een vermelding in de geschiedenis van uw browser, cookies die de website naar uw browser stuurde, een vermelding in het serverlogboek van de website om een bezoek vanaf uw IP-adres vast te leggen. Het is vrijwel onmogelijk om iets online te doen - lezen, winkelen of zelfs maar ergens heen gaan met een telefoon met internetverbinding op zak - zonder een digitale schaduw achter te laten. Deze schaduwen kunnen niet worden bezeten - zoals je bijvoorbeeld een fiets bezit - net zomin als de kortstondige schaduwplekken die je op zonnige dagen volgen.
Uw gegevens op zich zijn niet erg nuttig voor een marketeer of een verzekeraar. Geanalyseerd in combinatie met vergelijkbare gegevens van duizenden andere mensen, voedt het echter algoritmen en maakt het u tot een bucketlist (bijv. zware roker met een drinkgewoonte of gezonde hardloper, altijd op tijd). Als een algoritme oneerlijk is - als het u bijvoorbeeld ten onrechte classificeert als een gezondheidsrisico omdat het is getraind op een scheve dataset of gewoon omdat u een uitbijter bent - dan maakt u het eigendom van uw gegevens niet eerlijk. De enige manier om te voorkomen dat u door het algoritme wordt beïnvloed, is door nooit, maar dan ook nooit iemand toegang te geven tot uw gegevens. Maar zelfs als je zou proberen om gegevens die op jou betrekking hebben te hamsteren, zouden bedrijven en overheden met toegang tot grote hoeveelheden gegevens over andere mensen die gegevens kunnen gebruiken om conclusies over jou te trekken. Data is geen neutrale weergave van de werkelijkheid. De creatie en consumptie van data weerspiegelt hoe macht wordt verdeeld in de samenleving.
U kunt er natuurlijk voor kiezen om al uw gegevens privé te houden om te voorkomen dat ze tegen u worden gebruikt. Maar als u die strategie volgt, loopt u mogelijk de voordelen mis van het soms beschikbaar stellen van uw gegevens. Als u bijvoorbeeld aan het rijden bent, navigeert met een smartphone-app, deelt u realtime, geanonimiseerde informatie die zich vervolgens vertaalt in nauwkeurige verkeersomstandigheden (het duurt bijvoorbeeld 26 minuten om vanmorgen naar uw werk te rijden als u om 8 uur vertrekt: 16 uur). Die gegevens zijn individueel privé - vreemden kunnen niet zien waar je bent - maar cumulatief is het een collectief goed.
De creatie en consumptie van data weerspiegelt hoe macht wordt verdeeld in de samenleving.
Dit voorbeeld laat zien hoe gegevens in het aggregaat fundamenteel van karakter kunnen verschillen van de afzonderlijke bits en bytes waaruit ze bestaan. Zelfs goedbedoelde argumenten over data-eigendom gaan ervan uit dat als je persoonsgegevens goed regelt, je goede maatschappelijke resultaten krijgt. En dat is gewoon niet waar.
Dat is de reden waarom veel van de problemen over oneerlijk gebruik van gegevens niet kunnen worden opgelost door te bepalen wie er toegang toe heeft. In bepaalde Amerikaanse rechtsgebieden gebruiken rechters bijvoorbeeld een algoritmisch gegenereerde risicoscore bij het nemen van beslissingen over borgtocht en veroordeling. Deze software de waarschijnlijkheid voorspellen dat een persoon toekomstige misdaden zal plegen. Stel je voor dat een dergelijk algoritme zegt dat je 99% kans hebt om nog een misdaad te plegen of een toekomstige borgtochtafspraak te missen, omdat mensen die demografisch vergelijkbaar zijn met jou, vaak criminelen of borgtochttrekkers zijn. Dat kan in uw geval oneerlijk zijn, maar u kunt uw demografische profiel of uw strafblad niet bezitten en weigeren het juridische systeem te laten zien. Zelfs als u geen toestemming geeft voor het gebruik van uw gegevens, kan een organisatie gegevens over andere mensen gebruiken om statistische extrapolaties te maken die van invloed zijn op u. Dit voorbeeld onderstreept het punt dat gegevens over macht gaan: mensen die worden beschuldigd van of veroordeeld voor misdaden hebben over het algemeen minder macht dan degenen die borgtocht- en veroordelingsbeslissingen nemen.
Evenzo houden bestaande oplossingen voor oneerlijk gebruik van gegevens vaak in dat niet wordt gecontroleerd wie toegang heeft tot gegevens, maar hoe gegevens worden gebruikt. Volgens de Amerikaanse Affordable Care Act kunnen zorgverzekeraars bijvoorbeeld niet meer weigeren of in rekening brengen voor dekking alleen omdat iemand een reeds bestaande aandoening heeft. De overheid vertelt de bedrijven niet dat ze die gegevens over patiënten niet mogen bewaren; het zegt alleen dat ze het moeten negeren. Een persoon is niet de eigenaar van het feit dat ze diabetes heeft, maar ze kan het recht hebben om daardoor niet gediscrimineerd te worden.
Toestemming wordt vaak genoemd als basisprincipe dat moet worden gerespecteerd bij het gebruik van gegevens. Maar zonder overheidsregulering om te voorkomen dat zorgverzekeraars gegevens over reeds bestaande aandoeningen gebruiken, hebben individuele consumenten niet de mogelijkheid om toestemming te weigeren. De reden dat ze dat vermogen niet hebben, is dat verzekeringsmaatschappijen meer macht hebben dan zij. Toestemming, om het maar bot te zeggen, werkt niet.
Gegevensrechten moeten de privacy beschermen en moeten er rekening mee houden dat privacy geen reactief recht is om je af te schermen van de samenleving. Het gaat over vrijheid om het zelf te ontwikkelen, weg van commercie en weg van overheidscontrole. Maar gegevensrechten gaan niet alleen over privacy. Net als andere rechten, bijvoorbeeld op vrijheid van meningsuiting, gaan gegevensrechten fundamenteel over het veiligstellen van een ruimte voor individuele vrijheid en keuzevrijheid terwijl ze deelnemen aan de moderne samenleving. De details moeten volgen uit basisprincipes, zoals bij de bestaande Amerikaanse Bill of Rights. Te vaak pogingen om te verkondigen zulke principes verzanden in het onkruid van zaken als opt-in toestemmingsmodellen, die snel verouderd kunnen raken.
Over de hele wereld zijn duidelijke, brede principes nodig, op een manier die past in de rechtsstelsels van individuele landen. In de VS zijn bestaande grondwettelijke bepalingen – zoals gelijke bescherming door de wet en verbodsbepalingen tegen onredelijke huiszoekingen en inbeslagnames – ontoereikend. Het is bijvoorbeeld moeilijk te beargumenteren dat het continu en aanhoudend volgen van iemands bewegingen in het openbaar een zoektocht is. En toch is dergelijk toezicht qua indringende effecten vergelijkbaar met een onredelijke zoektocht. Het is niet genoeg om te hopen dat rechtbanken met gunstige interpretaties van 18e-eeuwse taal zullen komen die wordt toegepast op 21e-eeuwse technologieën.
Een Bill of Data Rights moet rechten als deze bevatten:
- Het recht van het volk om te worden beveiligd tegen onredelijk toezicht mag niet worden geschonden.
- Niemand mag zijn of haar gedrag heimelijk laten manipuleren.
- Niemand mag op oneerlijke wijze worden gediscrimineerd op basis van gegevens.
Dit zijn lang niet alle bepalingen die een duurzaam en effectief wetsvoorstel nodig zou hebben. Ze zijn bedoeld als een begin en voorbeelden van het soort duidelijkheid en algemeenheid dat zo'n document nodig heeft.
Om een verschil te maken voor mensen als Rachel, heeft een Bill of Data Rights een nieuwe set van instellingen en juridische instrumenten nodig om de rechten die erin zijn vastgelegd te vrijwaren. De staat moet die rechten beschermen en afbakenen, waarmee de Europese Algemene Verordening Gegevensbescherming (AVG) van 2018 is begonnen. De nieuwe infrastructuur voor gegevensrechten moet verder gaan en bestaat uit raden, gegevenscoöperaties (die collectieve actie mogelijk maken en namens gebruikers pleiten), ethische gegevenscertificeringsregelingen, gespecialiseerde advocaten en auditors op het gebied van gegevensrechten, en gegevensvertegenwoordigers die optreden als vertrouwenspersonen voor leden van het grote publiek, in staat om de complexe effecten te ontleden die gegevens op het leven kunnen hebben.
Met een beetje hulp van mijn vrienden
Verwant verhaal
Verwant verhaal Hoe ziet de toekomst eruit zonder bescherming van gegevensrechten? Laten we terugkeren naar Rachels vruchteloze zoektocht naar een baan. Haar karakterisering als een depressieve onbetrouwbare kan al dan niet correct zijn. Misschien heeft het algoritme gewoon een fout gemaakt: Rachel is kerngezond en arbeidsgeschikt. Maar naarmate algoritmen beter worden en grotere datasets gebruiken, wordt het steeds minder waarschijnlijk dat ze onnauwkeurig zijn. Maar zou dat hen eerlijker maken?
Wat als Rachel was beetje depressief? Een goede baan had haar misschien kunnen helpen een depressie te overwinnen. Maar in plaats daarvan wordt haar profiel al snel een self-fulfilling prophecy. Omdat ze geen baan kan krijgen, wordt ze inderdaad depressief en onbetrouwbaar.
Overweeg nu Rachels dilemma in een wereld met sterkere bescherming van gegevensrechten. Ze stemt in met het onderzoek naar de leverfunctie, maar terwijl ze de algemene voorwaarden scant, signaleert een vertegenwoordiger van algoritmische gegevens het probleem, ongeveer zoals algoritmische poortwachters beschermen tegen computervirussen en spam. Nadat het probleem is gesignaleerd, wordt het doorverwezen naar een team van auditors die rapporteren aan de lokale gegevensrechtencommissie (in deze hypothetische toekomst). Het team onderzoekt het algoritme dat door de studie wordt gebruikt en ontdekt de link naar de werkgelegenheidsprofilering. Het bestuur stelt vast dat Rachel is geprofileerd en dat, dankzij een nieuw vastgestelde interpretatie van de Wet gelijke behandeling in arbeid en de Wet op de gegevensbescherming (aangenomen in 2022), dergelijke profilering duidelijk illegaal is. Rachel hoeft zelf geen actie te ondernemen - het bestuur bestraft de onderzoekers voor misbruik van gegevens.
Samenkomen
Een toenemende erosie van de privacy is moeilijk waar te nemen en schaadt niemand, net zoals sporen van koolstofdioxide nauwelijks waarneembaar zijn en geen milieuschade veroorzaken.
Zoals ik heb betoogd, is eigendom van gegevens een categoriefout met verderfelijke gevolgen: u kunt de meeste van uw gegevens niet echt bezitten, en zelfs als u dat wel zou kunnen, zou het u vaak niet beschermen tegen oneerlijke praktijken. Waarom is het idee van data-eigendom dan zo'n populaire oplossing?
Het antwoord is dat beleidsexperts en technologen te vaak stilzwijgend het concept van datakapitalisme accepteren. Ze zien gegevens ofwel als een bron van kapitaal (bijv. Facebook gebruikt gegevens over mij om advertenties te targeten) of als een product van arbeid (bijv. ik zou betaald moeten worden voor de gegevens die over mij worden geproduceerd). Het is geen van beide. Als we aan data denken zoals we denken aan een fiets, olie of geld, kunnen we niet vastleggen hoe diep de relaties tussen burgers, de staat en de particuliere sector zijn veranderd in het datatijdperk. Een nieuw paradigma om te begrijpen wat gegevens zijn - en welke rechten eraan verbonden zijn - is dringend nodig als we een rechtvaardig 21e-eeuws staatsbestel willen smeden.
Dit paradigma zou nuttig kunnen putten uit milieu-analogieën - data beschouwen als verwant aan broeikasgassen of andere externe effecten, waarbij kleine stukjes vervuiling, individueel onschadelijk, rampzalige collectieve gevolgen hebben. De meeste mensen hechten veel waarde aan hun eigen privacy, net zoals ze waarde hechten aan het vermogen om schone lucht in te ademen. Een toenemende erosie van de privacy is moeilijk waar te nemen en schaadt niemand, net zoals sporen van koolstofdioxide nauwelijks waarneembaar zijn en geen milieuschade veroorzaken. Maar over het geheel genomen, net zoals grote hoeveelheden broeikasgassen fundamentele schade aan het milieu veroorzaken, veroorzaakt een enorme verschuiving in de aard van privacy fundamentele schade aan het sociale weefsel.
Om deze schade te begrijpen, hebben we een nieuw paradigma nodig. Dit paradigma moet de manieren vastleggen waarop een omringende deken van gegevens onze relaties met elkaar verandert - als familie, als vrienden, als collega's, als consumenten en als burgers. Om dit te doen, moet dit paradigma gebaseerd zijn op een fundamenteel begrip dat mensen gegevensrechten hebben en dat regeringen die rechten moeten waarborgen.
Onderweg zullen er uitdagingen zijn. Noch de technische, noch de juridische infrastructuren rond gegevensrechten zijn eenvoudig. Het zal moeilijk zijn om tot een consensus te komen over welke rechten er zijn. Het wordt nog moeilijker om nieuwe wet- en regelgeving te implementeren om die rechten te beschermen. Zoals in het huidige debat in het Amerikaanse Congres, belangengroepen en industrie lobbyisten zal vechten om belangrijke details. De saldi die in verschillende landen worden getroffen, zullen anders zijn. Maar zonder een sterke en krachtige infrastructuur voor gegevensrechten kan een open democratische samenleving niet overleven.