Gegevensdiscriminatie betekent dat de armen een ander internet kunnen ervaren

Data-analyse wordt gebruikt om een ​​subtiele vorm van discriminatie te implementeren, terwijl anonieme datasets kunnen worden gedolven om gezondheidsgegevens en andere privé-informatie te onthullen, waarschuwde een Microsoft-onderzoeker vanmorgen op MIT Technology Review ’s EmTech-conferentie.

Gegevens verdelen: Kate Crawford spreekt vandaag op de EmTech-conferentie op MIT.

Kate Crawford , hoofdonderzoeker bij Microsoft Research, betoogde dat deze problemen zouden kunnen worden aangepakt met nieuwe juridische benaderingen van het gebruik van persoonlijke gegevens.

in een nieuwe papier , stellen zij en een collega een systeem voor van een eerlijk proces dat mensen meer wettelijke rechten zou geven om te begrijpen hoe data-analyse wordt gebruikt bij beslissingen die tegen hen worden genomen, zoals het weigeren van een ziektekostenverzekering of een baan. Het is het allereerste begin van een gesprek over hoe dit beter kan, zei Crawford, die ook gasthoogleraar is aan het MIT Center for Civic Media, in een interview voorafgaand aan het evenement. Men denkt dat ‘big data’ het probleem van discriminatie omzeilt, omdat je te maken hebt met big datasets, maar in feite wordt big data gebruikt voor steeds preciezere vormen van discriminatie – een vorm van data redlining.

Tijdens haar toespraak vanmorgen voegde Crawford eraan toe dat je met big data nooit zult weten wat die discriminaties zijn, en ik denk dat daar de zorg begint.

Vooral gezondheidsgegevens zijn kwetsbaar, zegt de onderzoeker. Zoektermen voor ziektesymptomen, online aankopen van medische benodigdheden en zelfs de RFID-tags op medicijnverpakkingen kunnen websites en winkeliers informatie geven over iemands gezondheid.

Als Crawford en Jason Schultz , een professor aan de New York University Law School, schreef in hun paper: Wanneer deze datasets worden vergeleken met traditionele gezondheidsinformatie, zoals big data is ontworpen om te doen, is het mogelijk om een ​​gedetailleerd beeld te genereren over iemands gezondheid, inclusief informatie die een persoon mogelijk nooit aan een zorgverlener heeft verstrekt.

En een recente Cambridge University studie , waar Crawford tijdens haar toespraak op gezinspeelde, ontdekte dat zeer gevoelige persoonlijke kenmerken - waaronder seksuele geaardheid, persoonlijkheidskenmerken, gebruik van verslavende middelen en zelfs scheiding van ouders - zeer voorspelbaar zijn door te analyseren waarop mensen klikken om aan te geven dat ze leuk vinden op Facebook. De studie analyseerde de likes van 58.000 Facebook-gebruikers.

Evenzo kunnen aankoopgeschiedenissen, tweets en demografische, locatie- en andere informatie die is verzameld over individuele internetgebruikers, in combinatie met gegevens uit andere bronnen, resulteren in nieuwe soorten profielen die een werkgever of verhuurder zou kunnen gebruiken om iemand een baan of een appartement.

Als reactie op dergelijke risico's stellen de auteurs van het artikel een wettelijk kader voor dat ze big data due process noemen. Volgens dit concept zou een persoon die onderworpen is geweest aan enige vastberadenheid - of het nu gaat om weigering van een ziektekostenverzekering, afwijzing van een baan of huisvestingsaanvraag of een arrestatie - het recht hebben om te leren hoe big data-analyse werd gebruikt.

Dit zou het soort openbaarmakings- en kruisverhoorrechten met zich meebrengen die al zijn vastgelegd in de rechtsstelsels van de Verenigde Staten en vele andere landen. Voordat er een grotere maatschappelijke acceptatie kan zijn van de rol van big data in de besluitvorming, vooral binnen de overheid, moet het ook eerlijk lijken en een acceptabele mate van voorspelbaarheid, transparantie en rationaliteit hebben, schrijven de auteurs.

Gegevensanalyse kan ook dingen diep verkeerd doen, merkt Crawford op. Zelfs het voorheen succesvolle gebruik van Google-zoektermen om griepuitbraken te identificeren, mislukte vorig jaar, toen de werkelijke gevallen ver achterbleven bij de voorspellingen. Verhoogde griepgerelateerde media-aandacht en geklets over griep op sociale media werden aangezien voor tekenen van mensen die klaagden dat ze ziek waren, wat leidde tot overschattingen. Dit is waar sociale-mediagegevens ingewikkeld kunnen worden, zei Crawford.

En er kunnen meer fundamentele tekortkomingen zijn in wat gegevens ons vertellen. Na orkaan Sandy waren er bijvoorbeeld weinig tweets uit zwaar getroffen gebieden buiten Manhattan. Als we datasets van sociale media gaan gebruiken om de pols van een land te meten of een crisis te begrijpen - of het daadwerkelijk gebruiken om middelen in te zetten - krijgen we een vertekend beeld van wat er gebeurt, waarschuwde Crawford in haar toespraak.

zich verstoppen