Gegevens dystopie

Dystopieën in de 20e eeuw kwamen meestal in twee smaken: de imposante surveillancestaat, zoals afgebeeld in Orwell's 1984 , en de bedwelmende plezierkoepel, zoals in Huxley's Dappere nieuwe wereld . Wat als dit geen afzonderlijke nachtmerries waren? De echte bedreiging zou kunnen zijn toezicht in dienst van verleiding in plaats van straf.

Facebook is zo succesvol omdat het ons helpt de drang om verbonden te blijven met elkaar te vervullen. Die drang heeft ertoe geleid dat ongeveer een miljard van ons een enkel bedrijf heeft voorzien van afdrukken van een aanzienlijk deel van ons sociale leven (zie Wat Facebook weet) .

Dit verhaal maakte deel uit van ons nummer van juli 2012

• Zie de rest van het probleem
• Abonneren

Als sociaal wetenschapper ben ik erg enthousiast over deze gegevensbron, omdat het een geweldige bron is voor het bestuderen van het menselijke dier. Opkomende big data-bronnen - Facebook is een van de beste - hebben het potentieel om bij te dragen aan ons begrip van de samenleving. Maar deze informatie heeft toepassingen die verder gaan dan het targeten van advertenties. Hoewel het vooruitzicht Facebook-gebruikers tot nu toe niet lijkt te interesseren, kan het worden gebruikt om maatschappelijke, politieke en sociale berichten te targeten op manieren die ongezond zijn voor de democratie.

Politieke campagnes moedigen kiezers nu bijvoorbeeld aan om verbinding te maken met hun Facebook-apps of -pagina's, die toegang hebben tot diepgaande gegevens over niet alleen een persoon, maar ook over zijn of haar sociale netwerken en interacties. Dit schept mogelijkheden voor profilering met ongekende precisie en schaal. Ik wacht op de eerste golf van wrede negatieve politieke campagnes op Facebook. (De meesten van ons merken het misschien niet eens op, omdat het eng kan worden getarget op een ontvankelijke niche, of zelfs op individuen.)

De manier waarop Facebook de verzamelde gegevens gebruikt, kan onze sociale interacties beïnvloeden. De nieuwsfeed van Facebook toont niet alle updates, of zelfs de meest recente, maar eerder wat Facebook denkt dat je zal laten klikken of reageren. Algoritmen voor nieuwsfeeds creëren spiralen van versterking voor bepaald gedrag. De details zijn geheim, maar reverse-engineering laat zien dat Facebook denkt dat foto's meer betrokkenheid genereren dan tekst; updates met hen worden prominenter weergegeven, wat leidt tot nog meer betrokkenheid. Zelfs zonder expliciete instructie zullen mensen deze signalen ongetwijfeld oppikken en steeds meer foto's gaan posten. Ook op andere manieren kan Facebook leidend zijn in onze omgang met anderen. Misschien krijgen vrolijke berichten meer bekendheid. Misschien zullen we op een dag vernemen over een zelfmoord na een korte, cryptische statusupdate waarop niemand reageerde omdat Facebook het op de nieuwsfeed van mensen degradeerde toen het oordeelde dat het niet het soort bericht was dat klikken genereert.

Ik beweer niet dat er gemakkelijke antwoorden zijn op de vragen die Facebook stelt. Elk algoritme voor de nieuwsfeed zou zijn keerzijde hebben. Maar de vragen zijn belangrijk omdat Facebook een belangrijke maatschappelijke niche inneemt. Beslissingen over hoe het zijn schat aan gegevens gebruikt, wat het openbaar maakt en hoeveel toegang het politieke en zakelijke campagnes geeft, zullen ons allemaal raken. We moeten het niet alleen hebben over het potentieel van deze geweldige datastore, maar ook over de macht die het bedrijf heeft en de ethiek die het handhaaft.

Zeynep Tufekci is een assistent-professor aan de Universiteit van North Carolina en een fellow bij het Berkman Center for Internet and Society aan Harvard.

zich verstoppen