Het probleem met onze data-obsessie

De zoektocht om steeds meer informatie te verzamelen kan ervoor zorgen dat we de verkeerde dingen waarderen en overmoedig worden over wat we weten. Door

• Brian Bergstein archiefpagina

20 februari 2013

Een controversiële vraag over de Californische stemming in 2008 inspireerde tot een eenvoudige online innovatie: een website genaamd Eightmaps.com. Het nummer in de naam verwees naar Proposition 8, waarin werd opgeroepen tot wijziging van de grondwet van de staat om het homohuwelijk te verbieden. Volgens de Californische wetten op het gebied van campagnefinanciering werden alle donaties van meer dan $ 100 aan groepen die voor of tegen Proposition 8 pleitten vastgelegd in een openbaar toegankelijke database. Iemand (het is nog steeds niet duidelijk wie) nam alle gegevens over de aanhangers van het voorstel - hun namen en postcodes en in sommige gevallen hun werkgevers - en zette het op een Google-kaart.

Nadat ze zichzelf op de kaart hadden gevonden, zeiden verschillende aanhangers van het verbod op het homohuwelijk dat ze... lastig gevallen of hun bedrijven werden geboycot. Dit bracht zelfs sommige tegenstanders van Proposition 8 van streek; zeker het zou niet lang meer duren , zeiden ze, voordat bijvoorbeeld religieuze fundamentalisten een soortgelijk instrument creëerden om aanhangers van een homorechtenmaatregel op te roepen. De commissie die Proposition 8 had gesteund, vroeg een federale rechter om de openbaarmakingswet af te schaffen of de drempel te verhogen tot boven $ 100, zodat meer mensen anoniem konden geven. Maar hij weigerde , met het argument dat stemmingsmaatregelen de zonneschijn nodig hebben die openbaarmaking van donaties biedt. Zijn uitspraak was in lijn met het idee dat zoveel mogelijk gegevens over het politieke proces zouden moeten worden onthuld .

Dit verhaal maakte deel uit van ons nummer van maart 2013

• Zie de rest van het nummer
• Abonneren

Jevgeny Morozov maakt zich zorgen dat we te vaak deze afweging maken: ervoor kiezen om meer informatie te publiceren om de transparantie te vergroten, zelfs als dit principes als privacy of maatschappelijke betrokkenheid ondermijnt. In zijn scherpe nieuwe boek, Om alles op te slaan klik hier, Morozov, een schrijver voor Leisteen en De nieuwe republiek, gebruikt de Eightmaps-aflevering om zijn bewering te ondersteunen dat internetcentrisme onze kijk op wat echt belangrijk is, vervormt.

De transparantie neemt toe ten koste van andere waarden, suggereert Morozov, vooral omdat het zo goedkoop en gemakkelijk is om internet te gebruiken om gegevens te verspreiden die ooit nuttig zouden kunnen blijken. En omdat ons zo vaak wordt verteld dat internet ons heeft bevrijd van de controle die poortwachters op informatie hadden, lijkt het heroverwegen van de beschikbaarheid van informatie retrograde - en de neiging tot openheid wint nog meer kracht. (Merk op dat Facebook zegt dat het zijn missie is om de wereld meer te maken open en transparant .)

Dingen beoordeeld

• Klik hier om alles op te slaan: de dwaasheid van technologisch oplossingsdenken

  Jevgeny Morozov
  Publieke zaken, 2013

  
  
  

• Tegen transparantie

  Lawrence Lessig
  De nieuwe republiek, 9 oktober 2009

• The Closed World: Computers and the Politics of Discourse in Cold War America

  Paul N. Edwards
  MIT Press, 1996

Morozov is niet de enige die bang is voor te veel transparantie. Harvard-professor Lawrence Lessig heeft welsprekend beschreven waarom het hebben van meer gegevens over politici mensen eerder tot cynisme misleidt dan dat het de politiek beter maakt. Maar Lessig lijkt berust in de onvermijdelijkheid van dergelijke dataverzamelingsprojecten in het internettijdperk. Hij gelooft dat de oplossing is om verkiezingen openbaar te financieren, zodat mensen minder reden hebben om cynisch te zijn over de motivaties van hun wetgevers.

Dat maakt Morozov woedend, omdat hij gelooft dat Lessig alleen maar de misvatting in de hand werkt dat internet meer een natuurkracht is dan een menselijke schepping - dat verzet zinloos is. Integendeel, zegt Morozov, er is verzet nodig. Zijn reactie op het probleem van Eightmaps is niet om simpelweg te accepteren dat meer informatie gemakkelijk doorzoekbaar zal zijn en de wet dienovereenkomstig te wijzigen. In plaats daarvan zouden we moeten eisen dat onze online systemen waarden respecteren die verder gaan dan alleen transparantie. Databases voor campagnedonaties zouden bijvoorbeeld zo kunnen worden ontworpen dat er niet massaal records uit worden gezogen. Ja, dat zou een aantal gemakkelijke gegevensontdekkingen in de weg staan. Maar het zou de democratie op de lange termijn kunnen versterken door mensen zich vrijer te laten voelen om doelen te steunen die misschien niet populair zijn in hun buurt of hun kantoor.

Morozovs eerste boek, The Net Delusion: de donkere kant van internetvrijheid, probeerde de mythe te doorbreken dat sociale media een krachtig wapen zijn tegen dictaturen. Integendeel, zei hij: slimme regimes gebruiken het internet om dissidenten in de gaten te houden. Dit lijkt zeker waar te zijn in China, Syrië en Iran. In zijn nieuwe boek probeert hij een meer amorf idee leeg te laten lopen: het solutionisme. Dit is zijn woord voor de overtuiging dat we met voldoende gegevens over veel complexe aspecten van het leven - waaronder niet alleen politiek maar ook misdaad, verkeer en gezondheid - problemen van inefficiëntie kunnen oplossen. Voorspellende software analyseert nu bijvoorbeeld misdaadstatistieken en helpt de politie te beslissen waar patrouilles moeten worden versterkt. Algoritmen houden klikken op websites bij en adviseren journalisten over wat voor soort verhalen ze moeten schrijven. Morozov ziet veel manieren waarop dit vreselijk mis kan gaan. Om te beginnen is maximale efficiëntie niet noodzakelijk een waarde om naar te streven; inefficiëntie levert vaak sociale voordelen op. Niet precies wetend hoeveel lezers elk verhaal kreeg, leidden kranten waarschijnlijk tot uitgebreide berichtgeving over de deelstaatregering.

Technologische overmoed

Maar het meest huiveringwekkende potentiële probleem is dat de gegevens die we gebruiken om onszelf te leiden, onvolledig of overdreven reductionistisch kunnen zijn. Veel misdaden worden niet gemeld, wat voorspellende politiesoftware voor de gek kan houden door te denken dat een buurt veilig is. Politieagenten op de maat kunnen echter misschien zien wanneer dingen daar niet helemaal kloppen en een oogje in het zeil houden. Morozov vreest een toekomst waarin dergelijke intuïtieve kennis over het inzetten van middelen wordt overstemd door algoritmen die alleen met harde gegevens kunnen werken en die natuurlijk geen verklaring kunnen geven voor de gegevens die ze niet hebben. Evenzo kunnen online gegevens van iemands campagnedonaties gedetailleerd en daarom leerzaam lijken, maar ze bieden altijd op zijn best een gedeeltelijk overzicht van de overtuigingen of rol van die persoon in het politieke proces.

Dit concept is misschien wel Morozovs sterkste punt: hoe objectieve gegevens ook zijn, interpretatie is subjectief, en dat geldt ook voor onze keuze over welke gegevens we in de eerste plaats moeten vastleggen. Hoewel het misschien vanzelfsprekend lijkt dat gegevens, hoe groot ook, het leven in al zijn complexiteit niet perfect kunnen weergeven, produceert informatietechnologie zoveel informatie dat het gemakkelijk is om te vergeten hoeveel er ontbreekt.

Dit is geen nieuw probleem; de bedrieglijke of zelfs verblindende eigenschappen van big data plaagden de eerste power-users van computers. Tijdens de oorlog in Vietnam wilde het Amerikaanse leger voorkomen dat Noord-Vietnam de Ho Chi Minh Trail, een systeem van jungle-doorgangen door het naburige Laos, zou gebruiken om voorraden naar de communistische opstand in het zuiden te sturen. Minister van Defensie Robert S. McNamara, die tijdens het runnen van Ford Motor op kwantitatieve managementmethoden had vertrouwd, deed wat vanzelfsprekend was: hij zocht meer gegevens over wat er op het spoor gebeurde. Zo begon Operatie Iglo Wit . Van 1967 tot 1972 vlogen Amerikaanse vliegtuigen over het pad en vielen neer 20.000 batterijgevoede sensoren dat eruitzag als planten of hout, maar stemmen en andere geluiden kon detecteren, lichaamswarmte, urine en de seismische storingen die specifiek zijn voor vrachtwagens. Deze sensoren stuurden signalen naar Amerikaanse vliegtuigen, die de gegevens doorgaven aan een Amerikaanse command-and-control-faciliteit in Thailand, waar technici die aan de oevers van terminals zaten, kaarten van de Ho Chi Minh Trail konden zien. Toen een sensor iets detecteerde, lichtte dat deel van het pad op als een witte worm. IBM 360/65 computers in het centrum berekenden hoe snel de worm bewoog; die informatie werd doorgestuurd naar Amerikaanse bommenwerpers zodat het betreffende gebied kan worden aangevallen .

Vanuit het controlecentrum zag Igloo White er misschien best goed uit. Wormen verschenen op de schermen en verdwenen toen in bombardementen. De gegevens leken erop te wijzen dat de Amerikanen duizenden vrachtwagens hadden vernietigd en routes hadden verstoord die aanzienlijke hoeveelheden voorraden aanleverden. Het leger was tevreden genoeg om $ 1 miljard per jaar aan het programma te besteden.

Maar congresonderzoekers zouden uiteindelijk twijfels zaaien over de veronderstellingen van het Pentagon over het aantal vrachtwagens dat was gebombardeerd. De communisten lieten zich uiteindelijk niet afschrikken om voorraden naar het zuiden te verplaatsen. Ze leverden zelfs tanks die werden gebruikt bij een enorm offensief in het zuiden in 1972. Het bleek dat de Amerikanen niet beseften in hoeverre zij en hun IBM-machines handelden op onvolledige en onbetrouwbare gegevens. Om te beginnen konden ze niet het hele pad bezaaien met sensoren. En de Vietnamezen bedachten hoe ze het systeem konden bespelen met zakken urine en op band opgenomen vrachtwagengeluiden.

Het is misschien verleidelijk om dit af te doen als weer een belachelijke blunder in een oorlog vol van hen. Maar dat zou een cruciaal punt missen. De les is niet dat de technologie voor het verzamelen van gegevens van Igloo White beperkt was - hoewel dat wel het geval was - maar dat de mensen die de gegevens gebruikten, de beperkingen ervan niet begrepen. In het boek van 1996 De gesloten wereld, historicus Paul N. Edwards beschrijft Igloo White als een voorbeeld van technologische hoogmoed. Militaire planners dachten dat computers en real-time communicatie hen in staat zouden stellen een koepel van mondiaal technologisch toezicht te creëren, wat steeds meer zekerheid zou opleveren over wat er in de wereld gebeurde. Maar veel dingen passen niet netjes onder de koepel; het leven is rommelig en niet alles kan worden geabstraheerd in gegevens die computers kunnen gebruiken.

Gegevens zien er tegenwoordig anders uit, maar ons geloof in de waarde ervan - en de impuls om een informatie panopticum - koppig blijven. Google zegt dat het de informatie van de wereld wil ordenen en universeel toegankelijk en bruikbaar wil maken. Morozov vraagt ​​zich terecht af of dat een waardig streven is. Wie weet welke data-analyseprojecten die nu worden uitgevoerd er over 40 jaar net zo kortzichtig uit zullen zien als Igloo White nu doet?

zich verstoppen