211service.com
De dictatuur van gegevens
Big data staat klaar om de samenleving te transformeren, van hoe we ziekte diagnosticeren tot hoe we kinderen opvoeden, en het zelfs mogelijk maken dat een auto zelf rijdt. Informatie komt naar voren als een nieuwe economische input, een essentiële hulpbron. Bedrijven, overheden en zelfs individuen gaan al het mogelijke meten en optimaliseren.
Dodental: De Amerikaanse minister van Defensie Robert McNamara informeerde de pers over Vietnam in het Pentagon in 1965.
Maar er is een donkere kant. Big data tast de privacy aan. En wanneer het wordt gebruikt om voorspellingen te doen over wat we waarschijnlijk zullen doen, maar nog niet hebben gedaan, bedreigt het ook de vrijheid. Maar big data verergeren ook een heel oud probleem: vertrouwen op de cijfers wanneer ze veel feilbaarder zijn dan we denken. Niets onderstreept de gevolgen van een misgelopen data-analyse dan het verhaal van Robert McNamara.
McNamara was een man met cijfers. Hij benoemde de Amerikaanse minister van Defensie toen de spanningen in Vietnam in het begin van de jaren zestig opliepen, hij stond erop gegevens te krijgen over alles wat hij kon. Alleen door statistische nauwkeurigheid toe te passen, geloofde hij, konden besluitvormers een complexe situatie begrijpen en de juiste keuzes maken. Volgens hem was de wereld een massa weerbarstige informatie die - indien afgebakend, aangeduid, afgebakend en gekwantificeerd - door mensenhanden getemd zou kunnen worden en onder de menselijke wil zou vallen. McNamara zocht de Waarheid, en die Waarheid kon worden gevonden in gegevens. Onder de cijfers die bij hem terugkwamen, was het aantal doden.
McNamara ontwikkelde zijn liefde voor cijfers als student aan de Harvard Business School en vervolgens als de jongste assistent-professor op 24-jarige leeftijd. Hij paste deze strengheid toe tijdens de Tweede Wereldoorlog als onderdeel van een elite Pentagon-team genaamd Statistical Control, dat datagestuurde beslissingen bracht maken tot een van 's werelds grootste bureaucratieën. Daarvoor was het leger blind. Het kende bijvoorbeeld het type, de hoeveelheid of de locatie van reserveonderdelen voor vliegtuigen niet. Gegevens kwamen te hulp. Alleen al het efficiënter maken van de wapeninkoop bespaarde in 1943 $ 3,6 miljard. De moderne oorlog vereiste een efficiënte toewijzing van middelen; het werk van het team was een verbluffend succes.
Aan het einde van de oorlog boden de leden van deze groep hun vaardigheden aan aan het Amerikaanse bedrijfsleven. De Ford Motor Company worstelde en een wanhopige Henry Ford II gaf hen de teugels. Net zoals ze niets wisten van het leger toen ze de oorlog hielpen winnen, hadden ze ook geen idee van het maken van auto's. Toch hebben de zogenaamde Whiz Kids het bedrijf omgedraaid.
McNamara klom snel op in de gelederen en draafde een datapunt uit voor elke situatie. Gekwetste fabrieksmanagers produceerden de cijfers die hij eiste - of ze nu correct waren of niet. Toen een edict uitkwam dat alle inventaris van één automodel moest worden gebruikt voordat een nieuw model in productie kon gaan, gooiden geërgerde lijnmanagers overtollige onderdelen eenvoudigweg in een nabijgelegen rivier. De grap in de fabriek was dat een kerel op water kon lopen - bovenop verroeste stukken van auto's uit 1950 en 1951.
McNamara was de belichaming van de hyperrationele directeur die meer op cijfers dan op sentimenten vertrouwde, en die zijn kwantitatieve vaardigheden kon toepassen op elke branche waar hij ze op aansprak. In 1960 werd hij benoemd tot president van Ford, een functie die hij slechts een paar weken bekleedde voordat hij werd aangeboord om zich bij het kabinet van president Kennedy aan te sluiten als minister van defensie.
Toen het conflict in Vietnam escaleerde en de Verenigde Staten meer troepen stuurden, werd het duidelijk dat dit een oorlog van wil was, niet van territorium. De strategie van Amerika was om de Vietcong naar de onderhandelingstafel te duwen. De manier om vooruitgang te meten was daarom door het aantal gedode vijanden. De bodycount werd dagelijks in de kranten gepubliceerd. Voor de aanhangers van de oorlog was het een bewijs van vooruitgang; voor critici een bewijs van zijn immoraliteit. De body count was het datapunt dat een tijdperk definieerde.
McNamara vertrouwde op de figuren, maakte ze tot een fetisj. Met zijn perfect naar achteren gekamde haar en zijn perfect geknoopte das, had McNamara het gevoel dat hij alleen maar kon begrijpen wat er op de grond gebeurde door naar een spreadsheet te staren - naar al die geordende rijen en kolommen, berekeningen en grafieken, waarvan de beheersing hem een standaarddeviatie dichter bij God.
In 1977, twee jaar nadat de laatste helikopter van het dak van de Amerikaanse ambassade in Saigon was opgestegen, publiceerde een gepensioneerde legergeneraal, Douglas Kinnard, een historisch onderzoek genaamd De oorlogsmanagers dat onthulde het moeras van kwantificering. Slechts 2 procent van de Amerikaanse generaals beschouwde het tellen van het lichaam als een geldige manier om vooruitgang te meten. Een nep-totaal waardeloos, schreef een generaal in zijn opmerkingen. Vaak flagrante leugens, schreef een ander. Ze werden schromelijk overdreven door veel eenheden, voornamelijk vanwege de ongelooflijke interesse die werd getoond door mensen als McNamara, zei een derde.
Het gebruik, misbruik en misbruik van gegevens door het Amerikaanse leger tijdens de oorlog in Vietnam is een verontrustende les over de beperkingen van informatie terwijl de wereld naar het big-datatijdperk slingert. De onderliggende gegevens kunnen van slechte kwaliteit zijn. Het kan bevooroordeeld zijn. Het kan verkeerd worden geanalyseerd of misleidend worden gebruikt. En nog meer vernietigend, gegevens kunnen er niet in slagen vast te leggen wat het beweert te kwantificeren.
We zijn vatbaarder dan we misschien denken voor de dictatuur van data - dat wil zeggen, om de data ons te laten regeren op manieren die evenveel kwaad als goed kunnen doen. De dreiging is dat we ons gedachteloos laten binden aan de output van onze analyses, zelfs als we redelijke gronden hebben om te vermoeden dat er iets mis is. Onderwijs lijkt op de rem? Push gestandaardiseerde tests om prestaties te meten en leraren of scholen te straffen. Terrorisme voorkomen? Maak lagen van watchlists en no-fly-lijsten om de lucht te bewaken. Wil je afvallen? Koop een app om elke calorie te tellen, maar vermijd daadwerkelijke lichaamsbeweging.
De dictatuur van data verstrikt zelfs de beste van hen. Google draait alles volgens data. Die strategie heeft geleid tot een groot deel van het succes. Maar het bedrijf struikelt ook af en toe. De medeoprichters, Larry Page en Sergey Brin, stonden er lang op om de SAT-scores van alle sollicitanten en hun gemiddelde punten te kennen toen ze afstudeerden van de universiteit. In hun denken meette het eerste getal het potentieel en het tweede de prestatie. Succesvolle managers van in de veertig werden opgejaagd voor de scores, tot hun regelrechte verbijstering. Het bedrijf bleef de cijfers zelfs eisen lang nadat interne onderzoeken geen correlatie hadden aangetoond tussen de scores en de prestaties op het werk.
Google zou beter moeten weten, om zich niet te laten verleiden door de valse charmes van gegevens. De maatregel laat weinig ruimte voor verandering in iemands leven. Het telt boekwijsheden ten koste van kennis. En het weerspiegelt misschien niet de kwalificaties van mensen uit de geesteswetenschappen, waar knowhow misschien minder kwantificeerbaar is dan in wetenschap en techniek. Google's obsessie met dergelijke gegevens voor HR-doeleinden is vooral vreemd gezien het feit dat de oprichters van het bedrijf producten zijn van Montessori-scholen, die de nadruk leggen op leren, niet op cijfers. Volgens de normen van Google zouden noch Bill Gates, noch Mark Zuckerberg noch Steve Jobs zijn aangenomen, omdat ze geen universitaire diploma's hebben.
Google's respect voor gegevens is tot het uiterste doorgevoerd. Om de beste kleur van een werkbalk op de website te bepalen, gaf Marissa Mayer, toen ze een van de topmanagers van Google was voordat ze naar Yahoo ging, eens het personeel om 41 gradaties van blauw te testen om te zien welke mensen meer gebruikten. In 2009 stopte de topontwerper van Google, Douglas Bowman, in een opwelling omdat hij de constante kwantificering van alles niet kon uitstaan. Ik had onlangs een debat over de vraag of een rand 3, 4 of 5 pixels breed moest zijn en werd gevraagd om mijn zaak te bewijzen. In zo'n omgeving kan ik niet opereren, schreef hij op een blog waarin hij zijn ontslag aankondigde. Wanneer een bedrijf gevuld is met ingenieurs, wendt het zich tot engineering om problemen op te lossen. Verminder elke beslissing tot een eenvoudig logisch probleem. Die gegevens worden uiteindelijk een kruk voor elke beslissing, waardoor het bedrijf verlamd raakt.
Dit is de dictatuur van data. En het herinnert aan het denken dat de Verenigde Staten ertoe bracht de oorlog in Vietnam te laten escaleren, deels op basis van het aantal doden, in plaats van beslissingen te baseren op zinvollere statistieken. Het is waar dat niet elke denkbare complexe menselijke situatie volledig kan worden teruggebracht tot de lijnen in een grafiek, of tot procentpunten op een grafiek, of tot cijfers op een balans, zei McNamara in een toespraak in 1967, toen binnenlandse protesten werden groeien. Maar over alle realiteit valt te redeneren. En niet kwantificeren wat kwantificeerbaar is, is alleen maar tevreden zijn met iets minder dan het volledige scala van rede. Als alleen de juiste data op de juiste manier werden gebruikt, niet gerespecteerd omwille van de data.
Robert Strange McNamara leidde in de jaren zeventig de Wereldbank en schilderde zichzelf in de jaren tachtig als een duif. Hij werd een uitgesproken criticus van kernwapens en een voorstander van milieubescherming. Later in zijn leven maakte hij een autobiografie, Achteraf gezien , die kritiek had op het denken achter de oorlog en zijn eigen beslissingen als minister van defensie. We hadden het mis, vreselijk mis, schreef hij. Maar McNamara, die in 2009 op 93-jarige leeftijd stierf, verwees naar de brede strategie van de oorlog. Over de kwestie van gegevens, en in het bijzonder van het aantal lijken, bleef hij onvermurwbaar. Hij gaf toe dat veel van de statistieken misleidend of onjuist waren. Maar dingen die je kunt tellen, moet je tellen. Verlies van het leven is er één.
Big data zal een basis vormen voor het verbeteren van de medicijnen die we gebruiken, de manier waarop we leren en de acties van individuen. Het risico is echter dat zijn buitengewone krachten ons ertoe kunnen verleiden de zonde van McNamara te begaan: om zo gefixeerd te raken op de gegevens, en zo geobsedeerd door de kracht en belofte die het biedt, dat we het inherente vermogen om te misleiden niet waarderen.
Kenneth Cukier is de data-editor van De econoom . Viktor Mayer-Schönberger is hoogleraar internetbeheer en -regulering aan het Oxford Internet Institute in het Verenigd Koninkrijk. Zij zijn de auteurs van Big data: een revolutie die onze manier van leven, werken en denken zal veranderen (Houghton Mifflin Harcourt, 2013), waaruit dit artikel is aangepast.