De grenzen van social engineering

Door gebruik te maken van big data bouwen onderzoekers en planners wiskundige modellen van persoonlijk en maatschappelijk gedrag. Maar de modellen kunnen de diepste bronnen van sociale problemen verbergen in plaats van onthullen. Door

• Nicholas Carr archiefpagina

16 april 2014

1969, Playboy publiceerde een lange, freewheelen interview met Marshall McLuhan waarin de mediatheoreticus en icoon uit de jaren zestig een portret van de toekomst schetste dat zowel verleidelijk als weerzinwekkend was. Gezien het vermogen van digitale computers om gegevens te analyseren en berichten te communiceren, voorspelde hij dat de machines uiteindelijk zouden worden ingezet om de werking van de samenleving te verfijnen. De computer kan worden gebruikt om een ​​netwerk van wereldwijde thermostaten aan te sturen om het leven zo vorm te geven dat het menselijk bewustzijn wordt geoptimaliseerd, zei hij. Het is al technologisch haalbaar om de computer op voordelige manieren in te zetten om samenlevingen te programmeren. Hij erkende dat een dergelijke gecentraliseerde controle het schrikbeeld van hersenspoeling opwekte, of veel erger, maar hij benadrukte dat het programmeren van samenlevingen in feite behoorlijk constructief en humanistisch kan worden uitgevoerd.

Het interview verscheen toen computers voornamelijk werden gebruikt voor geheimzinnige wetenschappelijke en industriële cijfers. Voor de meeste lezers in die tijd moeten de woorden van McLuhan vergezocht, zo niet gek klinken. Nu lijken ze profetisch. Met smartphones alomtegenwoordig, Facebook onontkoombaar en draagbare computers zoals Google Glass in opkomst, krijgt de samenleving een digitaal detectiesysteem. De locatie en het gedrag van mensen worden gevolgd terwijl ze door hun dagen gaan, en de resulterende informatie wordt onmiddellijk verzonden naar enorme serverfarms. Zodra we de algoritmen hebben geschreven die nodig zijn om al die big data te ontleden, denken veel sociologen en statistici, zullen we worden beloond met een veel dieper begrip van wat de samenleving drijft.

Dit verhaal maakte deel uit van ons nummer van mei 2014

• Zie de rest van het nummer
• Abonneren

Een van de grootste voorstanders van big data is Alex Sandy Pentland, een datawetenschapper die, als directeur van het Human Dynamics Laboratory van MIT, al lang computers gebruikt om het gedrag van bedrijven en andere organisaties te bestuderen. In zijn korte maar ambitieuze nieuwe boek, sociale fysica, Pentland stelt dat ons sterk uitgebreide vermogen om gedragsgegevens te verzamelen wetenschappers in staat zal stellen een causale theorie van sociale structuur te ontwikkelen en uiteindelijk een wiskundige verklaring te vinden voor waarom de samenleving in allerlei omstandigheden reageert zoals ze doet. Zoals de titel van het boek duidelijk maakt, denkt Pentland dat de sociale wereld, niet minder dan de materiële wereld, volgens regels werkt. Er zijn statistische regelmatigheden binnen menselijke beweging en communicatie, schrijft hij, en zodra we die regelmatigheden volledig begrijpen, zullen we de basismechanismen van sociale interacties ontdekken.

Pentlands idee van een datagedreven samenleving is problematisch. Het zou ons aanmoedigen om de status-quo te optimaliseren in plaats van deze uit te dagen.

Dingen beoordeeld

• Sociale fysica: hoe goede ideeën zich verspreiden - de lessen uit een nieuwe wetenschap

  Door Alex Pentland
  Penguin Press, 2014

  
  
  

Wat ons tot nu toe heeft weerhouden van het ontcijferen van de wiskundige onderbouwing van de samenleving, meent Pentland, is een gebrek aan empirische nauwkeurigheid in de sociale wetenschappen. In tegenstelling tot natuurkundigen, die de bewegingen van objecten met grote precisie kunnen meten, hebben sociologen het moeten doen met vage waarnemingen. Ze hebben moeten werken met ruwe en onvolledige datasets die zijn getrokken uit kleine steekproeven van de bevolking, en ze moesten vertrouwen op de notoir gebrekkige herinneringen van mensen aan wat ze deden, wanneer ze het deden en met wie ze het deden. Computernetwerken beloven die tekortkomingen te verhelpen. Door gebruik te maken van de gegevensstromen die door gadgets, zoekmachines, sociale media en creditcardbetalingssystemen stromen, kunnen wetenschappers nauwkeurige, realtime informatie verzamelen over het gedrag van miljoenen, zo niet miljarden individuen. En omdat computers niets vergeten of verzwijgen, is de informatie betrouwbaar.

Om te illustreren wat ons te wachten staat, beschrijft Pentland een reeks experimenten die hij en zijn medewerkers in de particuliere sector hebben uitgevoerd. Ze gaan een bedrijf binnen en geven elke medewerker een elektronische ID-kaart, een sociometrische badge genaamd, die om de nek hangt en communiceert met de badges die door collega's worden gedragen. De badges bevatten microfoons, locatiesensoren en versnellingsmeters en houden in de gaten waar mensen heen gaan en met wie ze praten, waarbij ze hun stemgeluid en zelfs hun lichaamstaal noteren. De apparaten kunnen niet alleen de ketens van communicatie en invloed binnen een organisatie meten, maar ook persoonlijke energieniveaus en eigenschappen zoals extraversie en empathie. In een dergelijk onderzoek van het callcenter van een bank ontdekten de onderzoekers dat de productiviteit kon worden verhoogd door simpelweg het koffiepauzeschema aan te passen.

Pentland noemt deze gegevensverwerkingstechniek reality mining, en hij suggereert dat soortgelijke soorten informatie op een veel bredere schaal kunnen worden verzameld door smartphones die zijn uitgerust met gespecialiseerde sensoren en apps. Gevoed in statistische modelleringsprogramma's, zouden de gegevens kunnen onthullen hoe dingen zoals ideeën, beslissingen, stemming of de seizoensgriep zich in de gemeenschap verspreiden.

De wiskundige modellering van de samenleving wordt volgens Pentland mogelijk gemaakt door de aangeboren handelbaarheid van mensen. We zien onszelf misschien als rationele actoren, die onze keuzes bewust beheersen, maar het meeste van wat we doen is reflexief. Ons gedrag wordt bepaald door onze subliminale reacties op de invloed van andere mensen, vooral die in de verschillende groepen waartoe we behoren. De kracht van sociale fysica, schrijft hij, komt voort uit het feit dat bijna al onze dagelijkse handelingen gewoonte zijn, grotendeels gebaseerd op wat we hebben geleerd door het gedrag van anderen te observeren. Als je eenmaal alle sociale invloeden van een persoon in kaart hebt gebracht en gemeten, kun je een statistisch model ontwikkelen dat het gedrag van die persoon voorspelt, net zoals je het pad kunt modelleren dat een biljartbal zal nemen nadat hij andere ballen raakt.

Het ontcijferen van het gedrag van mensen is slechts de eerste stap. Wat Pentland echt boeit, is het vooruitzicht om digitale media en gerelateerde tools te gebruiken om het gedrag van mensen te veranderen, om groepen en individuen te motiveren om op meer productieve en verantwoordelijke manieren te handelen. Als mensen voorspelbaar reageren op sociale invloeden, kunnen overheden en bedrijven computers gebruiken om zorgvuldig op maat gemaakte prikkels te ontwikkelen en te leveren, zoals lovende berichten of kleine contante betalingen, om de invloedsstromen in een groep af te stemmen en daarmee de gewoonten van haar leden te wijzigen . Naast het verbeteren van de efficiëntie van transit- en gezondheidszorgsystemen, suggereert Pentland, kunnen op groepen gebaseerde stimuleringsprogramma's gemeenschappen harmonieuzer en creatiever maken. Ons belangrijkste inzicht, zo meldt hij, is dat door zich te richten op de leeftijdsgenoten van [een] individu, groepsdruk het gewenste effect van een beloning op het beoogde individu kan versterken. Computers worden, zoals McLuhan voor ogen had, burgerthermostaten. Ze registreren niet alleen de staat van de samenleving, maar brengen deze ook in overeenstemming met een voorgeschreven ideaal. Zowel het volgen als het handhaven van de sociale orde is geautomatiseerd.

Uiteindelijk, zo stelt Pentland, zal het kijken naar de interacties van mensen door een wiskundige lens ons bevrijden van doorleefde noties over klasse en klassenstrijd. Politieke en economische klassen zijn volgens hem te vereenvoudigde stereotypen van een vloeiende en overlappende matrix van peergroups. Peergroepen worden, in tegenstelling tot klassen, gedefinieerd door gedeelde normen in plaats van alleen standaardkenmerken zoals inkomen of hun relatie tot de productiemiddelen. Gewapend met uitgebreide informatie over de gewoonten en associaties van individuen, zullen maatschappelijke planners in staat zijn om de volledige stroom van invloeden te traceren die persoonlijk gedrag vormen. Als we algemene categorieën zoals rijk en arm of haves en have-nots achterwege laten, zullen we mensen als individuen kunnen begrijpen, zelfs als die individuen niet meer zijn dan de optelsom van alle groepsdruk en andere sociale invloeden die hen beïnvloeden.

Politiek vervangen door programmeren klinkt misschien aantrekkelijk, vooral gezien de verlamming van Washington. Maar er zijn goede redenen om nerveus te zijn over dit soort social engineering. Het meest voor de hand liggend zijn de privacyproblemen die ontstaan ​​door het verzamelen van steeds intiemere persoonlijke informatie. Pentland anticipeert op dergelijke kritiek door te pleiten voor een New Deal on Data die mensen directe controle geeft over de informatie die over hen wordt verzameld. Het is echter moeilijk voor te stellen dat internetbedrijven ermee instemmen om afstand te doen van de gedragsinformatie die cruciaal is voor hun concurrentievoordeel.

Zelfs als we aannemen dat de privacykwesties kunnen worden opgelost, blijft het idee van wat Pentland een datagedreven samenleving noemt, problematisch. Sociale fysica is een variatie op de theorie van het behaviorisme die in de tijd van McLuhan in de smaak viel, en het lijdt aan dezelfde beperkingen die zijn voorganger verdoemde. Het definiëren van sociale relaties als een patroon van stimulus en respons maakt de wiskunde gemakkelijker, maar negeert de diepe, structurele bronnen van sociale kwalen. Pentland heeft misschien gelijk dat ons gedrag grotendeels wordt bepaald door sociale normen en de invloeden van onze leeftijdsgenoten, maar wat hij niet ziet, is dat die normen en invloeden zelf worden gevormd door geschiedenis, politiek en economie, om nog maar te zwijgen van macht en vooroordelen. Mensen hebben geen volledige vrijheid bij het kiezen van hun leeftijdsgenoten. Hun keuzes worden beperkt door waar ze wonen, waar ze vandaan komen, hoeveel geld ze hebben en hoe ze eruitzien. Een statistisch model van de samenleving dat klassenkwesties negeert, dat invloedspatronen als gegeven beschouwt in plaats van als historische contingenties, zal de neiging hebben om bestaande sociale structuren en dynamiek in stand te houden. Het zal ons aanmoedigen om de status-quo te optimaliseren in plaats van deze uit te dagen.

Politiek is rommelig omdat de samenleving rommelig is, niet andersom. Pentland doet prijzenswaardig werk door te beschrijven hoe betere gegevens sociale planning kunnen verbeteren. Maar net als andere potentiële sociale ingenieurs, reikt hij te ver. Hij laat zijn enthousiasme de overhand krijgen en begint de metafoor van de sociale fysica letterlijk te nemen, ook al erkent hij dat wiskundige modellen altijd reductief zullen zijn. Omdat het niet probeert interne cognitieve processen vast te leggen, schrijft hij op een gegeven moment, is sociale fysica inherent probabilistisch, met een onherleidbare kern van onzekerheid die wordt veroorzaakt door het vermijden van de generatieve aard van bewust menselijk denken. Wat big data niet kan verklaren, is wat het meest onvoorspelbaar en interessantst is aan ons.

Nicholas Carr schrijft over technologie en cultuur. Zijn nieuwe boek , De glazen kooi: automatisering en ons, zal in september verschijnen.

zich verstoppen