De aandachtseconomie van Big Tech kan worden hervormd. Hier is hoe.

mevrouw Tech | Getty

Deze week voerde een gewelddadige menigte de grootste aanval uit op het Capitool, de zetel van de Amerikaanse democratie, in meer dan 200 jaar, gedreven door de valse overtuiging dat de presidentsverkiezingen waren gestolen. De hoofdauteur van die bewering was president Donald Trump, maar de bereidheid van de menigte om te geloven dat het voor een groot deel een product was van de aandachtseconomie die moderne technologie heeft gecreëerd.

Nieuwsfeeds op Facebook of Twitter werken volgens een bedrijfsmodel waarbij de aandacht van miljarden mensen per dag wordt gecommodificeerd, tweets, berichten en groepen worden gesorteerd om te bepalen welke de meeste betrokkenheid opleveren (klikken, weergaven en gedeelde berichten) - wat het sterkst emotioneel wordt reacties. Deze commodificerende aandachtsplatforms hebben de collectieve psyche vervormd. Ze hebben geleid tot engere en gekkere kijk op de wereld.

Opmerking: dit essay is een aangepast fragment uit: Het nieuwe mogelijke: visies op onze wereld voorbij de crisis , wordt op 26 januari 2021 gepubliceerd door Cascade Books.

De aanbevelingsalgoritmen van YouTube, die 70% van de dagelijkse kijktijd voor miljarden mensen bepalen, suggereren wat bedoeld is als vergelijkbare video's, maar leiden kijkers in feite tot extremere, negatievere of meer samenzweerderige inhoud, omdat ze daardoor langer op hun scherm blijven. Jarenlang heeft YouTube thinspiration - anorexia-bevorderende video's - aanbevolen aan tienermeisjes die video's over diëten bekeken. En toen mensen wetenschappelijke video's van NASA's maanlanding bekeken, raadde YouTube video's aan over de complottheorie van de platte aarde. Het deed dit honderden miljoenen keren. Nieuwsfeeds en aanbevelingssystemen zoals deze hebben een neerwaartse spiraal van negativiteit en paranoia gecreëerd, waardoor de perceptie van miljarden mensen van de realiteit langzaam losgekoppeld wordt van de realiteit zelf.

Verwant verhaal

Hoe een leugen op internet over de invasie van het Capitool in een handomdraai een complottheorie werd Valse beweringen dat de invasie van het Congres in een razend tempo werd verspreid - dankzij activisten, de media en Republikeinse politici.

De werkelijkheid helder en waarheidsgetrouw zien is fundamenteel voor ons vermogen om iets te doen. Door geld te verdienen en aandacht te verhandelen, hebben we ons vermogen om problemen te zien en collectieve oplossingen te bedenken, verkocht. Dit is niet nieuw. Bijna elke keer dat we toestaan ​​dat de levensondersteunende systemen van onze planeet of samenleving worden vercommercialiseerd, leidt dit tot andere storingen. Wanneer u de politiek verhandelt met voor AI geoptimaliseerde microtargeted-advertenties, verwijdert u integriteit uit de politiek. Wanneer je voedsel verhandelt, verlies je het contact met de levenscyclus die de landbouw duurzaam maakt. Wanneer je onderwijs verhandelt in digitale feeds van inhoud, verlies je de onderlinge verbondenheid van menselijke ontwikkeling, vertrouwen, zorg en leraarschap. Wanneer je liefde verhandelt door mensen in speelkaarten te veranderen op Tinder, verbreek je de complexe dans die betrokken is bij het smeden van nieuwe relaties. En wanneer je communicatie verhandelt in brokken berichten en commentaarthreads op Facebook, verwijder je context, nuance en respect. In al deze gevallen eroderen extractieve systemen langzaam de fundamenten van een gezonde samenleving en een gezonde planeet.

Verschuivende systemen om de aandacht te beschermen

EO Wilson, de beroemde bioloog, stelde voor dat mensen slechts de helft van de aarde zouden moeten besturen en dat de rest met rust zou moeten worden gelaten. Stel je iets soortgelijks voor voor de aandachtseconomie. We kunnen en moeten zeggen dat we de menselijke aandacht willen beschermen, zelfs als dat een deel van de winst van Apple, Google, Facebook en andere grote technologiebedrijven opoffert.

Adblockers op digitale apparaten zijn een interessant voorbeeld van wat een structurele verschuiving in de digitale wereld zou kunnen worden. Zijn adblockers een mensenrecht? Als iedereen advertenties op Facebook, Google en websites zou kunnen blokkeren, zou het internet zichzelf niet kunnen financieren en zou de reclame-economie enorme hoeveelheden inkomsten mislopen. Doet die uitkomst het recht teniet? Is je aandacht een recht? Ben jij de eigenaar? Moeten we er een prijs op plakken? Het verkopen van menselijke organen of tot slaaf gemaakte mensen kan aan een vraag voldoen en winst genereren, maar we zeggen dat deze artikelen niet op de markt thuishoren. Zou menselijke aandacht, net als mensen en hun organen, iets moeten zijn dat niet met geld te koop is?

Is je aandacht een recht? Ben jij de eigenaar? Moeten we er een prijs op plakken? Zou menselijke aandacht, net als mensen en hun organen, iets moeten zijn dat niet met geld te koop is?

De covid-19-pandemie, de Black Lives Matter-beweging en klimaatverandering en andere ecologische crises hebben steeds meer mensen bewust gemaakt van hoe kapot onze economische en sociale systemen zijn. Maar we komen niet bij de wortels van deze onderling verbonden crises. We vallen voor interventies die aanvoelen als het juiste antwoord, maar die in plaats daarvan valstrikken zijn die heimelijk de status-quo handhaven. Iets betere politiepraktijken en bodycams kunnen wangedrag van de politie niet voorkomen. Het kopen van een Prius of Tesla is niet genoeg om het koolstofgehalte in de atmosfeer echt te verlagen. Het vervangen van plastic rietjes door biologisch afbreekbare rietjes zal de oceanen niet redden. De stap van Instagram om het aantal likes te verbergen, verandert de mentale gezondheidsproblemen van tieners niet, wanneer de service gebaseerd is op constante sociale vergelijking en systemische kaping van de menselijke drang naar verbinding. We hebben veel diepgaandere systeemhervormingen nodig. We moeten instellingen verschuiven om het algemeen belang te dienen op een manier die in overeenstemming is met de aard en omvang van de uitdagingen waarmee we worden geconfronteerd.

Bij het Center for Humane Technology hebben we Apple, Google en Facebook er onder meer van overtuigen om - althans gedeeltelijk - de missie van Time Well Spent over te nemen, zelfs als dit tegen hun economische belangen indruist. Dit was een beweging die we lanceerden via brede publieke media-bewustzijnscampagnes en belangenbehartiging, en het kreeg bekendheid bij technologie-ontwerpers, bezorgde ouders en studenten. Het riep op om de prikkels van de digitale wereld te veranderen van een race om tijd doorgebracht op schermen en apps in een race naar de top om mensen te helpen hun tijd goed door te brengen. Het heeft geleid tot echte verandering voor miljarden mensen. Apple introduceerde bijvoorbeeld Screen Time-functies in mei 2018 die nu worden geleverd met alle iPhones, iPads en andere apparaten. Naast het tonen van alle gebruikers hoeveel tijd ze op hun telefoon doorbrengen, biedt Screen Time een dashboard met ouderlijk toezicht en app-tijdlimieten die ouders laten zien hoeveel tijd hun kinderen online doorbrengen (en wat ze doen). Google lanceerde zijn soortgelijke Digitaal welzijn initiatief rond dezelfde tijd. Het bevat nog meer functies die we hadden voorgesteld, zoals het gemakkelijker maken om de stekker uit het stopcontact te halen voor het slapengaan en het beperken van meldingen. In dezelfde lijn introduceerde YouTube Take a break-meldingen.

Deze veranderingen laten zien dat bedrijven bereid zijn offers te brengen, zelfs op het gebied van miljarden dollars. Toch hebben we de kernlogica van deze bedrijven nog niet veranderd. Voor een bedrijf iets doen dat tegen zijn economisch belang ingaat, is één ding; iets doen dat tegen het DNA van zijn doel en doelen ingaat, is iets heel anders.

Werken aan collectieve actie

We hebben diepgaande, systemische hervormingen nodig die technologiebedrijven zullen verschuiven naar het dienen van het algemeen belang in de eerste plaats. We moeten groter nadenken over hoeveel systeemverandering mogelijk is en hoe we de collectieve wil van de mensen kunnen benutten.

Verwant verhaal

Evangelicalen zoeken online naar antwoorden. Ze vinden in plaats daarvan QAnon. Hoe de groeiende pro-Trump-beweging op kerkgangers jaagt om haar samenzweringstheorieën te verspreiden.

Onlangs interviewden we bij het Center for Humane Technology Christiana Figueres, de voormalige uitvoerend secretaris van het Verdrag van de Verenigde Naties inzake klimaatverandering (2010-2016) , voor onze podcast Uw onverdeelde aandacht. Ze was verantwoordelijk voor de collaboratieve diplomatie die leidde tot de Overeenkomst van Parijs, en we hebben geleerd hoe ze dit heeft kunnen doen: 195 verschillende landen ertoe brengen, tegen alle verwachtingen in, om in goed vertrouwen gezamenlijke resoluties te maken om de klimaatverandering aan te pakken. Figueres geloofde aanvankelijk niet dat het mogelijk was om zoveel landen het eens te worden, maar ze realiseerde zich dat het succesvol hosten van de Conventie van Parijs betekende dat ze zelf zou moeten veranderen. Ze moest echt geloven dat het mogelijk was om de landen ertoe te bewegen zich in te zetten voor klimaatactie. Zo kon ze zich er vervolgens op richten om de deelnemende landen te laten geloven in de mogelijkheid om ook klimaatverandering aan te pakken. Waar eerdere internationale klimaatonderhandelingen waren mislukt, brachten de inspanningen van Figueres landen samen om overeenstemming te bereiken over financiering, nieuwe technologieën en andere instrumenten om de wereldwijde temperatuurstijging onder de 2 of, nog beter, 1,5 °C te houden.

In het geval van de tech-industrie hebben we een voorsprong omdat we geen honderden landen of miljoenen mensen hoeven te overtuigen. Minder dan 10 mensen runnen de krachtigste digitale infrastructuur van de 21e eeuw - de zogenaamde FAANG-bedrijven, bestaande uit Facebook, Amazon, Apple, Netflix en Alphabet (voorheen Google). Als die individuen samen zouden komen en het erover eens waren dat het maximaliseren van aandeelhouderswinst niet langer het gemeenschappelijke doel was, zou de digitale infrastructuur anders kunnen zijn. Als Christiana Figueres consensus zou kunnen bereiken tussen 195 landen, zouden we de mogelijkheid kunnen overwegen om dit met 10 tech-CEO's te doen.

Een nieuwe economie van humane technologie

Verschillende economische principes moeten verschuiven om technologie op één lijn te brengen met de mensheid en de planeet. Een daarvan is het groeiparadigma. Je kunt gewoon geen logica van oneindige groei uitvoeren op een eindig substraat. Het streven naar oneindige economische groei leidt tot een planetaire ecologische crisis. Voor technologiebedrijven leidt het nastreven van de oneindige groei van geëxtraheerde menselijke aandacht tot een vergelijkbare crisis van het wereldwijde bewustzijn en sociaal welzijn. We moeten overschakelen naar een aandachtseconomie na de groei die geestelijke gezondheid en welzijn centraal stelt in onze gewenste resultaten.

Verschillende economische principes moeten verschuiven om technologie op één lijn te brengen met de mensheid en de planeet.

Een kleine hint van deze verschuiving vindt plaats in landen als Nieuw-Zeeland en Schotland, waar organisaties zoals de Wellbeing Economy Alliance werken aan een verschuiving van een economie die het bruto binnenlands product (bbp) promoot naar een economie met deze alternatieve prioriteiten. Leiders vragen zich af hoe welzijn het publieke begrip van beleid en politieke keuzes kan informeren, beslissingen kan sturen en een nieuwe basis kan worden voor economisch denken en handelen.

Een andere verschuiving naar een meer humane technologie vereist een breder scala aan belanghebbenden die verantwoordelijkheid kunnen nemen voor de sociale impact van onze acties op de lange termijn. Op dit moment is het voor grote technologiebedrijven mogelijk om geld te verdienen door steeds dunnere neppe aandachtsgebieden te verkopen, waarbij nepkliks van nepnieuwsbronnen worden verkocht aan nepadverteerders. Deze bedrijven verdienen geld, zelfs als waar de link of het artikel naar leidt, flagrant verkeerd is en verkeerde informatie verspreidt. Dit opportunisme verlaagt de informatie-ecologie door ons vermogen te vernietigen om bronnen van kennis te vertrouwen of overtuigingen te delen over wat waar is, wat op zijn beurt ons vermogen tot goede besluitvorming vernietigt. Het resultaat is polarisatie, verkeerde informatie en de afbraak van democratisch burgerschap. We moeten mechanismen creëren die deelnemers in de digitale wereld stimuleren om na te denken over langere tijdsbestekken en de bredere impact die hun acties hebben op de samenleving.

De menselijke wil speelt hierbij een belangrijke rol. Wat als de leiders achter Apple's App Store-inkomstendistributiemodel - dat fungeert als de centrale bank of Federal Reserve van de aandachtseconomie - er gewoon voor kozen om inkomsten te verdelen onder app-makers op basis van niet wiens gebruikers de meeste virtuele goederen kochten of de meeste tijd besteedden aan het gebruik van de app, maar op wie van de app-makers werkte het beste samen met andere apps op de telefoon om alle leden van de samenleving te helpen meer volgens hun waarden te leven?

Uiteindelijk komt het neer op het stellen van de juiste regels. Het is moeilijk voor elke actor om te optimaliseren voor welzijn en afstemming op de waarden van de samenleving wanneer andere spelers nog steeds strijden om eindige hulpbronnen en macht. Zonder regels en vangrails winnen de meest meedogenloze acteurs. Dat is de reden waarom wetgeving en beleid nodig zijn, samen met de collectieve wil van de mensen om ze uit te voeren. De grotere metacrisis is dat de democratische processen voor het creëren van vangrails veel langzamer verlopen dan de technologische ontwikkeling die nodig is om een ​​verschil te maken. De technologie zal sneller vooruitgaan dan de schade goed kan worden begrepen door 20e-eeuwse democratische instellingen. De technologiesector zelf moet samenkomen, samenwerken en manieren vinden om te werken, zodat gedeelde maatschappelijke doelen boven hyperconcurrentie en winstmaximalisatie worden geplaatst.

Ten slotte moeten we de enorme asymmetrische macht erkennen die technologiebedrijven hebben over individuen en de samenleving. Ze kennen ons beter dan wij onszelf kennen. Elke asymmetrische machtsstructuur moet het fiduciaire of zorgplichtmodel volgen dat wordt geïllustreerd door een goede leraar, therapeut, arts of zorgverlener - dat wil zeggen, het moet werken in dienst van mensen met minder macht. Het mag niet opereren met een businessmodel gebaseerd op winning. Opgewaardeerde bedrijfsmodellen voor technologie moeten generatief zijn: ze moeten ons behandelen als de klant en niet als het product, en in lijn zijn met onze diepgewortelde waarden en menselijkheid.

Op weg naar mens zijn

EO Wilson heeft gezegd: Het probleem met de mensheid is dat we paleolithische emoties, middeleeuwse instellingen en goddelijke technologie hebben. We moeten onze paleolithische emoties omarmen in al hun vaste zwakheden en kwetsbaarheden. We moeten onze instellingen upgraden om er meer wijsheid, voorzichtigheid en liefde in op te nemen. En we moeten de ontwikkeling vertragen van een goddelijke technologie waarvan de krachten ons vermogen te boven gaan om de richting van het schip waarop we ons allemaal bevinden te sturen.

Het rijk van wat mogelijk is blijft zich uitbreiden, maar het ontstaat gelijktijdig met exponentieel uitdagende mondiale problemen die betere informatie, leiderschap en actie vereisen. In plaats van een race naar de bodem te accepteren die ons degradeert en verdeelt, kunnen we samen een technologielandschap creëren dat een race naar de top mogelijk maakt - een die onze onderlinge verbondenheid, beleefdheid en diepe genialiteit ondersteunt. Verandering is volgens mij menselijk mogelijk.

Tristan Harris is medeoprichter en voorzitter van het Center for Humane Technology.

zich verstoppen