Natuurlijk houdt technologie racisme in stand. Het is zo ontworpen.

Bron foto: Getty / mevrouw Tech

Vandaag brokkelt de Verenigde Staten af ​​onder het gewicht van twee pandemieën: coronavirus en politiegeweld.

Beide veroorzaken fysiek en psychisch geweld. Beiden doden en verzwakken zwarte en bruine mensen onevenredig. En beide worden geanimeerd door technologie die we ontwerpen, hergebruiken en inzetten, of het nu gaat om contacttracering, gezichtsherkenning of sociale media.

Dit verhaal maakte deel uit van ons nummer van juli 2020

• Zie de rest van het nummer
• Abonneren

We doen vaak een beroep op technologie om problemen op te lossen. Maar wanneer de samenleving mensen van kleur als het probleem definieert, omlijst en vertegenwoordigt, doen die oplossingen vaak meer kwaad dan goed. We hebben ontworpen gezichtsherkenningstechnologieën die zich richten op criminele verdachten op basis van huidskleur. we hebben getrainde geautomatiseerde risicoprofileringssystemen die Latinx-mensen onevenredig identificeren als illegale immigranten. we hebben bedacht kredietscore-algoritmen die zwarte mensen onevenredig identificeren als risico's en hen ervan weerhouden huizen te kopen, leningen te krijgen of een baan te vinden.

Dus de vraag die we moeten confronteren is of we zullen doorgaan met het ontwerpen en inzetten van tools die de belangen van racisme en blanke suprematie dienen,

Het is natuurlijk helemaal geen nieuwe vraag.

onburgerlijke rechten

In 1960 confronteerden de leiders van de Democratische Partij hun eigen probleem: hoe kon hun presidentskandidaat, John F. Kennedy, de afnemende steun van zwarte mensen en andere raciale minderheden versterken?

Een ondernemende politicoloog aan het MIT, Ithiel de Sola-zwembad , benaderde hen met een oplossing. Hij zou kiezersgegevens van eerdere presidentsverkiezingen verzamelen, deze invoeren in een nieuwe digitale verwerkingsmachine, een algoritme ontwikkelen om stemgedrag te modelleren, voorspellen welke beleidsposities tot de meest gunstige resultaten zouden leiden en vervolgens de Kennedy-campagne adviseren om dienovereenkomstig te handelen. Pool startte een nieuw bedrijf, de Simulmatics Corporation en voerde zijn plan uit. Hij slaagde, Kennedy werd gekozen en de resultaten toonden de kracht van deze nieuwe methode van voorspellende modellering.

De raciale spanningen escaleerden in de jaren zestig. Toen kwam de lange, hete zomer van 1967. Steden in het hele land stonden in brand, van Birmingham, Alabama, tot Rochester, New York, tot Minneapolis, Minnesota en nog veel meer daar tussenin. Zwarte Amerikanen protesteerden tegen de onderdrukking en discriminatie waarmee ze werden geconfronteerd door het Amerikaanse strafrechtsysteem. Maar president Johnson noemde het burgerlijke wanorde en richtte de Kerner-commissie op om de oorzaken van getto-rellen te begrijpen. De commissie deed een beroep op Simulmatics.

Als onderdeel van een DARPA-project dat erop gericht was het tij van de Vietnamoorlog te keren, was het bedrijf van Pool hard aan het werk geweest om een ​​massale propaganda- en psychologische campagne tegen de Vietcong voor te bereiden. President Johnson wilde graag de gedragsbeïnvloedingstechnologie van Simulmatics inzetten om de binnenlandse dreiging van het land te onderdrukken, niet alleen zijn buitenlandse vijanden. Onder het mom van wat ze een mediastudie noemden, bouwde Simulmatics een team voor wat neerkwam op een grootschalige surveillancecampagne in de door rellen getroffen gebieden die de aandacht van het land trokken die zomer van 1967.

Driekoppige teams trokken naar gebieden waar die zomer rellen hadden plaatsgevonden. Ze identificeerden en interviewden strategisch belangrijke zwarte mensen. Ze volgden om andere zwarte bewoners te identificeren en te interviewen, op elke locatie, van kapperszaken tot kerken. Ze vroegen bewoners wat ze vonden van de berichtgeving in de nieuwsmedia over de rellen. Maar ze verzamelden ook nog zoveel meer gegevens: hoe mensen zich tijdens de onrust in en rond de stad bewogen, met wie ze voor en tijdens spraken en hoe ze zich voorbereidden op de nasleep. Ze verzamelden gegevens over het gebruik van tolhuisjes, de verkoop van tankstations en busroutes. Ze kregen toegang tot deze gemeenschappen onder het voorwendsel te proberen te begrijpen hoe nieuwsmedia zogenaamd rellen aanwakkerden. Maar Johnson en de politieke leiders van het land probeerden een probleem op te lossen. Ze wilden de informatie die Simulmatics verzamelde gebruiken om de informatiestroom tijdens protesten te traceren om beïnvloeders te identificeren en het leiderschap van de protesten te onthoofden.

Dit hebben ze niet direct gedaan. Ze hebben geen mensen vermoord, mensen in de gevangenis gestopt of ze in het geheim laten verdwijnen.

Maar tegen het einde van de jaren zestig had dit soort informatie bijgedragen aan de totstandkoming van wat bekend werd als strafrechtelijke informatiesystemen. Ze verspreidden zich door de decennia heen en legden de basis voor raciale profilering, voorspellende politie en raciaal gerichte surveillance. Ze lieten een erfenis achter die miljoenen zwarte en bruine vrouwen en mannen omvat die in de gevangenis zitten.

Het probleem herkaderen

Zwartheid en zwarte mensen. Beide blijven bestaan ​​als het probleem van onze natie, ik durf zelfs te zeggen, van onze wereld. Toen contacttracering voor het eerst opdook aan het begin van de pandemie, was het gemakkelijk om het te zien als een noodzakelijk maar goedaardig hulpmiddel voor gezondheidstoezicht. Het coronavirus was ons probleem en we begonnen nieuwe bewakingstechnologieën te ontwerpen in de vorm van contacttracering, temperatuurbewaking en toepassingen voor het in kaart brengen van dreigingen om dit probleem aan te pakken.

Maar er gebeurde iets merkwaardigs en tragisch. We ontdekten dat zwarte mensen, Latinx-mensen en inheemse bevolkingsgroepen onevenredig werden besmet en getroffen. Plots werden we ook een nationaal probleem; we hebben onevenredig gedreigd het virus te verspreiden. Dat werd nog verergerd toen de tragische moord op George Floyd door een blanke politieagent duizenden demonstranten de straat op stuurde. Toen de plunderingen en rellen begonnen, werden wij - zwarte mensen - opnieuw gezien als een bedreiging voor de openbare orde, een bedreiging voor een systeem dat de blanke raciale macht in stand houdt. Je vraagt ​​je af hoe lang het zal duren voordat wetshandhavers die technologieën inzetten die we eerst hebben ontworpen om covid-19 te bestrijden om de dreiging te onderdrukken die zwarte mensen zogenaamd vormen voor de veiligheid van het land.

Als we niet willen dat onze technologie wordt gebruikt om racisme in stand te houden, moeten we ervoor zorgen dat we sociale problemen zoals misdaad, geweld of ziekte niet verwarren met zwarte en bruine mensen. Als we dat doen, lopen we het risico die mensen te veranderen in de problemen waarvoor we onze technologie gebruiken om op te lossen, de dreiging die we ontwerpen om ze uit te roeien.

Charlton McIlwain is hoogleraar media, cultuur en communicatie aan de New York University en auteur van: Zwarte software: internet en raciale rechtvaardigheid, van het AfroNet tot Black Lives Matter

zich verstoppen