De problemen die AI tegenwoordig heeft, gaan eeuwen terug

Ari Liloan

In maart 2015 braken protesten uit aan de Universiteit van Kaapstad in Zuid-Afrika over het campusbeeld van de Britse kolonialist Cecil Rhodes. Rhodos, een mijnmagnaat die de grond waarop de universiteit was gebouwd schonk, had genocide gepleegd op Afrikanen en de basis gelegd voor de apartheid. Onder de rallyvlag van Rhodes Must Fall eisten studenten dat het standbeeld zou worden verwijderd. Hun protesten leidden tot een wereldwijde beweging om de koloniale erfenissen in het onderwijs uit te roeien.

De gebeurtenissen waren ook aanleiding voor Shakir Mohamed, een Zuid-Afrikaanse AI-onderzoeker bij DeepMind, om na te denken over de mogelijke koloniale erfenissen in zijn onderzoek. In 2018, net toen het AI-veld rekening begon te houden met problemen zoals algoritmische discriminatie, schreef Mohamed een blogbericht met zijn eerste gedachten. Daarin riep hij onderzoekers op om kunstmatige intelligentie te dekoloniseren - om het werk van het veld te heroriënteren weg van westerse hubs zoals Silicon Valley en nieuwe stemmen, culturen en ideeën aan te spreken om de ontwikkeling van de technologie te begeleiden.

Nu in het kielzog van hernieuwde kreten voor Rhodes Must Fall op de campus van de Universiteit van Oxford, aangespoord door de moord op George Floyd en de wereldwijde antiracismebeweging, heeft Mohamed een nieuwe krant uitgebracht samen met zijn collega William Isaac en Oxford-promovendus Marie-Therese Png. Het vult Mohameds originele ideeën aan met specifieke voorbeelden van hoe AI-uitdagingen geworteld zijn in het kolonialisme, en presenteert strategieën om deze aan te pakken door die geschiedenis te erkennen.

Hoe kolonialiteit zich manifesteert in AI

Hoewel het historische kolonialisme misschien voorbij is, zijn de effecten ervan nog steeds aanwezig. Dit is wat geleerden kolonialiteit noemen: het idee dat de hedendaagse machtsongelijkheid tussen rassen, landen, rijk en arm en andere groepen verlengstukken zijn van de machtsongelijkheid tussen kolonisator en gekoloniseerden.

Neem als voorbeeld structureel racisme. Europeanen hebben oorspronkelijk het concept van rassen en de verschillen tussen hen uitgevonden om de Afrikaanse slavenhandel en vervolgens de kolonisatie van Afrikaanse landen te rechtvaardigen. In de VS kunnen de effecten van die ideologie nu worden getraceerd door de eigen geschiedenis van slavernij, Jim Crow, en politiegeweld.

Op dezelfde manier, zo stellen de auteurs van het artikel, verklaart deze koloniale geschiedenis enkele van de meest verontrustende kenmerken en effecten van AI. Ze identificeren vijf manifestaties van kolonialiteit in het veld:

Algoritmische discriminatie en onderdrukking. De banden tussen algoritmische discriminatie en koloniaal racisme zijn misschien wel het meest voor de hand liggend: algoritmen die zijn gebouwd om procedures te automatiseren en zijn getraind op gegevens binnen een raciaal onrechtvaardige samenleving, repliceren die racistische uitkomsten uiteindelijk in hun resultaten. Maar veel van de wetenschap over dit soort schade door AI is gericht op voorbeelden in de VS. Door het te onderzoeken in de context van kolonialiteit, ontstaat een mondiaal perspectief: Amerika is niet de enige plaats met sociale ongelijkheid. Er zijn altijd groepen die geïdentificeerd en onderworpen worden, zegt Isaac.

Geest werk. Het fenomeen van spookwerk , de onzichtbare data-arbeid die nodig is om AI-innovatie te ondersteunen, verlengt netjes de historische economische relatie tussen kolonisator en gekoloniseerd. Veel voormalige koloniën van de VS en het VK - de Filippijnen, Kenia en India - zijn spookachtige hubs geworden voor Amerikaanse en Britse bedrijven. De goedkope, Engelssprekende arbeidskrachten van de landen, waardoor ze van nature geschikt zijn voor datawerk, bestaan ​​​​vanwege hun koloniale geschiedenis.

Beta testen. AI-systemen worden soms uitgeprobeerd op meer kwetsbare groepen voordat ze voor echte gebruikers worden geïmplementeerd. Cambridge Analytica, bijvoorbeeld, heeft zijn algoritmen in bèta getest bij de Nigeriaanse en 2017 Keniaanse verkiezingen van 2015 voordat ze in de VS en het VK werden gebruikt. Studies hebben later aangetoond dat deze experimenten actief verstoord het Keniaanse verkiezingsproces en de sociale cohesie aangetast. Dit soort testen weerspiegelt de historische behandeling door het Britse rijk van zijn koloniën als laboratoria voor nieuwe medicijnen en technologieën.

AI-bestuur. De geopolitieke machtsonevenwichtigheden die het koloniale tijdperk achterliet, geven ook actief vorm aan AI-governance. Dit is uitgekomen in de recente haast om wereldwijde ethische richtlijnen voor AI op te stellen: ontwikkelingslanden in Afrika, Latijns-Amerika en Centraal-Azië zijn grotendeels buiten de discussies gehouden, wat ertoe heeft geleid dat sommigen weigeren deel te nemen aan internationale datastroomovereenkomsten . Het resultaat: ontwikkelde landen blijven onevenredig profiteren van mondiale normen die in hun voordeel zijn gevormd, terwijl ontwikkelingslanden verder achterblijven.

Internationale sociale ontwikkeling. Ten slotte beïnvloeden dezelfde geopolitieke machtsonevenwichtigheden de manier waarop AI wordt gebruikt om ontwikkelingslanden te helpen. AI voor het goede of AI voor duurzame ontwikkelingsinitiatieven zijn vaak paternalistisch. Ze dwingen ontwikkelingslanden om afhankelijk te zijn van bestaande AI-systemen in plaats van deel te nemen aan het creëren van nieuwe die zijn ontworpen voor hun eigen context.

De onderzoekers merken op dat deze voorbeelden niet alomvattend zijn, maar ze laten zien hoe verreikende koloniale erfenissen zijn in de wereldwijde AI-ontwikkeling. Ze verbinden ook wat lijkt op ongelijksoortige problemen onder één verenigende stelling. Het stelt ons in staat een nieuwe grammatica en woordenschat te ontwikkelen om te praten over waarom deze problemen ertoe doen en wat we gaan doen om over deze problemen op de lange termijn na te denken en ze aan te pakken, zegt Isaac.

Hoe dekoloniale AI te bouwen

Het voordeel van het onderzoeken van schadelijke effecten van AI door deze lens, zo stellen de onderzoekers, is het raamwerk dat het biedt voor het voorspellen en beperken van toekomstige schade. Png is van mening dat onbedoelde gevolgen niet echt bestaan ​​- alleen gevolgen van de blinde vlekken die organisaties en onderzoeksinstellingen hebben als ze geen diverse vertegenwoordiging hebben.

In deze geest stellen de onderzoekers drie technieken voor om dekoloniale, of meer inclusieve en voordelige AI te bereiken:

Contextbewuste technische ontwikkeling. Ten eerste moeten AI-onderzoekers die een nieuw systeem bouwen, overwegen waar en hoe het zal worden gebruikt. Hun werk zou ook niet moeten eindigen met het schrijven van de code, maar zou het testen ervan moeten omvatten, het ondersteunen van beleid dat het juiste gebruik ervan faciliteert en het organiseren van actie tegen oneigenlijk gebruik.

Omgekeerde voogdij. Ten tweede moeten ze luisteren naar gemarginaliseerde groepen. Een voorbeeld van hoe u dit kunt doen, is de ontluikende praktijk van participatieve machine learning , dat tot doel heeft de mensen die het meest worden getroffen door machine-learningsystemen bij hun ontwerp te betrekken. Dit geeft proefpersonen de kans om uit te dagen en te dicteren hoe problemen met machine learning worden ingekaderd, welke gegevens worden verzameld en hoe, en waar de uiteindelijke modellen worden gebruikt.

Solidariteit. Gemarginaliseerde groepen moeten ook de steun en middelen krijgen om hun eigen AI-werk te starten. Er bestaan ​​al verschillende gemeenschappen van gemarginaliseerde AI-beoefenaars, waaronder: Deep Learning Indaba , Zwart in AI , en Queer in AI , en hun werk moet worden versterkt.

Sinds de publicatie van hun paper, zeggen de onderzoekers, hebben ze een overweldigende belangstelling en enthousiasme gezien. Het geeft mij in ieder geval een signaal dat er ontvankelijkheid is voor dit werk, zegt Isaac. Het voelt alsof dit een gesprek is waarmee de gemeenschap wil beginnen.

zich verstoppen