Stop met praten over AI-ethiek. Het is tijd om over macht te praten.

Vladan Joler

Aan het begin van de 20e eeuw veroverde een Duits paard Europa stormenderhand. Slimme Hans, zoals hij bekend stond, kon schijnbaar allerlei trucs uitvoeren die voorheen voorbehouden waren aan mensen. Hij kon getallen optellen en aftrekken, de tijd aflezen en een kalender lezen, zelfs woorden en zinnen spellen - en dat allemaal door het antwoord met een hoef uit te stampen. A was één tik; B was twee; 2+3 was vijf. Hij was een internationale sensatie - en volgens velen het bewijs dat dieren net zo goed konden worden geleerd om te redeneren als mensen.

Het probleem was dat slimme Hans niet echt een van deze dingen deed. Zoals onderzoekers later ontdekten, had het paard geleerd om het juiste antwoord te geven door veranderingen in de houding, ademhaling en gezichtsuitdrukkingen van zijn vraagstellers te observeren. Als de vraagsteller te ver weg zou staan, zou Hans zijn capaciteiten verliezen. Zijn intelligentie was slechts een illusie.

Dit verhaal wordt gebruikt als een waarschuwing voor AI-onderzoekers bij het evalueren van de mogelijkheden van hun algoritmen. Een systeem is niet altijd zo intelligent als het lijkt. Zorg ervoor dat u het goed meet.

MET DANK AAN KATE CRAWFORD

Maar in haar nieuwe boek Atlas van AI , zet de vooraanstaande AI-wetenschapper Kate Crawford deze moraal op zijn kop. Het probleem, schrijft ze, zat in de manier waarop mensen de prestaties van Hans definieerden: Hans deed al opmerkelijke prestaties op het gebied van communicatie tussen soorten, openbare prestaties en veel geduld, maar deze werden niet erkend als intelligentie.

Zo begint Crawfords onderzoek naar de geschiedenis van kunstmatige intelligentie en de impact ervan op onze fysieke wereld. Elk hoofdstuk probeert ons begrip van de technologie te vergroten door te onthullen hoe nauw we het hebben bekeken en gedefinieerd.

Crawford doet dit door ons mee te nemen op een wereldwijde reis, van de mijnen waar de zeldzame aardelementen die worden gebruikt in computerproductie worden gewonnen tot de Amazon-fulfilmentcentra waar menselijke lichamen zijn gemechaniseerd in het meedogenloze streven van het bedrijf naar groei en winst. In hoofdstuk één vertelt ze hoe ze met een busje vanuit het hart van Silicon Valley naar een kleine mijngemeenschap in Clayton Valley in Nevada reed. Daar onderzoekt ze de destructieve milieupraktijken die nodig zijn om het lithium te verkrijgen dat de computers van de wereld aandrijft. Het is een krachtige illustratie van hoe dicht deze twee plaatsen in de fysieke ruimte zijn, maar hoe enorm ver van elkaar verwijderd zijn in rijkdom.

Door haar analyse te baseren op dergelijke fysieke onderzoeken, ontdoet Crawford zich van de eufemistische framing dat kunstmatige intelligentie eenvoudigweg efficiënte software is die in de cloud draait. Haar close-up, levendige beschrijvingen van de aarde en arbeids-AI is gebaseerd op, en de diep problematische geschiedenis erachter, maakt het onmogelijk om puur abstract over de technologie te blijven praten.

In hoofdstuk vier neemt Crawford ons bijvoorbeeld mee op een andere reis - deze reis door de tijd in plaats van door de ruimte. Om de geschiedenis van de obsessie van het veld met classificatie uit te leggen, bezoekt ze het Penn Museum in Philadelphia, waar ze naar rijen en rijen menselijke schedels staart.

De schedels werden verzameld door Samuel Morton, een 19e-eeuwse Amerikaanse cranioloog, die geloofde dat het mogelijk was om ze door hun fysieke afmetingen objectief te verdelen in de vijf rassen van de wereld: Afrikaans, Indiaans, Kaukasisch, Maleis en Mongools. Crawford trekt parallellen tussen Mortons werk en de moderne AI-systemen die de wereld blijven indelen in vaste categorieën.

Deze classificaties zijn verre van objectief, stelt ze. Ze leggen een sociale orde op, naturaliseren hiërarchieën en vergroten ongelijkheden. Door deze lens gezien kan AI niet langer worden beschouwd als een objectieve of neutrale technologie.

In haar 20-jarige carrière heeft Crawford te maken gehad met de reële gevolgen van grootschalige datasystemen, machine learning en kunstmatige intelligentie. In 2017 richtte ze samen met Meredith Whittaker het onderzoeksinstituut AI Now op als een van de eerste organisaties die zich toelegde op het bestuderen van de sociale implicaties van deze technologieën. Ze is nu ook professor aan USC Annenberg, in Los Angeles, en de inaugurele gastleerstoel in AI en justitie aan de École Normale Supérieure in Parijs, evenals een senior hoofdonderzoeker bij Microsoft Research.

Vijf jaar geleden, zegt Crawford, was ze nog steeds bezig om het idee te introduceren dat data en AI niet neutraal waren. Nu is het gesprek geëvolueerd en is AI-ethiek tot bloei gekomen in zijn eigen vakgebied. Ze hoopt dat haar boek het boek nog verder zal laten rijpen.

Ik ging met Crawford zitten om over haar boek te praten.

Het volgende is bewerkt voor lengte en duidelijkheid.

Waarom heb je ervoor gekozen om dit boekproject te doen en wat betekent het voor jou?

Crawford: Zoveel boeken die over kunstmatige intelligentie zijn geschreven, hebben het eigenlijk alleen maar over zeer beperkte technische prestaties. En soms schrijven ze over de grote mannen van AI, maar dat is echt alles wat we hebben gehad in termen van echt strijden met wat kunstmatige intelligentie is.

Ik denk dat het dit zeer scheve begrip van kunstmatige intelligentie heeft voortgebracht als puur technische systemen die op de een of andere manier objectief en neutraal zijn, en - zoals Stuart Russell en Peter Norvig in hun leerboek -als intelligente agenten die de beste beslissing nemen over elke mogelijke actie.

Ik wilde iets heel anders doen: echt begrijpen hoe kunstmatige intelligentie in de breedste zin wordt gemaakt. Dit betekent kijken naar de natuurlijke hulpbronnen die het aandrijven, de energie die het verbruikt, de verborgen arbeid in de hele toeleveringsketen en de enorme hoeveelheden gegevens die worden geëxtraheerd uit elk platform en apparaat dat we elke dag gebruiken.

Verwant verhaal

Deepfake Amazon-medewerkers zaaien verwarring op Twitter. Dat is niet het probleem.

De verslagen zijn waarschijnlijk slechts parodieën, geen onderdeel van een sinistere bedrijfsstrategie, maar ze illustreren het soort dingen dat op een dag zou kunnen gebeuren.

Door dat te doen, wilde ik dit begrip van AI echt openstellen als kunstmatig of intelligent. Het is de tegenover van kunstmatig. Het is afkomstig van de meest materiële delen van de aardkorst en van arbeidende menselijke lichamen, en van alle artefacten die we elke dag produceren, zeggen en fotograferen. Het is ook niet intelligent. Ik denk dat er een grote erfzonde in het veld is, waar mensen aannamen dat computers op de een of andere manier op menselijke hersenen lijken en als we ze gewoon als kinderen trainen, zullen ze langzaam uitgroeien tot deze bovennatuurlijke wezens.

Dat is iets waarvan ik denk dat het echt problematisch is - dat we dit idee van intelligentie hebben gekocht, terwijl we in feite alleen maar kijken naar vormen van statistische analyse op schaal die net zoveel problemen hebben als de gegevens die het oplevert.

Was het je meteen duidelijk dat dit is hoe mensen over AI moeten denken? Of was het een reis?

Het is absoluut een reis geweest. Ik zou zeggen dat een van de keerpunten voor mij in 2016 was, toen ik begon met een project genaamd Anatomie van een AI-systeem met Vladan Joler. We ontmoetten elkaar op een conferentie die specifiek ging over spraakgestuurde AI, en we probeerden effectief te tekenen wat nodig is om een ​​Amazon Echo te laten werken. Wat zijn de componenten? Hoe extraheert het gegevens? Wat zijn de lagen in de datapijplijn?

We realiseerden ons, eigenlijk, om dat te begrijpen, moet je begrijpen waar de componenten vandaan komen. Waar werden de chips geproduceerd? Waar zijn de mijnen? Waar wordt het gesmolten? Waar zijn de logistieke en supply chain paden?

Tot slot, hoe traceren we het einde van de levensduur van deze apparaten? Hoe kijken we naar waar de e-waste tips zich bevinden in plaatsen als Maleisië en Ghana en Pakistan? We eindigden met dit zeer tijdrovende tweejarige onderzoeksproject om die materiële toeleveringsketens echt van de wieg tot het graf te traceren.

Wanneer je op grotere schaal naar AI-systemen gaat kijken, en op die langere tijdshorizon, verschuif je van deze zeer beperkte verklaringen van AI-billijkheid en ethiek naar te zeggen: dit zijn systemen die diepgaande en blijvende geomorfische veranderingen op onze planeet veroorzaken, zoals evenals de vormen van arbeidsongelijkheid die we al in de wereld hebben, vergroten.

Dus dat deed me beseffen dat ik moest overschakelen van een analyse van slechts één apparaat, de Amazon Echo, naar het toepassen van dit soort analyse op de hele industrie. Dat was voor mij de grote taak, en daarom Atlas van AI duurde vijf jaar om te schrijven. Er is zo'n behoefte om echt te zien wat deze systemen ons echt kosten, omdat we zo zelden het werk doen om hun ware planetaire implicaties echt te begrijpen.

Het andere dat ik zou zeggen dat een echte inspiratie is geweest, is het groeiende veld van wetenschappers die deze grotere vragen stellen over arbeid, gegevens en ongelijkheid. Hier denk ik aan Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown - de lijst gaat maar door. Ik zie dit als een bijdrage aan die kennis door perspectieven in te brengen die het milieu, arbeidsrechten en gegevensbescherming met elkaar verbinden.

Je reist veel door het boek heen. Bijna elk hoofdstuk begint ermee dat je echt om je heen kijkt naar je omgeving. Waarom was dit belangrijk voor je?

Het was een zeer bewuste keuze om een ​​analyse van AI op specifieke plaatsen te baseren, om afstand te nemen van deze abstracte nergens van algoritmische ruimte, waar zoveel van de debatten rond machine learning plaatsvinden. En hopelijk benadrukt het het feit dat wanneer we dat niet doen, als we het alleen hebben over deze nergens-ruimtes van algoritmische objectiviteit, dat ook een politieke keuze is, en het heeft gevolgen.

Wat betreft het aan elkaar rijgen van de locaties, dit is eigenlijk de reden waarom ik begon na te denken over deze metafoor van een atlas, want atlassen zijn ongewone boeken. Het zijn boeken die je kunt openslaan en naar de schaal van een heel continent kunt kijken, of je kunt inzoomen en naar een bergketen of een stad kijken. Ze geven je deze verschuivingen in perspectief en schaalverschuivingen.

Er is een mooie regel die ik gebruik in het boek van de natuurkundige Ursula Franklin. Ze schrijft over hoe kaarten het bekende en het onbekende samenbrengen in deze methoden van collectief inzicht. Dus voor mij was het echt putten uit de kennis die ik had, maar ook nadenken over de feitelijke locaties waar AI heel letterlijk wordt geconstrueerd uit rotsen en zand en olie.

Wat voor feedback heeft het boek gekregen?

Een van de dingen waar ik in de eerste reacties door verrast ben, is dat mensen echt het gevoel hebben dat dit soort perspectief te laat was. Er is een moment van herkenning dat we een ander soort gesprek nodig hebben dan de gesprekken die we de afgelopen jaren hebben gevoerd.

We hebben veel te veel tijd besteed aan het focussen op smalle technische oplossingen voor AI-systemen en het altijd centraal stellen van technische reacties en technische antwoorden. Nu hebben we te maken met de ecologische voetafdruk van de systemen. We hebben te maken met de zeer reële vormen van arbeidsuitbuiting die zich hebben voorgedaan bij de constructie van deze systemen.

En we beginnen nu ook de giftige erfenis te zien van wat er gebeurt als je zoveel mogelijk gegevens van het internet plukt als je kunt, en het gewoon de waarheid noemt. Dat soort problematische framing van de wereld heeft zoveel schade veroorzaakt, en zoals altijd werd die schade vooral gevoeld door gemeenschappen die al gemarginaliseerd waren en niet de voordelen van die systemen ervoeren.

Wat hoop je dat mensen anders gaan doen?

Ik hoop dat het een stuk moeilijker zal zijn om deze doodlopende gesprekken te voeren waar termen als ethiek en AI voorgoed zijn geweest zo volledig gedenatureerd van elke werkelijke betekenis . Ik hoop dat het het gordijn opzij trekt en zegt, laten we eens kijken naar wie de hefbomen van deze systemen bestuurt. Dat betekent dat we ons niet alleen concentreren op zaken als ethische principes, maar ons ook moeten concentreren op het praten over macht.

Hoe komen we los van deze ethische framing?

Verwant verhaal

Bezorgd over de AI-ethiek van uw bedrijf? Deze startups zijn er om te helpen. Een groeiend ecosysteem van verantwoorde AI-ondernemingen belooft organisaties te helpen hun AI-modellen te monitoren en te repareren.

Als er de afgelopen tien jaar een echte val in de technologiesector is geweest, is het dat de theorie van verandering altijd centraal stond in engineering. Het is altijd zo geweest: als er een probleem is, is er een technische oplossing voor. En pas sinds kort beginnen we dat te zien uitbreiden naar Oh, nou, als er een probleem is, dan regulatie kan het repareren. Beleidsmakers hebben een rol.

Maar ik denk dat we dat nog verder moeten verbreden. We moeten ook zeggen: waar zijn de maatschappelijke organisaties, waar zijn de activisten, waar zijn de pleitbezorgers die zich bezighouden met klimaatrechtvaardigheid, arbeidsrechten en gegevensbescherming? Hoe betrekken we ze bij deze discussies? Hoe betrekken we getroffen gemeenschappen?

Met andere woorden, hoe kunnen we hier een veel dieper democratisch gesprek van maken over hoe deze systemen al het leven van miljarden mensen beïnvloeden op voornamelijk onverklaarbare manieren die buiten regulering en democratisch toezicht om leven?

In die zin probeert dit boek technologie te decentreren en grotere vragen te stellen over: in wat voor soort wereld willen we leven?

Wat voor soort wereld doen? Jij wil wonen? Van wat voor toekomst droom je?

Ik wil dat de groepen die het harde werk hebben gedaan om kwesties als klimaatrechtvaardigheid en arbeidsrechten aan te pakken, samenkomen, en beseffen dat deze voorheen vrij gescheiden fronten voor sociale verandering en raciale rechtvaardigheid echt gedeelde zorgen en een gedeelde grond hebben waarop coördineren en organiseren.

Omdat we hier naar een heel korte tijdshorizon kijken. We hebben te maken met een planeet die al zwaar onder druk staat. We kijken naar een diepe concentratie van macht in buitengewoon weinig handen. Je zou echt terug moeten gaan naar de begindagen van de spoorwegen om een ​​andere industrie te zien die zo geconcentreerd is, en nu zou je zelfs kunnen zeggen dat technologie dat heeft ingehaald.

We hebben dus te maken met manieren waarop we onze samenlevingen kunnen pluraliseren en meer vormen van democratische verantwoording kunnen afleggen. En dat is een probleem van collectieve actie. Het is geen probleem van individuele keuze. Het is niet zo dat we het meer ethische technologiemerk van de plank kiezen. Het is dat we manieren moeten vinden om samen te werken aan deze uitdagingen op planetaire schaal.

Bijwerken : De omschrijving van het AI Now instituut is verduidelijkt.

zich verstoppen