De echte gevaren van AI zijn dichterbij dan we denken

Vergeet superintelligente AI: algoritmen richten nu al echte schade aan. Het goede nieuws: de strijd terug is begonnen.

Door

• Karen Hao archiefpagina

21 oktober 2020

William Isaac begon in 2016 met het onderzoeken van vooroordelen in voorspellende politiealgoritmen. David Vintiner

Zolang mensen machines hebben gebouwd, zijn we bang geweest voor de dag dat ze ons zouden kunnen vernietigen. Stephen Hawking waarschuwde beroemd dat AI een einde zou kunnen betekenen aan de beschaving. Maar voor veel AI-onderzoekers voelen deze gesprekken los aan. Het is niet dat ze niet bang zijn dat AI amok maakt - het is dat ze het al zien gebeuren, alleen niet op de manieren die de meeste mensen zouden verwachten.

AI screent nu sollicitanten, diagnosticeert ziekten en identificeert criminele verdachten. Maar in plaats van deze beslissingen efficiënter of eerlijker te maken, bestendigt het vaak de vooroordelen van de mensen op wiens beslissingen het werd getraind.

Dit verhaal maakte deel uit van ons nummer van november 2020

• Zie de rest van het nummer
• Abonneren

William Isaac is een senior onderzoekswetenschapper in het ethiek- en samenlevingsteam van DeepMind, een AI-startup die Google in 2014 overnam. Hij is ook medevoorzitter van de Fairness, Accountability and Transparency-conferentie - de belangrijkste jaarlijkse bijeenkomst van AI-experts, sociale wetenschappers, en advocaten die op dit gebied werkzaam zijn. Ik vroeg hem naar de huidige en potentiële uitdagingen waarmee AI-ontwikkeling wordt geconfronteerd, evenals de oplossingen.

V: Moeten we ons zorgen maken over superintelligente AI?

A: Ik wil de vraag verschuiven. De bedreigingen overlappen elkaar, of het nu gaat om predictive policing en risicobeoordeling op korte termijn, of om meer geschaalde en geavanceerde systemen op de langere termijn. Veel van deze kwesties hebben ook een basis in de geschiedenis. Dus potentiële risico's en manieren om ze te benaderen zijn niet zo abstract als we denken.

Er zijn drie gebieden die ik wil markeren. Waarschijnlijk de meest prangende is deze vraag over waardeafstemming: hoe ontwerp je eigenlijk een systeem dat de verschillende vormen van voorkeuren en waarden van een populatie kan begrijpen en implementeren? In de afgelopen jaren hebben we pogingen gezien van beleidsmakers, de industrie en anderen om te proberen waarden op grote schaal in technische systemen in te bedden - op gebieden als voorspellend politiewerk, risicobeoordelingen, aanwervingen, enz. Het is duidelijk dat ze een vorm van vooringenomenheid vertonen die de samenleving weerspiegelt. Het ideale systeem zou alle behoeften van veel belanghebbenden en veel mensen in de bevolking in evenwicht brengen. Maar hoe verzoent de samenleving hun eigen geschiedenis met aspiratie? We worstelen nog steeds met de antwoorden, en die vraag zal exponentieel ingewikkelder worden. Dat probleem oplossen is niet alleen iets voor de toekomst, maar voor het hier en nu.

De tweede is het behalen van aantoonbaar maatschappelijk voordeel. Tot nu toe zijn er nog maar weinig empirische bewijzen die bevestigen dat AI-technologieën het brede sociale voordeel zullen opleveren dat we nastreven.

Ten slotte denk ik dat de grootste zorg waar iedereen die in de ruimte werkt zich zorgen over maakt, is: wat zijn de robuuste mechanismen van toezicht en aansprakelijkheid.

V: Hoe overwinnen we deze risico's en uitdagingen?

A: Drie gebieden zouden een lange weg gaan. De eerste is om een ​​collectieve spier op te bouwen voor verantwoorde innovatie en toezicht. Zorg ervoor dat u nadenkt over waar de vormen van verkeerde uitlijning, vooringenomenheid of schade bestaan. Zorg dat je goede processen ontwikkelt om ervoor te zorgen dat alle groepen betrokken zijn bij het proces van technologisch ontwerp. Groepen die historisch gemarginaliseerd zijn, zijn vaak niet degenen die in hun behoeften voorzien. Dus hoe we processen ontwerpen om dat ook daadwerkelijk te doen, is belangrijk.

De tweede is het versnellen van de ontwikkeling van de sociotechnische instrumenten om dit werk ook daadwerkelijk te doen. We hebben niet veel gereedschap.

De laatste biedt meer financiering en training voor onderzoekers en beoefenaars - met name onderzoekers en beoefenaars van kleur - om dit werk uit te voeren. Niet alleen in machine learning, maar ook in STS [science, technology, and society] en de sociale wetenschappen. We willen niet slechts een paar individuen, maar een gemeenschap van onderzoekers om echt te begrijpen welke mogelijke schade AI-systemen met zich meebrengen, en hoe deze met succes kunnen worden beperkt.

Vraag: Hoe ver zijn AI-onderzoekers gekomen in het nadenken over deze uitdagingen, en hoe ver moeten ze nog gaan?

A: In 2016, herinner ik me, kwam het Witte Huis net met een big data-rapport en er was een sterk gevoel van optimisme dat we data en machine learning konden gebruiken om een ​​aantal hardnekkige sociale problemen op te lossen. Tegelijkertijd waren er onderzoekers in de academische gemeenschap die in zeer abstracte zin hadden geflankeerd: Hé, er is een aantal potentiële schade die door deze systemen kan worden aangericht. Maar ze hadden grotendeels geen interactie gehad. Ze bestonden in unieke silo's.

Sindsdien hebben we veel meer onderzoek gedaan naar dit kruispunt tussen bekende fouten in systemen voor machine learning en hun toepassing op de samenleving. En toen mensen die wisselwerking eenmaal begonnen te zien, realiseerden ze zich: Oké, dit is niet alleen een hypothetisch risico. Het is een reële bedreiging. Dus als je het veld in fasen bekijkt, was fase één erg aan het benadrukken en aan het licht komen dat deze zorgen reëel zijn. De tweede fase begint nu te worstelen met bredere systeemvragen.

V: Dus bent u optimistisch over het bereiken van een brede, voordelige AI?

Ik ben. De afgelopen jaren hebben mij veel hoop gegeven. Kijk als voorbeeld naar gezichtsherkenning. Er was het geweldige werk van Joy Buolamwini, Timnit Gebru en Deb Raji bij het opduiken van intersectionele ongelijkheden in nauwkeurigheid tussen gezichtsherkenningssystemen [d.w.z. aantonen dat deze systemen veel minder nauwkeurig waren op zwarte vrouwelijke gezichten dan op blanke mannelijke]. Er is de pleitbezorging die plaatsvond in het maatschappelijk middenveld om een ​​rigoureuze verdediging van de mensenrechten op te zetten tegen verkeerde toepassing van gezichtsherkenning. En ook het geweldige werk dat beleidsmakers, regelgevers en gemeenschapsgroepen van de basis deden om precies te communiceren wat gezichtsherkenningssystemen waren en welke potentiële risico's ze vormden, en om duidelijkheid te vragen over wat de voordelen voor de samenleving zouden zijn. Dat is een model van hoe we ons kunnen voorstellen dat we ons bezighouden met andere ontwikkelingen op het gebied van AI.

Maar de uitdaging met gezichtsherkenning is dat we deze ethische en waardenvragen moesten beoordelen terwijl we de technologie publiekelijk aan het inzetten waren. In de toekomst hoop ik dat sommige van deze gesprekken plaatsvinden voordat de mogelijke gevaren zich voordoen.

Vraag: Waar droom je over als je droomt over de toekomst van AI?

A: Het zou een geweldige gelijkmaker kunnen zijn. Alsof je AI-leraren of -docenten zou hebben die beschikbaar zouden kunnen zijn voor studenten en gemeenschappen waar de toegang tot onderwijs en middelen zeer beperkt is, dat zou heel empowerend zijn. En dat is niet triviaal om van deze technologie te verlangen. Hoe weet je dat het empowerment is? Hoe weet je dat het sociaal voordelig is?

Ik ging naar de graduate school in Michigan tijdens de Flint-watercrisis. Toen de eerste incidenten van loden leidingen naar voren kwamen, stonden de gegevens die ze hadden over waar de leidingsystemen zich bevonden op indexkaarten onder in een administratief gebouw. Het gebrek aan toegang tot technologieën had hen aanzienlijk benadeeld. Het betekent dat de mensen die in die gemeenschappen zijn opgegroeid, waarvan meer dan 50% Afro-Amerikaans is, zijn opgegroeid in een omgeving waar ze geen basisdiensten en middelen krijgen.

Dus de vraag is: kunnen deze technologieën hun levensstandaard verbeteren als ze op de juiste manier worden toegepast? Machine learning was in staat om te identificeren en te voorspellen waar de loden leidingen waren, waardoor de werkelijke reparatiekosten voor de stad werden verlaagd. Maar dat was een enorme onderneming, en het was zeldzaam. En zoals we weten, heeft Flint nog steeds niet alle leidingen verwijderd, dus er zijn ook politieke en sociale uitdagingen - machine learning lost ze niet allemaal op. Maar de hoop is dat we tools ontwikkelen die deze gemeenschappen machtigen en betekenisvolle verandering in hun leven bieden. Daar denk ik aan als we het hebben over wat we aan het bouwen zijn. Dat is wat ik wil zien.

zich verstoppen