211service.com
Waarom AI-onderzoekers het leger niet de rug moeten toekeren
Amerikaanse leger
Meer dan 2.400 AI-onderzoekers ondertekenden onlangs een belofte met de belofte om geen zogenaamde autonome wapens te bouwen - systemen die zelf zouden beslissen wie ze zouden doden. Dit volgt op het besluit van Google om een contract om het Pentagon te voorzien van AI voor analyse van dronebeelden niet te verlengen nadat het bedrijf onder druk kwam te staan van veel werknemers die tegen zijn werk aan een project dat bekend staat als Maven.
Paul Scharre, de auteur van een nieuw boek, Army of None: autonome wapens en de toekomst van oorlog , is van mening dat AI-onderzoekers meer moeten doen dan zich afmelden als ze verandering willen bewerkstelligen.
Paul Scharre. Win McNamee/Getty Images
Als Army Ranger in Irak en Afghanistan en nu senior fellow bij het Center for a New American Security, stelt Scharre dat AI-experts moeten samenwerken met beleidsmakers en militaire professionals om uit te leggen waarom onderzoekers zich zorgen maken en hen te helpen de beperkingen van AI-systemen.
Scharre sprak met MET Technologie beoordeling hoofdredacteur Will Knight over de beste manier om een potentieel gevaarlijke AI-wapenwedloop te stoppen.
paulscharre.com
Hoe enthousiast is het Amerikaanse leger om AI-wapens te ontwikkelen?
Amerikaanse defensieleiders hebben herhaaldelijk verklaarde dat hun bedoeling is om een mens op de hoogte te houden en verantwoordelijk te houden voor beslissingen over dodelijk geweld. Het voorbehoud is dat ze ook hebben erkend dat als andere landen autonome wapens bouwen, ze misschien gedwongen worden om dit voorbeeld te volgen. En dat is het echte risico - dat als een land deze grens overschrijdt, anderen misschien het gevoel hebben dat ze in natura moeten reageren om concurrerend te blijven.
Zijn deze beloften echter echt te vertrouwen?
Ik denk dat hoge Amerikaanse defensiefunctionarissen oprecht zijn dat ze willen dat mensen verantwoordelijk blijven voor het gebruik van dodelijk geweld. Militaire professionals willen zeker niet dat hun wapens op hol slaan. Dat gezegd hebbende, blijft het een open vraag hoe een breed concept, zoals menselijke verantwoordelijkheid voor dodelijk geweld, kan worden vertaald in specifieke technische richtlijnen over welke soorten wapens zijn toegestaan. De definitie van wat een autonoom wapen is, wordt al betwist, dus er kunnen verschillende opvattingen zijn over hoe deze principes in de praktijk moeten worden gebracht.
Waarom moeten technologen worden betrokken?
AI-onderzoekers moeten deel uitmaken van deze gesprekken, aangezien hun technische expertise essentieel is voor het vormgeven van beleidskeuzes. We moeten rekening houden met AI-bias, transparantie, verklaarbaarheid, veiligheid en andere zorgen. AI-technologie heeft tegenwoordig deze dubbele functies: het is krachtig maar heeft ook veel kwetsbaarheden, net zoals computers en cyberrisico's. Helaas lijken regeringen het eerste deel van die boodschap te hebben begrepen (AI is krachtig), maar niet het tweede (het brengt risico's met zich mee). AI-onderzoekers kunnen regeringen en legers helpen beter te begrijpen waarom ze zo bezorgd zijn over de gevolgen van het bewapenen van deze technologie. Om dat effectief te bewijzen, moeten AI-onderzoekers deel uitmaken van een constructieve dialoog.
Wat vindt u van de recente toezegging tegen autonome wapens, georganiseerd door het Future of Life Institute?
Het is niet de eerste oproep tot actie door AI-wetenschappers; het bouwt voort op eerdere open brieven over autonome wapens in 2015 en 2017 . Maar deze brieven zijn een symbolisch gebaar en hebben waarschijnlijk een afnemend rendement in hun effectiviteit. Landen bespreken sinds 2014 ook autonome wapens bij de Verenigde Naties, en de druk van AI-wetenschappers voegt een belangrijke dimensie toe aan het gesprek, maar heeft grote militaire machten nog niet overtuigd om een alomvattend verbod te ondersteunen. Het zou meer impact hebben als meer AI-onderzoekers de VN-vergaderingen bijwonen en beleidsmakers helpen begrijpen waarom AI-wetenschappers zo bezorgd zijn.
Hoe zit het met het besluit van Google om zijn contract met het Pentagon niet te verlengen?
Het was een beetje verrassend omdat Maven eigenlijk geen autonome wapens of targeting inhield en leek te voldoen aan de onlangs uitgebrachte Google's AI-principes . Maar de concurrentie om het beste AI-talent is hevig en ik vermoed dat Google het niet kon riskeren dat een aantal van zijn beste ingenieurs uit protest ontslag zou nemen.
Denk je dat dergelijke gebaren de ontwikkeling van autonome wapens zullen vertragen?
Als het op Maven aankomt, was Google niet betrokken bij het bouwen van zelfs door mensen bestuurde wapens, laat staan autonome wapens, dus daar is geen directe verbinding. De toezeggingsbrief is uiteraard direct gericht op autonome wapens. Maar ik denk niet dat beide een groot effect zullen hebben op de manier waarop legers AI en autonomie in hun wapens opnemen, aangezien wapens waarschijnlijk worden gebouwd door defensie-aannemers. Als grote technologiebedrijven zoals Google ervoor kiezen om niet met militairen te werken, zou dat de integratie van AI-technologie in essentiële ondersteunende functies zoals gegevensanalyse, wat Maven aan het doen was, kunnen vertragen. Maar uiteindelijk zullen andere bedrijven ingrijpen om de leemte op te vullen. We hebben het al gezien ander bedrijven openlijk zeggen dat ze met het leger willen werken.
Kunnen deze inspanningen ook onbedoelde gevolgen hebben?
Veel legitiem gebruik van AI als onaanvaardbaar afschilderen, zou een wig tussen de technische en beleidsgemeenschappen verder kunnen drijven en een redelijk discours moeilijker maken. Ingenieurs moeten absoluut afzien van het werken aan projecten die ze niet kunnen ondersteunen, maar wanneer die persoonlijke motivaties verschuiven naar het onder druk zetten van anderen om aan belangrijke en legitieme nationale veiligheidstoepassingen te werken, schaden ze de openbare veiligheid en tasten ze de rechten van andere ingenieurs aan om hun eigen geweten na te streven. Democratische landen zullen AI-technologie moeten gebruiken voor een aantal belangrijke en legale nationale veiligheid doeleinden: inlichtingen, terrorismebestrijding, grensbeveiliging, cyberbeveiliging en defensie.
Is de VS al in een AI-wapenwedloop met China?
China heeft publiekelijk verklaard voornemens te zijn de wereldleider in kunstmatige intelligentie tegen 2030 en breidt zijn onderzoek uit en rekruteert toptalent van over de hele wereld. China's model van militair-civiele fusie betekent ook dat AI-onderzoek gemakkelijk van technologiebedrijven naar het leger zal stromen zonder het soort barrières dat sommige Google-medewerkers in de Verenigde Staten willen oprichten. China heeft al begonnen om de basis te leggen voor een door AI ondersteunde techno-surveillance-staat.
Als de tactieken van AI-onderzoekers er alleen in slagen om de acceptatie van AI-tools te vertragen in open, democratische samenlevingen die ethisch gedrag waarderen, zou hun werk kunnen bijdragen aan het inluiden van een toekomst waarin de krachtigste technologie in handen is van regimes die het minst om ethiek geven en de rechtsstaat.
In uw boek wijst u erop dat het definiëren van autonomie lastig kan zijn. Zal dit de discussie over militair gebruik van AI niet bemoeilijken?
De auteurs van de recente toezegging tegen autonome wapens maken bezwaar tegen autonome wapens die een persoon zouden doden, maar erkennen dat sommige soorten autonome systemen nodig zouden zijn om zich tegen andere dergelijke wapens te verdedigen. Het is het grijze gebied waar autonomie nodig kan zijn om te verdedigen tegen wapens en een persoon is nog steeds aan boord, zoals bij het richten op een straaljager of onderzeeër, waar de echte uitdaging ligt. Het is niet eenvoudig om concurrerende doelstellingen in evenwicht te brengen, en beleidsmakers zullen voor echte keuzes komen te staan als ze deze technologie gebruiken.
AI-ingenieurs zullen de meeste impact hebben bij het vormgeven van deze keuzes als ze een constructieve, continue dialoog aangaan met beleidsmakers, in plaats van zich af te melden. AI-onderzoekers die belang hechten aan hoe de technologie wordt gebruikt, zullen effectiever zijn als ze verder gaan dan drukcampagnes en beleidsmakers gaan informeren over de huidige AI-technologie en de beperkingen ervan.