211service.com
Militaire robots: bewapend, maar hoe gevaarlijk?
Een open brief waarin werd opgeroepen tot een verbod op dodelijke wapens die worden bestuurd door kunstmatig intelligente machines, werd vorige week ondertekend door duizenden wetenschappers en technologen, wat een weerspiegeling is van de groeiende bezorgdheid dat snelle vooruitgang op het gebied van kunstmatige intelligentie kan worden aangewend om moordmachines efficiënter en minder verantwoordelijk te maken, zowel op het slagveld en uit. Maar experts zijn meer verdeeld over de kwestie van robotmoordmachines dan je zou verwachten.
De brief, gepresenteerd op de Internationale gezamenlijke conferentie over kunstmatige intelligentie in Buenos Aires, Argentinië, werd ondertekend door vele vooraanstaande AI-onderzoekers, evenals vooraanstaande wetenschappers en ondernemers, waaronder Elon Musk, Stephen Hawking en Steve Wozniak. In de brief staat:
De technologie van kunstmatige intelligentie (AI) heeft een punt bereikt waarop de inzet van dergelijke systemen - praktisch, zo niet wettelijk - binnen jaren en niet decennia haalbaar is, en de inzet is hoog: autonome wapens zijn beschreven als de derde revolutie in oorlogsvoering, na buskruit en kernwapens.
De afgelopen jaren zijn er inderdaad snelle vorderingen gemaakt op het gebied van kunstmatige intelligentie, vooral op het gebied van machine learning, waarbij computers worden geleerd om vaak complexe of subtiele patronen in grote hoeveelheden gegevens te herkennen. En dit leidt tot ethische vragen over toepassingen van de technologie in de echte wereld (zie Hoe zelfrijdende auto's ethische beslissingen kunnen nemen).
Ondertussen is de militaire technologie gevorderd om acties op afstand mogelijk te maken, bijvoorbeeld met behulp van drone-vliegtuigen of bommenverwijderingsrobots, waardoor het vooruitzicht wordt gewekt dat die acties kunnen worden geautomatiseerd.
De kwestie van het automatiseren van dodelijke wapens is al geruime tijd een punt van zorg voor zowel wetenschappers als militaire en beleidsexperts. In 2012 heeft het Amerikaanse ministerie van Defensie een richtlijn een verbod op de ontwikkeling en het gebruik van autonome en semi-autonome wapens gedurende 10 jaar. Eerder dit jaar kwamen de Verenigde Naties bijeen om de kwestie van dodelijke geautomatiseerde wapens en de mogelijkheid van een dergelijk verbod te bespreken.
Maar hoewel militaire drones of robots meer geautomatiseerd zouden kunnen worden, zeggen sommigen dat het idee van volledig onafhankelijke machines die dodelijke missies kunnen uitvoeren zonder menselijke hulp, fantasievoller is. Met nog veel fundamentele uitdagingen op het gebied van kunstmatige intelligentie, is het echter verre van duidelijk wanneer de technologie die nodig is voor volledig autonome wapens daadwerkelijk zal arriveren.
We verleggen nieuwe grenzen in kunstmatige intelligentie, zegt Patrick Lin , een professor in de filosofie aan de California Polytechnic State University. En veel mensen zijn terecht sceptisch dat het ooit zover zou komen dat het zoiets zou hebben als volledige autonomie. Niemand is echt een expert in het voorspellen van de toekomst.
Lin, die getuigenis aflegde tijdens de recente VN-bijeenkomst, voegt eraan toe dat de brief niet ingaat op het complexe ethische debat achter het gebruik van automatisering in wapensystemen. De brief is nuttig om het bewustzijn te vergroten, zegt hij, maar roept niet zozeer op tot debat; het probeert het debat te beëindigen door te zeggen: 'We hebben het uitgezocht en jullie moeten allemaal meegaan.'
Stuart Russell , een vooraanstaand AI-onderzoeker en een professor aan de University of California, Berkeley, verwerpt dit idee. Het is gewoon niet waar dat er geen debat is geweest, zegt hij. Maar het is waar dat de AI- en robotica-gemeenschappen meestal gelukzalig onwetend zijn geweest over deze kwestie, misschien omdat hun professionele samenlevingen het hebben genegeerd.
Een punt van discussie, dat in de brief wel wordt erkend, is dat geautomatiseerde wapens in sommige situaties mogelijk kunnen helpen het aantal ongewenste slachtoffers te verminderen, omdat ze minder vatbaar zijn voor fouten, vermoeidheid of emoties dan menselijke strijders.
Degenen achter de brief hebben echter weinig tijd voor dit argument.
Max Tegmark , een MIT-natuurkundige en stichtend lid van de Instituut voor de toekomst van het leven , die de ondertekening van de brief coördineerde, zegt dat het idee van ethische geautomatiseerde wapens een rode haring is. Ik denk dat het nogal irrelevant is, eerlijk gezegd, zegt hij. Het mist het grote punt waar dit toe zal leiden als men deze AI-wapenwedloop begint. Als je ervan uitgaat dat alleen de VS deze wapens gaan bouwen en het aantal conflicten precies hetzelfde zal blijven, dan zou het relevant zijn.
Het Future of Life Institute heeft een meer algemene waarschuwing afgegeven over de langetermijnrisico's van ongebreidelde AI en waarschuwt dat dit in de toekomst ernstige gevaren kan opleveren.
Dit is een heel ander probleem, zegt Russell. Hoewel er een verband is, is het misschien geen goed idee om onze verdedigingssystemen aan hen over te dragen als we bang zijn de controle over AI-systemen te verliezen naarmate ze slimmer worden.
Hoewel veel AI-experts deze brede zorg lijken te delen, vinden sommigen het een beetje misplaatst. Bijvoorbeeld, Gary Marcus , een cognitief wetenschapper en onderzoeker op het gebied van kunstmatige intelligentie aan de New York University, heeft betoogd dat computers niet kunstmatig intelligent hoeven te worden om veel andere ernstige risico's te vormen, bijvoorbeeld voor financiële markten of luchtverkeerssystemen.
Lin zegt dat hoewel het concept van ongecontroleerde killer-robots duidelijk zorgwekkend is, de kwestie van geautomatiseerde wapens een meer genuanceerde discussie verdient. Emotioneel is het een vrij eenvoudige zaak, zegt Lin. Intellectueel denk ik dat ze meer moeten doen.