Mensenrechtenactivisten willen AI gebruiken om oorlogsmisdaden voor de rechtbank te bewijzen

Vframe

In 2015, gealarmeerd door een escalerende burgeroorlog in Jemen, leidde Saoedi-Arabië een luchtcampagne tegen het land om een ​​​​dreigende opkomst van de sjiitische macht te verslaan. De interventie, gelanceerd met acht andere grotendeels soennitische Arabische staten, was bedoeld om slechts een paar weken te duren, hadden Saoedische functionarissen gezegd. Bijna vijf jaar later is het nog steeds niet gestopt.

Volgens sommige schattingen heeft de coalitie sindsdien meer dan 20.000 luchtaanvallen uitgevoerd, waarvan vele Jemenitische burgers hebben gedood en hun eigendommen hebben vernietigd, naar verluidt in directe schending van het internationaal recht. Sindsdien hebben mensenrechtenorganisaties getracht dergelijke oorlogsmisdaden te documenteren in een poging ze te stoppen door middel van juridische procedures. Maar de gouden standaard, verificatie ter plaatse door journalisten en activisten, is vaak te gevaarlijk om mogelijk te zijn. In plaats daarvan zijn organisaties in toenemende mate overgegaan op crowdsourced mobiele foto's en video's om het conflict te begrijpen, en zijn ze begonnen deze voor de rechtbank te brengen als aanvulling op ooggetuigenverslagen.

Maar naarmate de digitale documentatie van oorlogsscènes zich vermenigvuldigde, is de tijd die nodig is om het te analyseren geëxplodeerd. De verontrustende beelden kunnen ook de onderzoekers traumatiseren die de beelden moeten doorzoeken en bekijken. nutsvoorzieningen een initiatief dat binnenkort een uitdaging zal vormen in het Britse rechtssysteem, is het testen van een alternatief voor machinaal leren. Het zou een manier kunnen zijn om crowdsourced bewijs toegankelijker te maken en mensenrechtenorganisaties te helpen rijkere informatiebronnen aan te boren.

Het initiatief, geleid door de Universiteit van Swansea in het VK, samen met een aantal mensenrechtengroepen, maakt deel uit van een voortdurende inspanning om de vermeende oorlogsmisdaden in Jemen te volgen en een grotere wettelijke aansprakelijkheid rond hen te creëren. In 2017 begon het platform Yemeni Archive te compileren een database van video's en foto's die de misbruiken documenteren. Inhoud werd verzameld uit duizenden bronnen - inclusief inzendingen van journalisten en burgers, evenals open-sourcevideo's van sociale-mediaplatforms zoals YouTube en Facebook - en bewaard op een blockchain, zodat er niet ongemerkt mee kon worden geknoeid.

Samen met het Global Legal Action Network (GLAN), een non-profitorganisatie die staten en andere machtige actoren juridisch uitdaagt voor mensenrechtenschendingen, begonnen de onderzoekers bewijsmateriaal van specifieke mensenrechtenschendingen te verzamelen in een aparte database en het opzetten van rechtszaken in verschillende nationale en internationale rechtbanken. Als zaken door de rechtszaal komen, is het niet genoeg om aan te tonen dat dit is gebeurd, zegt Yvonne McDermott Rees, een professor aan de Swansea University en de leider van het initiatief. Je moet zeggen: 'Nou, daarom is het een oorlogsmisdaad.' Dat kan zijn: 'Je hebt een wapen gebruikt dat illegaal is', of in het geval van een luchtaanval: 'Dit was gericht op burgers' of 'Dit was een onevenredige aanval.'

Een 3D-weergave van een BLU-63.

VFRAME

In dit geval richten de partners zich op een in de VS vervaardigde clustermunitie, de BLU-63. Het gebruik en de verkoop van clustermunitie, explosieve wapens die bij impact kleinere explosieven uitspuiten, is verboden door 108 landen, waaronder het VK. Als de partners in een Britse rechtbank zouden kunnen bewijzen dat ze inderdaad zijn gebruikt om oorlogsmisdaden te plegen, zou dit kunnen worden gebruikt als onderdeel van het toenemende bewijs dat de door Saudi-Arabië geleide coalitie een staat van dienst heeft met het schenden van het internationaal recht, en een pleidooi houden voor de UK om te stoppen met de verkoop van wapens aan Saoedi-Arabië of om strafrechtelijke vervolging in te stellen tegen personen die betrokken zijn bij de verkoop.

Dus besloten ze een machine learning-systeem te ontwikkelen om alle exemplaren van de BLU-63 in de database te detecteren. Maar afbeeldingen van BLU-63's zijn zeldzaam, juist omdat ze illegaal zijn, waardoor het team weinig real-world gegevens had om hun systeem te trainen. Als remedie creëerde het team een ​​synthetische dataset door 3D-modellen van de BLU-63 in een simulatie te reconstrueren.

Met behulp van de weinige eerdere voorbeelden die ze hadden, waaronder een foto van de munitie bewaard door het Imperial War Museum, werkten de partners samen met Adam Harvey, een computer vision-onderzoeker, om de reconstructies te maken. Beginnend met een basismodel, voegde Harvey fotorealistische texturen, verschillende soorten schade en verschillende emblemen toe. Vervolgens gaf hij de resultaten weer onder verschillende lichtomstandigheden en in verschillende omgevingen om honderden stilstaande beelden te creëren die nabootsten hoe de munitie in het wild zou kunnen worden gevonden. Hij creëerde ook synthetische gegevens van dingen die voor de munitie konden worden aangezien, zoals een groene honkbal, om het aantal valse positieven te verlagen.

Hoewel Harvey nog steeds bezig is met het genereren van meer trainingsvoorbeelden - hij schat dat hij er meer dan 2.000 nodig heeft - presteert het bestaande systeem al goed: meer dan 90% van de video's en foto's die het uit de database haalt, is geverifieerd door menselijke experts om BLU te bevatten -63s. Hij maakt nu een meer realistische set validatiegegevens door 3D-printen en het schilderen van modellen van de munitie om er echt uit te zien, en ze vervolgens op video vast te leggen en te fotograferen om te zien hoe goed zijn detectiesysteem presteert. Zodra het systeem volledig is getest, is het team van plan het door het hele Jemenitische archief te laten lopen, dat 5,9 miljard videoframes aan beeldmateriaal bevat. Volgens de schatting van Harvey zou een persoon 24 uur per dag 2.750 dagen nodig hebben om zoveel informatie te doorzoeken. Daarentegen zou het machine-learningsysteem ongeveer 30 dagen duren op een gewone desktop.

De echte afbeelding getoond in de analyse bovenaan het artikel.

VFRAME

Menselijke experts zouden de beelden nog steeds moeten verifiëren nadat het systeem het heeft gefilterd, maar de winst in efficiëntie verandert het spel voor mensenrechtenorganisaties die uitdagingen voor de rechtbank willen aangaan. Het is niet ongebruikelijk voor deze organisaties om enorme hoeveelheden video op te slaan die zijn verzameld door ooggetuigen. Amnesty International heeft bijvoorbeeld in de orde van grootte van 1 terabyte aan beeldmateriaal dat mogelijke schendingen in Myanmar documenteert, zegt McDermott Rees. Machine learning-technieken kunnen hen in staat stellen deze archieven te doorzoeken en het patroon van mensenrechtenschendingen op een voorheen onhaalbare schaal aan te tonen, waardoor het voor rechtbanken veel moeilijker wordt om het bewijs te ontkennen.

Als je bijvoorbeeld kijkt naar de targeting van ziekenhuizen, is het sterk om één video te hebben die laat zien dat een ziekenhuis wordt getarget; het maakt een zaak, zegt Jeff Deutch, de hoofdonderzoeker bij Syrian Archive, een mensenrechtengroep die verantwoordelijk is voor de lancering van Yemeni Archive. Maar als je honderden video's kunt laten zien van honderden incidenten waarbij ziekenhuizen het doelwit zijn, kun je zien dat dit echt een opzettelijke oorlogsstrategie is. Wanneer dingen als opzettelijk worden gezien, wordt het beter mogelijk om de bedoeling te identificeren. En opzet kan iets nuttigs zijn voor rechtszaken in termen van aansprakelijkheid voor oorlogsmisdaden.

Terwijl de medewerkers van Jemen zich voorbereiden om hun zaak in te dienen, zal bewijs van deze omvang bijzonder relevant zijn. De door Saudi-Arabië geleide luchtaanvalcoalitie heeft al schuld ontkend in eerdere beschuldigingen van oorlogsmisdaden, die de Britse regering erkent als het officiële record. Een Britse rechtbank ook een eerdere zaak afgewezen die een andere organisatie indiende om de regering ervan te weerhouden wapens aan Saoedi-Arabië te verkopen, omdat zij het open-source videobewijs niet overtuigend genoeg achtte. Hoewel een andere rechtbank later in hoger beroep een aantal van deze kritieken terugnam, hopen de medewerkers dat de grotere rijkdom aan bewijs deze keer elke betwisting zal voorkomen. Zaken met open source video's in een Syrische context hebben eerder geleid tot veroordelingen, zegt McDermott Rees.

Dit initiatief is niet het eerste dat machine learning gebruikt om bewijsmateriaal in een mensenrechtencontext te filteren. Het E-Lamp-systeem van de Carnegie Mellon University, een toolbox voor videoanalyse voor mensenrechtenwerk, ontwikkeld om de archieven van de Syrische oorlog te analyseren. Harvey werkte eerder ook samen met enkele van zijn huidige medewerkers om munitie te identificeren die in Syrië wordt gebruikt. De poging in Jemen zal echter een van de eerste zijn die bij een rechtszaak wordt betrokken. Het zou een precedent kunnen scheppen voor andere mensenrechtenorganisaties.

Hoewel dit een opkomend veld is, is het een geweldige kans, zegt Sam Gregory, de programmadirecteur van de non-profitorganisatie voor mensenrechten, Witness en covoorzitter van de Partnership on AI-werkgroep over sociale en maatschappelijke invloed. [Het gaat] ook om het gelijk maken van het speelveld bij de toegang tot AI en het gebruik van AI om zowel ooggetuigenbewijs als door de dader geschoten beelden om te zetten in gerechtigheid.

Correcties: De BLU-63 is vervaardigd door de VS, niet het VK. De eerdere zaak die door de Britse rechtbank werd afgewezen, was ook aanhangig gemaakt door een andere organisatie, niet door GLAN. Jeff Deutch heeft Yemeni Archive niet rechtstreeks gevonden, maar is de hoofdonderzoeker bij Syrian Archive, dat Yemeni Archive heeft opgericht.

zich verstoppen