211service.com
Algoritme voor machinaal leren kan aantonen of staatsgeheimen correct zijn geclassificeerd
Het Amerikaanse ministerie van Buitenlandse Zaken genereert elk jaar zo'n twee miljard e-mails. Een aanzienlijk deel hiervan bevat gevoelige of geheime informatie en moet daarom worden geclassificeerd, een proces dat tijdrovend en kostbaar is. Alleen al in 2015 gaf het $ 16 miljard uit om geheime informatie te beschermen.
Maar de betrouwbaarheid van dit classificatieproces is onduidelijk. Niemand weet of de regels voor het classificeren van informatie consistent en betrouwbaar worden toegepast. Er is inderdaad een aanzienlijk geschil over wat zelfs informatie is die moet worden geclassificeerd.
Bovendien is het gemakkelijk voor te stellen dat menselijke fouten een grote rol spelen bij de verkeerde classificatie van ambtsgeheimen. Maar niemand weet hoe belangrijk deze fouten kunnen zijn.
Vandaag verandert dat dankzij het werk van Renato Rocha Souza bij de Braziliaanse denktank Fundação Getulio Vargas in Rio de Janeiro en collega's aan de Columbia University in New York. Deze jongens hebben een algoritme voor machinaal leren gebruikt om meer dan een miljoen vrijgegeven kabels van het ministerie van Buitenlandse Zaken uit de jaren zeventig te bestuderen.
Hun werk geeft een ongekend inzicht in de aard van ambtsgeheimen, hoe mensen de regels toepassen en hoe vaak fouten in het proces sluipen om gevoelige informatie te onthullen of anderszins onschuldige details te verbergen. De algoritmen onthullen ook verdachte patronen in de manier waarop kabels zoekraken.
Het team begon met een corpus van een miljoen kabels, die ze in de vorm van XML-bestanden downloadden van de Amerikaanse National Archives. Elke kabel is een sms-bericht dat wordt uitgewisseld tussen het ministerie van Buitenlandse Zaken en een diplomatieke missie in het buitenland, zoals een ambassade of consulaat.
De kabels zijn gelabeld als geheim, vertrouwelijk, beperkt officieel gebruik of als niet-geclassificeerd. Geheime informatie wordt gedefinieerd als het potentieel hebben om de nationale veiligheid ernstig te schaden, vertrouwelijke informatie wordt gedefinieerd als het kunnen veroorzaken van schade, maar geen ernstige schade. De categorie Beperkt officieel gebruik was in de jaren 70 niet gedefinieerd en is nog steeds controversieel.
De kabels bevatten ook andere informatie. Elk bericht heeft een datum, een afzender en ontvanger, een onderwerp en natuurlijk de berichttekst.
Souza en co gebruikten verschillende benaderingen van machine learning om te bepalen hoe deze factoren correleren met het classificatielabel. En nadat ze deze correlatie hadden ontdekt, testten ze het algoritme om te zien hoe goed het kon voorspellen of een bepaalde kabel geclassificeerd was of niet.
De resultaten zorgen voor interessante lectuur. Souza en co zeggen dat het bericht zelf de beste indicatie is of een kabel geclassificeerd is. Van alle kenmerken was de relatieve frequentie van verschillende woorden in het lichaam het nuttigst bij het identificeren van gevoelige informatie, zeggen ze. De gegevens van de afzender en de ontvanger zijn ook een goede indicator van het gevoeligheidsniveau, maar kunnen ertoe leiden dat het algoritme veel kabels classificeert die niet werden geclassificeerd als kabels die dat wel waren. Met andere woorden, dit leidt tot een hoog percentage valse positieven.
Wanneer het machine learning-algoritme de verschillende soorten metadata in zijn beslissingen combineert, kan het zo'n 90 procent van de kabels opsporen die geclassificeerd zijn, met een fout-positief percentage van slechts 11 procent. En Souza en co zeggen dat het beter zou moeten kunnen als er nog gerubriceerde kabels worden meegenomen.
Valse positieven en valse negatieven zijn zelf interessant. Dit zijn kabels waarvan de machine voorspelde dat ze geclassificeerd zouden worden, maar niet waren en vice versa. In veel gevallen onthulde de machine kabels die door mensen verkeerd waren geclassificeerd. Een voorbeeld is een kabel over de gevoeligheid van de Japanse regering over Amerikaanse inspecties van haar nucleaire faciliteiten. Deze kabel was niet geclassificeerd, maar had dat wel moeten zijn, aangezien uit de tekst blijkt dat het oorspronkelijk vertrouwelijk was, zeggen de onderzoekers.
Een beperking van de gegevens is dat veel kabels verloren zijn gegaan, ogenschijnlijk vanwege problemen om ze in een elektronisch formaat om te zetten. Misschien wel het meest interessante aspect van dit werk is dat het suggereert dat deze berichten om andere redenen zijn verdwenen.
Een aanwijzing is de snelheid waarmee de berichten verdwenen, die verschillen voor geclassificeerde en niet-geclassificeerde kabels. Elektronische berichten die als 'geheim' zijn geclassificeerd, liepen meer dan drie keer meer kans om te worden vermist dan niet-geclassificeerde berichten en berichten voor beperkt officieel gebruik, zeggen Souza en co.
Bovendien blijven de metadata die bij de kabels horen vaak nog bestaan als het elektronische bericht verloren is gegaan. Hoe dit heeft kunnen gebeuren is een raadsel.
Als de berichten verloren zouden gaan wanneer ze van het ene formaat naar het andere werden geconverteerd, zouden ze hoogstwaarschijnlijk verloren gaan wanneer het ministerie van Buitenlandse Zaken zijn nieuwe gegevensopslagsysteem instelde. Het is opmerkelijk dat de meeste van deze [ontbrekende] kabels niet dateren van de datum waarop het ministerie van Buitenlandse Zaken het systeem voor het eerst instelde, terwijl je zou verwachten dat het probleemoplossing zou zijn geweest voor manieren om op betrouwbare wijze gegevens over te dragen tussen verschillende hardware- en softwareplatforms, aldus het team.
Het werk heeft belangrijke implicaties voor de balans tussen transparantie en geheimhouding. Machines kunnen duidelijk helpen om de praktijk van het classificeren van gegevens te monitoren. Maar dat kunnen ze gemiddeld niet beter dan de databases waaruit ze leren. Als deze fouten bevatten, zoals de kabels van het ministerie van Buitenlandse Zaken duidelijk doen, zullen de machines onvermijdelijk verlamd raken.
Maar een interessante vraag is of de gegevens die dit soort machine learning onthult zelf geclassificeerd moeten worden als het gedragspatronen aan het licht brengt die schadelijk kunnen zijn voor het nationaal belang. De snelheid waarmee vertrouwelijke informatie ten onrechte als niet-geclassificeerd wordt bestempeld, kan bijvoorbeeld nuttig zijn voor een buitenlandse mogendheid die probeert geheime informatie te verzamelen via niet-geclassificeerde kabels.
Er is duidelijk meer werk aan de winkel. Souza en co zeggen dat ondanks de enorme uitgaven van het ministerie van Buitenlandse Zaken voor het beschermen van gerubriceerde informatie, er weinig of geen gepubliceerd onderzoek is naar de consistentie van classificatie. Evenmin is er veel begrip van hoeveel dit soort machine learning kan onthullen.
Misschien wordt al dit werk achter gesloten deuren gedaan. Aan de andere kant misschien ook niet.
Referentie: arxiv.org/abs/1611.00356 : Kunstmatige intelligentie gebruiken om staatsgeheimen te identificeren