Cryptografen hebben een ethisch probleem

Vorige week bezocht ik de computerwetenschapsafdeling van het MIT op zoek naar een zeer beroemde cryptograaf. Terwijl ik me een weg baande door de wirwar van kantoren, zag ik een poster die aan de muur was geplakt - van het soort dat werd opgehangen om studenten te informeren of te inspireren. Het was de ethische code van de Association for Computing Machinery, 's werelds grootste beroepsvereniging van computerwetenschappers.

Codekraker: Een standbeeld van wiskundige Alan Turing die aan de Enigma Machine werkt.

De code is een lijst van 16 morele imperatieven. Twee items sprongen er meteen uit:

1.3 - Wees eerlijk en betrouwbaar.

1.7 - Respecteer de privacy van anderen.

Dit zette me aan het denken. Het lijkt erop dat de codekrakers bij de National Security Agency - en mogelijk de academici die hen vaak helpen - de gedragscode van hun eigen beroep duidelijk en dramatisch schenden.

In eerste instantie lijkt dit misschien kleine aardappelen. Volgens geheime documenten die zijn gelekt door een voormalige aannemer, Edward Snowden, heeft de NSA gegevens verzameld over de communicatie van alle Amerikanen en heeft ze ook veelgebruikte coderingsprotocollen verslagen zodat ze ze kunnen lezen (zie NSA-surveillance weerspiegelt een bredere interpretatie van de Patriot Act ).

Als, als een aanklacht , de NSA wetten heeft overtreden en de Amerikaanse grondwet heeft geschonden, dan heeft het criminele daden gepleegd die veel erger zijn dan het vertrappen van een vrijwillige gedragscode. Als alternatief, als u denkt dat het rondsnuffelen van de NSA gerechtvaardigd is om het land te verdedigen, wie geeft er dan eigenlijk om een ​​vroom klinkende ethische verklaring?

Maar het maakt wel uit. De reden is dat het bouwen van een atoombom, of het breken van het moeilijkste cijfer, iets is dat maar een paar experts kunnen. Experts staan ​​dus voor bijzondere morele dilemma's. Hoe ze ze oplossen, heeft precies te maken met een groepsgevoel voor ethiek, het soort dat wordt belichaamd door gedragscodes of credo's.

Ik vind dit echt interessant, zegt Bruce Schneier , een computerbeveiligingsexpert die toegang heeft gehad tot enkele Snowden-documenten en kritiek heeft geuit op de regering. NSA-medewerkers en hun zakelijke medewerkers overtreden die ethische code.

Moreel kompas: Een kopie van de ethische code van de Association of Computing Machinery wordt getoond bij MIT.

Eigenlijk zijn er ook veel academici bij betrokken, zij het minder direct. Dat komt omdat de discipline cryptografie al sterk gemilitariseerd is. Tegenwoordig besteedt de Amerikaanse regering $ 10,5 miljard per jaar aan inlichtingendiensten en heeft ze 30.000 mensen in dienst om het te doen, volgens door Snowden gelekte begrotingsdocumenten . Universitaire onderzoekers werken vaak samen. Ze nemen sabbaticals bij de NSA en krijgen financiering van het leger om aan interessante problemen te werken. Velen begonnen met overheidsprojecten.

Niet elke technische discipline loopt tegen dezelfde valkuilen aan en sommigen hebben andere keuzes gemaakt. Sommige vooraanstaande robotica-experts hebben me verteld dat ze totaal tegen het helpen bouwen van Terminator-achtige robots zijn (daarom hebben we er misschien nog geen gezien). En in Amerikaanse biologielaboratoria zou je moeilijk te vinden zijn iedereen het doen van onderzoek gericht op het schaden van een ander, terrorist of niet. Het staat gewoon niet op de agenda. (Een deel van de reden is dat president Richard Nixon het geheime Amerikaanse programma voor kiemoorlogvoering in 1969 onthulde en beëindigde.)

Eugene Spafford, uitvoerend directeur van het CERIAS-instituut aan de Purdue University en een functionaris van de ACM, waarschuwde me tegen het bereiken van simplistische ethische oordelen. Hij zei dat als een persoon computers hackt en berichten steelt om een ​​terroristische aanslag te voorkomen, dit niet noodzakelijk in strijd is met de code van de samenleving, die verschillende interpretaties mogelijk maakt.

De code zegt inderdaad dat elk ethisch principe in specifieke situaties in strijd kan zijn met andere ethische principes. Met andere woorden, ethiek is relatief. Dit is de logica die zegt dat een soldaat kan doden in een oorlog, ook al is hetzelfde doen in vredestijd een misdaad.

En dat is misschien de reden waarom cryptografen vage ethische lijnen zien. Het maken en breken van codes is altijd verbonden geweest met oorlog en diplomatie. Zo was Alan Turing, de briljante wiskundige naar wie de jaarlijkse hoofdprijs van de ACM is genoemd, betrokken bij het ontcijferen van het nazi-enigmacijfer tijdens de Tweede Wereldoorlog, waardoor de geallieerden Duitse communicatie konden lezen.

Toch is er sinds die tijd iets belangrijks veranderd. Vroeger gebruikten alleen diplomaten en spionnen gecodeerde berichten. Tegenwoordig doen we dat allemaal. Elke Gmail die u verzendt, is gecodeerd, net als Skype-oproepen. Daarom heeft de NSA er blijkbaar voor gezorgd dat het dat soort cryptografie kan doorbreken (zie NSA Leak Leaves Crypto-Math Intact but Highlights Known Workarounds ). Dit breken of verslaan van openbare encryptie is een nieuw moreel risico waarin de experts zijn beland. Omdat ze nu technologie inzetten om ons allemaal te bespioneren, kunnen ze de nationale veiligheid niet zo gemakkelijk als ethische troef inroepen.

Snowden, de NSA-klokkenluider die naar Rusland vluchtte (waar hij nog steeds is), heeft uitgelegd hoe hij zijn eigen morele beslissing heeft genomen om het publiek te vertellen over spionage die ons allemaal aangaat. Zijn publieke verklaring is het lezen waard. Snowden zegt dat hij ervoor koos gehoorzaamheid aan de Amerikaanse regering te overstijgen om universele regels van menselijk gedrag te gehoorzamen.

Ik weet niet precies welke ethische code Snowden volgt. De ACM weigerde mij uit respect voor privacy te vertellen of hij lid was.

zich verstoppen