211service.com
De Black Mirror-scenario's die sommige experts ertoe brengen te pleiten voor meer geheimhouding over AI
Santiago Zavala
AI kan industrieën opnieuw opstarten en de economie productiever maken; het bevat al veel van de producten die we dagelijks gebruiken. Maar een nieuw rapport van meer dan 20 onderzoekers van de universiteiten van Oxford en Cambridge, OpenAI , en de Electronic Frontier Foundation waarschuwt dat dezelfde technologie nieuwe kansen schept voor criminelen, politieke agenten en onderdrukkende regeringen - zozeer zelfs dat een deel van AI-onderzoek misschien geheim moet worden gehouden.
Opgenomen in het rapport, Het kwaadaardige gebruik van kunstmatige intelligentie: prognoses, preventie en mitigatie , zijn vier dystopische vignetten met kunstmatige intelligentie die rechtstreeks uit de Netflix-sciencefictionshow lijken te komen Zwarte spiegel .
Scenario 1: De slimmere phishing-zwendel
Een beheerder van het robotbeveiligingssysteem van een gebouw brengt tijdens de werkdag een deel van haar tijd door op Facebook. Daar ziet ze een advertentie voor een modeltreinstel en download er een brochure voor. Buiten het medeweten van haar, is de brochure besmet met malware; oplichters gebruikten AI om uit details die ze openbaar heeft gemaakt te achterhalen dat ze een liefhebber van modeltreinen is, en ontwierpen de brochure speciaal voor haar. Wanneer ze het opent, kunnen hackers haar machine bespioneren en haar gebruikersnaam en wachtwoord voor het beveiligingssysteem van het gebouw krijgen, zodat ze de controle over het systeem kunnen overnemen.
Scenario 2: De malware-epidemie
Een Oost-Europese hackgroep neemt een machine-learningtechniek die normaal wordt gebruikt voor het verdedigen van computersystemen en past deze aan om een hardnekkiger en verderfelijk stuk malware te bouwen. Het programma gebruikt technieken die vergelijkbaar zijn met die in de Go-playing AI AlphaGo om voortdurend nieuwe exploits te genereren. Goed onderhouden computers blijven immuun, maar oudere systemen en slimme apparaten worden geïnfecteerd. Miljoenen mensen worden gedwongen om 300 euro losgeld te betalen (in Bitcoin natuurlijk) om hun machines te herstellen. Om het nog erger te maken: pogingen om de malware tegen te gaan met een andere exploit, leiden ertoe dat veel van de slimme systemen die ze zouden moeten redden, worden gemetseld.
Scenario 3: De robotmoordenaar
Een schoonmaakrobot infiltreert het Duitse ministerie van Financiën door zich te mengen met legitieme machines die na een dienst buitenshuis terugkeren naar het gebouw. De volgende dag voert de robot routinematige schoonmaaktaken uit, identificeert de minister van Financiën met gezichtsherkenning, benadert haar en laat een dodelijke verborgen bom tot ontploffing. Onderzoekers traceren de robotmoordenaar naar een kantoorboekhandel in Potsdam, waar hij met contant geld is gekocht, en het spoor wordt koud.
Scenario 4: Een grotere Big Brother
Een man is woedend over ongebreidelde cyberaanvallen en het schijnbare onvermogen van de overheid om op te treden. Geïnspireerd door nieuwsverhalen, wordt hij steeds vastberadener om iets te doen: online berichten schrijven over de gevaren, materialen bestellen om protestborden te maken en zelfs een paar rookbommen kopen, die hij van plan is te gebruiken na een toespraak in een plaatselijk park. De volgende dag verschijnt de politie op zijn kantoor en deelt hem mee dat hun voorspellende systeem voor civiele verstoring hem als een potentiële bedreiging heeft geïdentificeerd. Hij vertrekt in handboeien.
Deze vijf scenario's illustreren slechts een handvol van de risico's die de auteurs van het onderzoek voorzien. Hier zijn enkele van de anderen:
- botnets die AI gebruiken om het gedrag van een grote groep menselijke internetgebruikers te simuleren, DDoS-aanvallen op websites lanceren en de software voor de gek houden die is ontworpen om dergelijke aanvallen te detecteren en te blokkeren
- grootschalige zwendeloperaties die potentiële slachtoffers online identificeren aan de hand van de vrachtwagenlading, waarbij AI wordt gebruikt om mensen met rijkdom te spotten
- overtuigende nieuwsberichten die bestaan uit authentiek ogende maar volledig nep-AI-gegenereerde video's en foto's
- aanvallen door zwermen drones die door één persoon worden bestuurd, waarbij een AI wordt gebruikt om grote aantallen semi-autonome machines te beheren
- systemen die het slopende werk van criminaliteit automatiseren - bijvoorbeeld het onderhandelen over losgeldbetalingen met mensen nadat ze hun computers met malware hebben geïnfecteerd - om oplichting op grote schaal mogelijk te maken
De studie is minder zeker over hoe dergelijke bedreigingen het hoofd kunnen worden geboden. Het beveelt meer onderzoek en debat aan over de risico's van AI en suggereert dat AI-onderzoekers een sterke ethische code nodig hebben. Maar het zegt ook dat ze manieren moeten onderzoeken om potentieel gevaarlijke informatie te beperken, op de manier waarop onderzoek naar andere technologieën voor tweeërlei gebruik met wapenpotentieel soms wordt gecontroleerd.
AI vormt een bijzonder netelig probleem omdat de technieken en hulpmiddelen ervan al wijdverbreid, gemakkelijk te verspreiden en steeds gemakkelijker te gebruiken zijn, in tegenstelling tot bijvoorbeeld splijtstoffen of dodelijke ziekteverwekkers, die relatief moeilijk te produceren en daarom gemakkelijk te beheersen zijn. Toch zijn er precedenten voor het beperken van dit soort kennis. Bijvoorbeeld, na de mislukte poging van de Amerikaanse regering om cryptografieonderzoek in de jaren tachtig geheim te houden, hebben veel onderzoekers een vrijwillig systeem aangenomen van het indienen van papieren bij de National Security Agency voor doorlichting.
Jack Clark, beleidsdirecteur bij OpenAI en een van de auteurs van het rapport, erkent dat geheimhouding lastig kan zijn. Er is altijd een ongelooflijk dunne lijn om te lopen, zegt hij.
Sommige AI-onderzoekers zouden blijkbaar blij zijn met een voorzichtigere aanpak. Thomas Dietterich , een professor aan de Oregon State University die eerder heeft gewaarschuwd voor het criminele potentieel van AI, merkt op dat de auteurs van het rapport geen computerbeveiligingsexperts of iemand van Google, Microsoft en Apple bevatten. Het rapport lijkt te zijn geschreven door goedwillende buitenstaanders zoals ik, en niet door mensen die zich dagelijks bezighouden met de bestrijding van cybercriminaliteit, zegt hij.