211service.com
Hoe een kwaadaardige kunstmatige intelligentie te creëren?
De mogelijkheid dat een kwaadwillende kunstmatige intelligentie een ernstige bedreiging voor de mensheid zou kunnen vormen, is een fel bediscussieerd onderwerp geworden. Verschillende vooraanstaande personen, van de natuurkundige Stephen Hawking tot de tech-ondernemer Elon Musk, hebben gewaarschuwd voor het gevaar.
Dat is de reden waarom het gebied van kunstmatige intelligentie veiligheid in opkomst is als een belangrijke discipline. Computerwetenschappers zijn begonnen met het analyseren van de onbedoelde gevolgen van slecht ontworpen AI-systemen, van AI-systemen die zijn gemaakt met gebrekkige ethische kaders of systemen die geen menselijke waarden delen.
Maar er is een belangrijke omissie op dit gebied, zeggen de onafhankelijke onderzoekers Federico Pistono en Roman Yampolskiy van de University of Louisville in Kentucky. Er is, voor zover wij weten, niets gepubliceerd over het ontwerpen van een kwaadaardige machine, zeggen ze.
Dat is een groot probleem, want computerbeveiligingsspecialisten moeten het beest waar ze tegenover staan begrijpen voordat ze kunnen hopen het te verslaan.
Tegenwoordig proberen Pistono en Yampolskiy dat recht te zetten, althans gedeeltelijk, en het belangrijkste punt dat ze maken is dat een kwaadaardige AI hoogstwaarschijnlijk alleen in bepaalde omgevingen opduikt. Dus hebben ze de voorwaarden uiteengezet waaronder een kwaadaardig AI-systeem zou kunnen ontstaan. En hun conclusies zullen voor een of twee bedrijven ongemakkelijke lectuur opleveren.
Dus welke waarschuwingssignalen geven aan dat het mogelijk is om aan een kwaadaardig AI-systeem te werken? Pistono en Yampolskiy zeggen dat er waarschijnlijk duidelijke tekenen zullen zijn.
Een van de meest voor de hand liggende zou het ontbreken van toezichtsraden zijn bij de ontwikkeling van AI-systemen. Als een groep besluit een kwaadaardige kunstmatige intelligentie te creëren, volgt daaruit dat het voorkomen van het ontstaan van een wereldwijde commissie van toezicht de kans op slagen zou vergroten, zeggen ze.
Zo'n groep doet dit door het belang van zijn werk en de gevaren die het met zich meebrengt te bagatelliseren en zelfs door verwarrende informatie te verspreiden. De strategie is om tegenstrijdige informatie te verspreiden die twijfel zou zaaien in de verbeelding van het publiek over de gevaren en kansen van onderzoek naar kunstmatige intelligentie, zeggen ze.
Een ander belangrijk teken zou het bestaan van closed-source code achter het kunstmatige-intelligentiesysteem zijn. Het is algemeen bekend onder experts op het gebied van cryptografie en computerbeveiliging dat closed-source software en algoritmen minder veilig zijn dan hun gratis en open-source tegenhanger, zeggen Pistono en Yampolskiy. Alleen al het bestaan van niet-vrije software en hardware brengt de mensheid in gevaar.
In plaats daarvan zeggen ze dat kunstmatige intelligentie kan worden ontwikkeld met behulp van open-source software, hoewel het onduidelijk is of dit veiliger zou zijn. Het open-sourceproces stelt meer mensen in staat om fouten te zoeken en op te lossen. Maar het geeft ook toegang tot criminelen, terroristen en dergelijke, die de software voor snode doeleinden zouden kunnen gebruiken.
Op beide manieren wordt momenteel kunstmatige intelligentie ontwikkeld.
De closed-source systemen hebben veel gepubliceerde successen gehad. Het AI-systeem van Google zegevierde onlangs over de mensheid in bijvoorbeeld het eeuwenoude spel Go. Facebook heeft ook een spraakmakende AI-onderzoeksgroep, zij het een die publiekelijk minder succesvol is geweest.
Geen van beide bedrijven is duidelijk geweest over de manier waarop hun onderzoek wordt beheerd. De DeepMind-dochteronderneming van Google zegt bijvoorbeeld dat het een AI-ethiekraad heeft, maar heeft consequent geweigerd te onthullen wie erin zit. Facebook zegt alleen dat de angst voor AI overdreven is.
De ontwikkeling van open source kunstmatige intelligentie is minder ver gevorderd. Maar de laatste tijd begint het momentum te krijgen, in ieder geval gedeeltelijk gedreven door de angst voor commerciële rivalen.
Het hoogste profiel van deze inspanningen is OpenAI, een non-profitorganisatie voor kunstmatige intelligentie die in 2015 is gestart met als doel digitale intelligentie te bevorderen op de manier die de mensheid als geheel waarschijnlijk ten goede komt, niet beperkt door de noodzaak om financieel rendement te genereren.
Het wordt ondersteund door toezeggingen van maximaal $ 1 miljard aan financiering van onder meer de tech-ondernemer Elon Musk, die herhaaldelijk heeft gewaarschuwd voor de gevaren van AI. (Musk financierde ook gedeeltelijk het werk van een van de auteurs van deze studie, Roman Yampolskiy.)
Of OpenAI de kans op het ontstaan van een kwaadaardig AI-systeem zal vergroten of verkleinen, is niet duidelijk. Maar het doel is in ieder geval om ervoor te zorgen dat wat er ook gebeurt, volledig in het openbaar gebeurt.
Een tekortkoming bij dit alles is dat de praktijk van cybersecurity voor AI-systemen veel minder goed ontwikkeld is dan voor gewone software.
Computerbeveiligingsexperts erkennen al lang dat kwaadaardige software een grote bedreiging vormt voor de moderne samenleving. Veel veiligheidskritieke toepassingen - kerncentrales, luchtverkeersleiding, levensondersteunende systemen, enzovoort - zijn niet veel meer dan een ernstige ontwerpfout, ver weg van een ramp. De situatie wordt nog verergerd door de ontwerpers van opzettelijk schadelijke software - virussen, trojans en dergelijke - die deze fouten opsporen en exploiteren.
Om dit tegen te gaan, hebben beveiligingsexperts een krachtig ecosysteem ontwikkeld dat gebreken identificeert en verhelpt voordat ze kunnen worden uitgebuit. Ze bestuderen schadelijke software en zoeken naar manieren om deze te neutraliseren.
Ze hebben ook een communicatiesysteem om deze informatie binnen hun gemeenschap te verspreiden, maar niet daarbuiten. Hierdoor kunnen eventuele gebreken snel worden gecorrigeerd voordat de kennis ervan zich verspreidt.
Maar een soortgelijk systeem werkt nog niet goed in de wereld van AI-onderzoek.
Dat maakt misschien niet uit, terwijl AI-systemen relatief goedaardig zijn. De meeste hedendaagse AI zijn gericht op onderwerpen als natuurlijke taalverwerking, objectherkenning en taken zoals autorijden.
Maar gezien het tempo van de ontwikkeling in de afgelopen jaren, zal dit waarschijnlijk snel veranderen. Een belangrijke vraag is hoe mensen een kwaadaardige kunstmatige intelligentie kunnen bestrijden die ernstige gevolgen kan hebben voor de mensheid. Het is een vraag die het waard is om nu in detail te overwegen.
Referentie: arxiv.org/abs/1605.02817 : Onethisch onderzoek: hoe een kwaadaardige kunstmatige intelligentie te creëren