211service.com
Zullen machines ons elimineren?
Mensen die zich zorgen maken dat we op koers liggen om gevaarlijk intelligente machines uit te vinden, begrijpen de staat van de informatica niet. 29 januari 2016
Yoshua Bengio leidt een van 's werelds meest vooraanstaande onderzoeksgroepen die een krachtige AI-techniek ontwikkelen die bekend staat als deep learning. De verbazingwekkende mogelijkheden die deep learning computers de afgelopen jaren heeft gegeven, van spraakherkenning en beeldclassificatie op menselijk niveau tot elementaire gespreksvaardigheden, hebben geleid tot waarschuwingen over de vooruitgang die AI boekt in de richting van het evenaren of misschien overtreffen van menselijke intelligentie. Prominente figuren als Stephen Hawking en Elon Musk hebben zelfs gewaarschuwd dat kunstmatige intelligentie een existentiële bedreiging voor de mensheid kan vormen. Musk en anderen investeren miljoenen dollars in onderzoek naar de potentiële gevaren van AI, evenals mogelijke oplossingen. Maar de meest ernstige uitspraken klinken overdreven voor veel van de mensen die de technologie daadwerkelijk ontwikkelen. Bengio, een professor in computerwetenschappen aan de Universiteit van Montreal, relativeerde de zaken in een interview met MIT Technology Review ’s senior editor voor AI en robotica, Will Knight.
Moeten we ons zorgen maken over hoe snel kunstmatige intelligentie vordert?
Dit verhaal maakte deel uit van ons nummer van maart 2016
- Zie de rest van het nummer
- Abonneren
Er zijn mensen die de geboekte vooruitgang schromelijk overschatten. Er zijn vele, vele jaren van kleine vooruitgang achter veel van deze dingen, inclusief alledaagse dingen zoals meer data en computerkracht. De hype gaat niet over de vraag of de dingen die we doen nuttig zijn of niet - dat is het wel. Maar mensen onderschatten hoeveel meer wetenschap nodig is. En het is moeilijk om de hype van de realiteit te scheiden, omdat we deze geweldige dingen zien en ook, met het blote oog, zien ze er magisch uit.
Bestaat er een risico dat AI-onderzoekers per ongeluk de demon ontketenen, zoals Musk het uitdrukte?
Het is niet alsof iemand plotseling een magisch recept heeft gevonden. Dingen zijn veel ingewikkelder dan het eenvoudige verhaal dat sommige mensen zouden willen vertellen. Journalisten willen soms het verhaal vertellen dat iemand in hun garage dit geweldige idee heeft, en dan hebben we een doorbraak en hebben we AI. Evenzo willen bedrijven een leuk verhaaltje vertellen dat Oh, we hebben deze revolutionaire technologie die de wereld gaat veranderen - AI is er bijna, en wij zijn het bedrijf dat het gaat leveren. Dat is helemaal niet hoe het werkt.
We missen iets groots. We hebben behoorlijk snelle vooruitgang geboekt, maar het is nog steeds niet op het niveau waarvan we zouden zeggen dat de machine het begrijpt. Daar zijn we nog ver van verwijderd.
Hoe zit het met het idee, dat centraal staat in deze zorgen, dat AI op de een of andere manier zou kunnen beginnen zichzelf te verbeteren en dan moeilijk te controleren wordt?
Het is niet hoe AI tegenwoordig is gebouwd. Machine learning betekent dat je een moeizaam, langzaam proces hebt om informatie te verkrijgen door middel van miljoenen voorbeelden. Een machine verbetert zichzelf, ja, maar heel, heel langzaam en op zeer gespecialiseerde manieren. En het soort algoritmen waarmee we spelen, zijn helemaal niet zoals kleine virusdingen die zichzelf programmeren. Dat is niet wat we doen.
Wat zijn enkele van de grote onopgeloste problemen met AI?
Ongesuperviseerd leren is echt heel belangrijk. De manier waarop we machines nu leren intelligent te zijn, is dat we de computer moeten vertellen wat een afbeelding is, zelfs op pixelniveau. Voor autonoom rijden labelen mensen enorme aantallen afbeeldingen van auto's om te laten zien welke delen voetgangers of wegen zijn. Het is helemaal niet hoe mensen leren, en het is niet hoe dieren leren. We missen iets groots. Dit is een van de belangrijkste dingen die we in mijn lab doen, maar er zijn geen kortetermijntoepassingen - het zal waarschijnlijk niet nuttig zijn om morgen een product te bouwen.
Een andere grote uitdaging is het begrijpen van natuurlijke taal. We hebben de afgelopen jaren behoorlijk snelle vooruitgang geboekt, dus het is erg bemoedigend. Maar het is nog steeds niet op het niveau waarvan we zouden zeggen dat de machine het begrijpt. Dat zou zijn wanneer we een paragraaf zouden kunnen lezen en er dan een vraag over zouden kunnen stellen, en de machine zou in principe op een redelijke manier antwoorden, zoals een mens zou doen. Daar zijn we nog ver van verwijderd.
Welke benaderingen naast deep learning zijn nodig om echte machine-intelligentie te creëren?
Traditionele inspanningen, inclusief redeneren en logica - we moeten deze dingen combineren met diepgaand leren om richting AI te gaan. Ik ben een van de weinige mensen die vindt dat machine learning-mensen, en vooral deep learning-mensen, meer aandacht zouden moeten besteden aan neurowetenschap. Hersenen werken, en in veel opzichten weten we nog steeds niet waarom. Het verbeteren van dat begrip heeft een groot potentieel om AI-onderzoek te helpen.
En ik denk dat neurowetenschappelijke mensen er veel aan zouden hebben om bij te houden wat we doen en te proberen wat ze waarnemen van de hersenen in overeenstemming te brengen met het soort concepten dat we ontwikkelen op het gebied van machine learning.
Heb je ooit gedacht dat je mensen zou moeten uitleggen dat AI niet op het punt staat de wereld over te nemen? Dat moet vreemd zijn.
Het is zeker een nieuwe zorg. AI is al zoveel jaren een teleurstelling. Als onderzoekers vechten we om de machine iets intelligenter te maken, maar ze zijn nog steeds zo dom. Vroeger dacht ik dat we het veld geen kunstmatige intelligentie moesten noemen, maar kunstmatige domheid. Echt, onze machines zijn dom, en we proberen ze gewoon minder dom te maken.
Nu, vanwege deze vooruitgang die mensen kunnen zien met demo's, kunnen we nu zeggen: Oh, god, het kan dingen in het Engels zeggen, het kan de inhoud van een afbeelding begrijpen. Welnu, nu verbinden we deze dingen met alle sciencefiction die we hebben gezien en het is als, Oh, ik ben bang!
Oké, maar het is zeker nog steeds belangrijk om nu na te denken over de uiteindelijke gevolgen van AI.
Absoluut. We zouden het over deze dingen moeten hebben. Waar ik me meer zorgen over maak, in een nabije toekomst, is niet dat computers de wereld overnemen. Ik maak me meer zorgen over misbruik van AI. Dingen zoals slecht militair gebruik, mensen manipuleren door echt slimme advertenties; ook de sociale impact, zoals veel mensen die hun baan verliezen. De samenleving moet de handen ineenslaan en met een collectief antwoord komen, en het niet aan de wet van de jungle overlaten om dingen op te lossen.