211service.com
Een van de grondleggers van AI maakt zich zorgen over zijn toekomst
Foto van Yoshua Bengio Polytechnische School | Flickr
Yoshua Bengio is een grootmeester van de moderne kunstmatige intelligentie.
naast Geoff Hinton en Yann LeCun , staat Bengio bekend om zijn voorstander van een techniek die bekend staat als deep learning en die de afgelopen jaren is veranderd van een academische nieuwsgierigheid naar een van de krachtigste technologieën ter wereld.
Deep learning houdt in dat gegevens worden ingevoerd in grote neurale netwerken die het menselijk brein ruwweg simuleren, en het is ongelooflijk krachtig en effectief gebleken voor allerlei praktische taken, van spraakherkenning en beeldclassificatie tot het besturen van zelfrijdende auto's en het automatiseren van zakelijke beslissingen.
Bengio heeft de verleiding van elk groot technologiebedrijf weerstaan. Terwijl Hinton en LeCun respectievelijk bij Google en Facebook kwamen werken, blijft hij een voltijdse professor aan de Universiteit van Montreal. (Hij was echter wel mede-oprichter van Element AI in 2016, en het heeft een zeer succesvol bedrijf opgebouwd dat grote bedrijven helpt bij het verkennen van de commerciële toepassingen van AI-onderzoek.)
Bengio ontmoette onlangs Will Knight, de senior redacteur van MIT Technology Review voor AI, tijdens een MIT-evenement.
Wat vind je van het idee dat er een AI-race is tussen verschillende landen?
ik vind het niet leuk. Ik denk niet dat het de juiste manier is om het te doen.
We zouden collectief kunnen deelnemen aan een race, maar als wetenschapper en iemand die wil nadenken over het algemeen belang, denk ik dat we beter af zijn om na te denken over hoe we zowel slimmere machines kunnen bouwen als ervoor zorgen dat AI wordt gebruikt voor het welzijn van zoveel mogelijk mensen.
Zijn er manieren om meer samenwerking tussen landen te bevorderen?
We kunnen het makkelijker maken voor mensen uit ontwikkelingslanden om hier te komen. Het is op dit moment een groot probleem. In Europa of de VS of Canada is het voor een Afrikaanse onderzoeker erg moeilijk om een visum te krijgen. Het is een loterij en heel vaak gebruiken ze elk excuus om de toegang te weigeren. Dit is totaal onterecht. Het is al moeilijk voor hen om met weinig middelen onderzoek te doen, maar bovendien, als ze geen toegang hebben tot de gemeenschap, vind ik dat echt oneerlijk. Om dat tegen te gaan, houden we in 2020 de ICLR-conferentie [een grote AI-conferentie] in Afrika.
Inclusiviteit moet meer zijn dan een woord dat we zeggen om er goed uit te zien. Het potentieel voor AI om nuttig te zijn in de derde wereld is zelfs nog groter. Ze moeten de technologie nog meer verbeteren dan wij, en ze hebben andere behoeften.
Maakt u zich zorgen over slechts een paar AI-bedrijven, in het Westen en misschien China, die het veld van AI domineren?
Ja, het is nog een reden waarom we meer democratie moeten hebben in AI-onderzoek. Het is dat AI-onderzoek op zichzelf zal leiden tot concentraties van macht, geld en onderzoekers. De beste studenten willen naar de beste bedrijven. Ze hebben veel meer geld, ze hebben veel meer data. En dit is niet gezond. Zelfs in een democratie is het gevaarlijk om te veel macht in een paar handen te hebben.
Er is veel controverse geweest over militair gebruik van AI. Waar sta je daarbij?
Ik sta er heel stevig tegen.
Zelfs niet-dodelijk gebruik van AI?
Nou, dat wil ik niet voorkomen. Ik denk dat we het immoreel moeten maken om moordende robots te hebben. We moeten de cultuur veranderen, en daar horen ook wetten en verdragen bij. Dat kan heel ver gaan.
Natuurlijk zul je het nooit helemaal voorkomen, en mensen zeggen: een of ander schurkenland zal deze dingen ontwikkelen. Mijn antwoord is dat één, we willen dat ze zich schuldig voelen omdat ze het doen, en twee, er is niets dat ons ervan weerhoudt om defensieve technologie te bouwen. Er is een groot verschil tussen defensieve wapens die drones doden en offensieve wapens die op mensen zijn gericht. Beiden kunnen AI gebruiken.
Moeten AI-experts niet samenwerken met het leger om ervoor te zorgen dat dit gebeurt?
Als ze de juiste morele waarden hadden, prima. Maar ik vertrouw militaire organisaties niet helemaal, omdat ze de neiging hebben om plicht boven moraliteit te stellen. Ik wou dat het anders was.
Waar ben je het meest enthousiast over als het gaat om nieuw AI-onderzoek?
Ik denk dat we rekening moeten houden met de harde uitdagingen van AI en niet tevreden moeten zijn met kortetermijnvooruitgangen. Ik zeg niet dat ik deep learning wil vergeten. Integendeel, ik wil erop voortbouwen. Maar we moeten het kunnen uitbreiden om dingen te doen zoals redeneren, causaliteit leren en de wereld verkennen om te leren en informatie te verwerven.
Als we AI op menselijk niveau echt willen benaderen, is het een ander balspel. We hebben langetermijninvesteringen nodig en ik denk dat de academische wereld de beste plaats is om die fakkel te dragen.
U noemt causaliteit, met andere woorden, niet alleen patronen in gegevens begrijpen, maar waarom Er gebeurt iets. Waarom is dat belangrijk en waarom is het zo moeilijk?
Als je een goed causaal model hebt van de wereld waarmee je te maken hebt, kun je zelfs in onbekende situaties generaliseren. Dat is cruciaal. Wij mensen zijn in staat om onszelf in situaties te projecteren die heel anders zijn dan onze dagelijkse ervaring. Machines zijn dat niet, omdat ze deze causale modellen niet hebben.
We kunnen ze met de hand maken, maar dat is niet genoeg. We hebben machines nodig die causale modellen kunnen ontdekken. Tot op zekere hoogte zal het nooit perfect zijn. We hebben geen perfect causaal model van de werkelijkheid; daarom maken we veel fouten. Maar daar zijn we veel beter in dan andere dieren.
Op dit moment hebben we hier niet echt goede algoritmen voor, maar ik denk dat als genoeg mensen eraan werken en het belangrijk vinden, we vooruitgang zullen boeken.