211service.com
Doomsday-beurzen zullen belangrijk AI-onderzoek bevorderen
Zelfs als je niet bang bent voor de op handen zijnde opkomst van superintelligente machines, is er reden om nieuwe financiering voor onderzoek naar het onderwerp toe te juichen, omdat het zou kunnen helpen kunstmatige intelligentie op korte termijn praktischer te maken.
Recente vooruitgang in de informatica, met name machine learning, viel samen met een aantal opmerkelijk openhartige speculaties over waar kunstmatige intelligentie ons zou kunnen brengen. Vorig jaar waarschuwde miljardair-ondernemer Elon Musk openlijk dat AI-onderzoek het risico liep de demon op te roepen en de grootste existentiële bedreiging voor de mensheid zou kunnen vormen. Andere prominente figuren, waaronder Bill Gates en Stephen Hawking, hebben ook hun bezorgdheid geuit over de potentiële risico's van het ontwikkelen van echt intelligente machines.
De Instituut voor de toekomst van het leven , een organisatie opgericht in Cambridge, Massachusetts, om de potentiële existentiële risico's van AI te verminderen, deze week kondigde $ 7 miljoen aan subsidies aan voor projecten die gericht zijn op het robuust en nuttig houden van AI. De beurs werd grotendeels gefinancierd door Musk, die 10 miljoen dollar aan het instituut heeft gegeven.
Misschien is het logisch om dergelijke ongewenste uitkomsten in overweging te nemen, maar we zijn nog ver verwijderd van het creëren van iets dat we als echt intelligent kunnen beschouwen. Terwijl sommige van de 37 projecten die financiering van het Future of Life Institute ontvangen, vrij verre scenario's onderzoeken met extreem krachtige AI, richten andere zich op belangrijke inspanningen om software betrouwbaarder, verantwoordelijker en bruikbaarder te maken in complexe of dubbelzinnige contexten.
Bijvoorbeeld:
* Fuxin Li , een onderzoekswetenschapper bij Georgia Tech, zal manieren bestuderen om fouten in deep-learningsystemen te begrijpen en te voorspellen. Dit is een zeer waardevolle inspanning. Hoewel deze geavanceerde neurale netwerken de afgelopen jaren spectaculaire resultaten hebben opgeleverd op gebieden als beeld- en spraakherkenning, kunnen ze op verrassende manieren falen.
* Stefano Ermon , een assistent-professor aan de Stanford University, gaat onderzoeken hoe autonome agenten zich rationeel kunnen gedragen in complexe situaties. Uiteindelijk kan dit een geautomatiseerde auto bijvoorbeeld helpen om de risico's van verschillende acties in een complexe situatie af te wegen, zodat deze uiteindelijk kan handelen op een manier die wij verantwoordelijker en ethisch acceptabeler zouden vinden.
* Seth Kudde , een onderzoeker aan de Universiteit van Colorado, zal proberen neurowetenschappelijk onderzoek naar menselijke besluitvorming toe te passen op pogingen om computerhardware te bouwen met zogenaamde neuromorfe systemen, geïnspireerd door de hersenen. Dit kan belangrijke inzichten opleveren over het ontwerpen van deze systemen en wijzen op enkele nieuwe toepassingen.
* Manuela Veloso , een professor aan de Carnegie Mellon University, zal een poging leiden om manieren te ontwikkelen waarop machines hun gedrag aan mensen kunnen uitleggen. Zelfs voor experts kan het moeilijk zijn om te begrijpen waarom een machine zich op een onverwachte manier gedraagt. Het verbeteren van deze situatie zou vooral belangrijk kunnen zijn nu robots nauwer met mensen gaan samenwerken.
Ironisch genoeg laten deze onderzoeksprojecten ook zien hoe ver we verwijderd zijn van het bouwen van iets dat mogelijk de wereld zou kunnen overnemen. En hoewel het misschien logisch is om toekomstige risico's te overwegen nu er nog tijd genoeg is, laten we hopen dat bezorgdheid over futuristische scenario's geen risico vormt voor zinvolle technologische vooruitgang.