211service.com
Google wordt praktisch over de gevaren van AI
Kunnen machines zo intelligent en krachtig worden dat ze een bedreiging vormen voor het menselijk leven, of zelfs voor de mensheid als geheel?
Het is een vraag die de afgelopen jaren in sommige delen van Silicon Valley in de mode is geraakt, ondanks dat het min of meer onverenigbaar is met de eenvoudige robots en glitchy virtuele assistenten van vandaag (zie AI Doomsayer Says His Ideas Are Catching On). Sommige experts op het gebied van kunstmatige intelligentie zijn van mening dat speculatie over de gevaren van toekomstige, superintelligente software het veld schaadt.
Nu probeert Google, een bedrijf dat zwaar investeert in kunstmatige intelligentie, een middenweg te vinden. EEN nieuw papier die vandaag is vrijgegeven, beschrijft vijf problemen die onderzoekers zouden moeten onderzoeken om toekomstige slimme software veiliger te maken. In een blogpost op het papier zegt Google-onderzoeker Chris Olah dat ze laten zien hoe het debat over AI-veiligheid concreter en productiever kan worden gemaakt.
De meeste eerdere discussies waren erg hypothetisch en speculatief, schrijft hij. We zijn van mening dat het essentieel is om zorgen te onderbouwen in echt onderzoek naar machine learning en om praktische benaderingen te ontwikkelen voor het ontwerpen van AI-systemen die veilig en betrouwbaar werken.
Olah gebruikt een schoonmaakrobot om enkele van zijn vijf punten te illustreren. Een punt van zorg is om te voorkomen dat systemen hun doelstellingen bereiken door vals te spelen. De schoonmaakrobot zou bijvoorbeeld kunnen ontdekken dat hij zijn programmering om vlekken op te ruimen kan bevredigen door ze te verbergen in plaats van ze daadwerkelijk te verwijderen.
Een ander probleem is hoe robots nieuwe omgevingen veilig kunnen verkennen. Een schoonmaakrobot moet bijvoorbeeld kunnen experimenteren met nieuwe manieren om schoonmaakgereedschap te gebruiken, maar niet met een natte dweil op een stopcontact.
Olah beschrijft de vijf problemen in een nieuw artikel, geschreven in samenwerking met Google-collega Dario Amodei, met bijdragen van anderen van Google, Stanford University, University of California, Berkeley en OpenAI, een onderzoeksinstituut dat mede is opgericht en gedeeltelijk wordt gefinancierd door Tesla CEO en serieel ondernemer Elon Muskus.
Musk, die het werken aan kunstmatige intelligentie ooit vergeleek met het oproepen van de demon, maakte van het creëren van veilige AI een van de basisdoelen van OpenAI (zie Wat is er nodig om een deugdzame AI te bouwen? ).
Google heeft ook gesproken over een toezegging om ervoor te zorgen dat kunstmatige-intelligentiesoftware geen onbedoelde gevolgen heeft. De bedrijven eerste onderzoekspaper over het onderwerp werd deze maand vrijgegeven door de DeepMind-groep in Londen. De leider van DeepMind, Demis Hassabis, heeft ook een ethische raad bijeengeroepen om de mogelijke nadelen van AI te overwegen, hoewel de leden niet zijn bekendgemaakt (zie Hoe Google plannen maakt om kunstmatige intelligentie op te lossen).
Oren Etzioni, CEO van de Allen Instituut voor AI , verwelkomt de aanpak die wordt beschreven in het nieuwe artikel van Google. Hij heeft eerder kritiek geuit op discussies over de gevaren van AI omdat ze te vaag zijn voor wetenschappers of ingenieurs om productief te zijn. Maar de scenario's van Google zijn specifiek genoeg om echt onderzoek mogelijk te maken, ook al is het nog steeds onduidelijk of dergelijke experimenten praktisch nuttig zullen zijn, zegt hij.
Het zijn de juiste mensen die de juiste vragen stellen, zegt Etzioni. Wat betreft de juiste antwoorden: de tijd zal het leren.