211service.com
Het Amerikaanse leger wil AI wat gezond verstand bijbrengen
HAMER: DAVID; TELEFOON: ANDRIWIDODO; BANAAN: BEN DAVIS | Het zelfstandig naamwoord-project
Overal waar kunstmatige intelligentie wordt ingezet, zul je merken dat het op een grappige manier heeft gefaald. neem de vreemde fouten gemaakt door vertaalalgoritmen die iemand voor het avondeten verwarren met, nou ja, iemand voor het avondeten hebben.
Maar aangezien AI wordt gebruikt in steeds kritiekere situaties, zoals het besturen van autonome auto's, het stellen van medische diagnoses of het trekken van conclusies over leven en dood uit inlichtingen, zullen deze mislukkingen niet langer een lachertje zijn. Dat is waarom DARPA , de onderzoeksafdeling van het Amerikaanse leger, pakt de meest fundamentele fout van AI aan: het heeft geen enkel gezond verstand.
Gezond verstand is de donkere materie van kunstmatige intelligentie, zegt Oren Etzioni, CEO van de Allen Instituut voor AI , een in Seattle gevestigde onderzoeksorganisatie zonder winstoogmerk die de grenzen van de technologie verkent. Het is een beetje onuitsprekelijk, maar je ziet de effecten ervan op alles.
DARPA's nieuwe Machine Common Sense (MCS)-programma zal een wedstrijd organiseren die AI-algoritmen vraagt om vragen als deze te begrijpen:
Een leerling zet twee identieke planten in dezelfde soort en hoeveelheid aarde. Ze geeft ze dezelfde hoeveelheid water. Ze zet een van deze planten bij een raam en de andere in een donkere kamer. De plant bij het raam zal meer (A) zuurstof (B) kooldioxide (C) water produceren.
Een computerprogramma heeft enig begrip nodig van de manier waarop fotosynthese werkt om de kwestie aan te pakken. Door simpelweg een machine veel eerdere vragen te geven, wordt het probleem niet betrouwbaar opgelost.
Deze benchmarks zullen zich richten op taal omdat het zo gemakkelijk machines kan laten struikelen en omdat het testen relatief eenvoudig maakt. Etzioni zegt dat de vragen een manier bieden om de vooruitgang in de richting van gezond verstand te meten, wat cruciaal zal zijn.
Techbedrijven zijn druk bezig met het commercialiseren van machine learning-technieken die krachtig maar fundamenteel beperkt zijn. Deep learning maakt het bijvoorbeeld mogelijk om woorden in spraak of objecten in beelden te herkennen, vaak met ongelooflijke nauwkeurigheid. Maar de aanpak is meestal gebaseerd op het invoeren van grote hoeveelheden gelabelde gegevens - een onbewerkt audiosignaal of de pixels in een afbeelding - in een groot neuraal netwerk. Het systeem kan leren belangrijke patronen te ontdekken, maar kan gemakkelijk fouten maken omdat het geen idee heeft van de wijdere wereld.
Daarentegen ontwikkelen menselijke baby's snel een intuïtief begrip van de wereld dat als basis dient voor hun intelligentie.
Het is echter verre van duidelijk hoe het probleem van het gezond verstand moet worden opgelost. Eerdere pogingen om machines te helpen de wereld te begrijpen, waren gericht op het handmatig bouwen van grote kennisdatabases. Dit is een onpraktische en in wezen oneindige taak. De meest bekende poging is: Cyc , een project dat al tientallen jaren in de maak is .
Het probleem kan enorm belangrijk blijken te zijn. Een gebrek aan gezond verstand is immers funest in bepaalde kritieke situaties en kan uiteindelijk kunstmatige intelligentie tegenhouden. DARPA heeft een geschiedenis van investeren in fundamenteel AI-onderzoek. Eerdere projecten hielpen de zelfrijdende auto's van vandaag voort te brengen, evenals de beroemdste spraakgestuurde persoonlijke assistent, Siri.
De afwezigheid van gezond verstand verhindert dat een intelligent systeem zijn wereld begrijpt, op natuurlijke wijze met mensen communiceert, zich redelijk gedraagt in onvoorziene situaties en leert van nieuwe ervaringen, zei Dave Gunning, een programmamanager bij DARPA, in een verklaring die vanmorgen werd uitgegeven. Deze afwezigheid is misschien wel de belangrijkste barrière tussen de eng gerichte AI-toepassingen die we vandaag hebben en de meer algemene AI-toepassingen die we in de toekomst zouden willen creëren.