211service.com
Marvin Minsky over gezond verstand en computers die emote
Topcomputerwetenschappers van over de hele wereld komen vandaag bijeen in Dartmouth College in Hanover, NH, om de 50e verjaardag van kunstmatige intelligentie te vieren. In 1956 bedacht John McCarthy, toen lid van de wiskundefaculteit van Dartmouth, de term voor de baanbrekende bijeenkomst van het veld, het Dartmouth Summer Research Project on Artificial Intelligence. McCarthy en vier andere deelnemers aan het 1956-project, waaronder MIT's Marvin Minsky, nemen deze week deel aan de bijeenkomst, die zich richt op AI's volgende 50 jaar .
Marvin Minsky, emeritus hoogleraar mediakunsten en -wetenschappen aan het MIT, was een van de oorspronkelijke deelnemers aan het Dartmouth Summer Research Project on Artificial Intelligence in 1956. Hij zal vandaag de herdenkingsconferentie ter gelegenheid van het 50-jarig jubileum in Dartmouth mede openen. (Met dank aan Coveney/MIT.)
Wiskundige en filosofische doorbraken van Alan Turing, John von Neumann, Herbert Simon, Allen Newell en andere giganten van de informatica maakten van de jaren vijftig een tijd van groot optimisme over machine-intelligentie. Onderzoekers dachten dat ze binnenkort computers zouden kunnen programmeren om vele vormen van menselijk redeneren te simuleren. Expertsystemen zouden kennis belichamen en manipuleren in de vorm van symbolische logica. Kunstmatige neurale netwerken zouden worden getraind om te evolueren naar correcte antwoorden.
Dit optimisme sloeg zelfs over in de populaire cultuur, waar HAL, de intelligente (en diep gestoorde) computer in Stanley Kubricks film uit 1968 2001: Een ruimte-odyssee , overtroffen de menselijke acteurs.
Maar tegen het einde van de jaren zestig was het duidelijk dat het benaderen van zelfs kinderlijk menselijk redeneren in een computer enorm complexe netwerken van logische vergelijkingen of neurale verbindingen zou vereisen. Dus onderzoekers verstijven. Ze begonnen problemen op te lossen en concentreerden zich op het repliceren van eenvoudige menselijke prestaties zoals het verplaatsen van kinderblokken (het onderwerp van het nu beroemde programma SHRDLU van Stanford-computerwetenschapper Terry Winograd, dat natuurlijke taalinstructies gebruikte om een robotarm te manipuleren).
Minsky, die samen met McCarthy de Dartmouth-conferentie zal openen, bewonderde het werk van Winograd. Maar hij schuwde al lang reductionistische demonstraties ten gunste van het onderzoeken van de echte mechanismen achter het menselijk denken. Zo begon Minsky, in samenwerking met Seymour Papert in het MIT AI Lab, in de jaren zeventig met de ontwikkeling van de Society of Mind-theorie, die stelt dat lagen van doelgerichte maar hersenloze agenten samenwerken om bewustzijn te genereren.
Technology Review onderbrak Minsky op 11 juli, toen hij de galeien aan het proeflezen was voor zijn aanstaande boek, De Emotie Machine , die de menselijke geest herinterpreteert als een wolk van hulpbronnen, of minimachines die afhankelijk van de situatie in- en uitschakelen en aanleiding geven tot onze verschillende emotionele en mentale toestanden.
Technologie beoordeling : Kun je geloven dat het 50 jaar geleden is sinds de eerste Dartmouth AI-bijeenkomst? Voelt het alsof er vijf decennia zijn verstreken?
Marvin Minsky : Ik heb niet veel intervallen van 50 jaar meegemaakt, dus het is moeilijk voor mij om te zeggen.
TR: Redelijk. Dus, wat vind je van de huidige stand van zaken op het gebied van AI-onderzoek, vergeleken met waar het was in 1956?
MM: Wat me verbaast, is hoe weinig mensen hebben gewerkt aan theorieën op een hoger niveau over hoe denken werkt. Dat is een grote teleurstelling geweest. Ik ben net een groot nieuw boek aan het publiceren over waar we aan moeten denken: hoe doet een drie- of vierjarige het gezond verstand redeneren waar ze zo goed in zijn en dat geen enkele machine lijkt te kunnen? doen? Het belangrijkste verschil is dat als je iets niet begrijpt, je meestal denkt: wat is er met mij aan de hand? of Wat verspilt mijn tijd? of Waarom werkt deze manier van denken niet? Is er een andere manier van denken die misschien beter is?
Maar het soort AI-projecten dat de afgelopen 30 of 40 jaar heeft plaatsgevonden, heeft bijna geen reflectief denken gehad. Het is allemaal reageren op een situatie en statistieken verzamelen. Zo'n drie jaar geleden organiseerden we een conferentie over gezond verstand en we konden maar een tiental onderzoekers in de hele wereld vinden die daarin geïnteresseerd waren.
TR: Waarom schrikken mensen terug voor het probleem van gezond verstand?
MM: Ik denk dat mensen om zich heen kijken om te zien welk vakgebied momenteel populair is, en daar dan hun leven aan verspillen. Als het populair is, dan denk ik dat jij niet doen wil er aan werken. Nu is de natuurkunde anders. Daar zeggen mensen dat deze populaire theorie redelijk goed werkt, maar het verklaart niet dit of dat - dus daar zou ik naar moeten kijken. Maar wanneer mensen AI-papers schrijven, vertellen ze alleen wat hun programma deed, en niet hoe het faalde of wat voor soort problemen het niet kon oplossen. Mensen beschouwen het belangrijke probleem niet als hun systeem heeft niet opgelost. Mensen hebben neurale netwerken gekregen om te herkennen dat als je bijvoorbeeld een taxi zoekt, je moet zoeken naar een geel bewegend object. Maar ze vragen niet waarom deze netwerken geen ander soort vragen kunnen beantwoorden.
TR: Maar gezond verstand begrijpen is een veel moeilijker probleem, nietwaar? Zou dat niet kunnen verklaren waarom zoveel AI-onderzoekers zich op andere gebieden begeven?
MM: Dat is waar. Toen ik nog aan het schrijven was De Society of Mind , hebben we een paar jaar gewerkt om een computer een eenvoudig kinderverhaal te laten begrijpen: Mary was uitgenodigd op het feest van Jack. Ze vroeg zich af of hij een vlieger wilde. Als je de vraag stelt Waarom vroeg Mary zich af wat een vlieger was? iedereen weet het antwoord - het is waarschijnlijk een verjaardagsfeestje, en als ze gaat, betekent dat dat ze is uitgenodigd, en iedereen die wordt uitgenodigd, moet een cadeau meenemen, en het moet een cadeau zijn voor een jonge jongen, dus het moet zijn iets wat jongens leuk vinden, en jongens houden van bepaalde soorten speelgoed zoals vleermuizen en ballen en vliegers. Dat moet je allemaal weten om de vraag te kunnen beantwoorden. We zijn erin geslaagd een kleine database te maken en het programma enkele eenvoudige vragen te laten begrijpen. Maar we probeerden het op een ander verhaal en het wist niet wat te doen. Sommigen van ons kwamen tot de conclusie dat je er een paar moet kennen miljoen dingen voordat je een machine tot gezond verstand kon laten nadenken.
TR: Als mensen zich realiseren hoe moeilijk het is om een computer zelfs eenvoudige, gezond verstand situaties te laten begrijpen, zou je dan zeggen dat een deel van het optimisme over de mogelijkheden voor AI in de jaren vijftig en zestig is verdwenen?
MM: Ik denk niet dat optimisme het goede woord is. Ik denk dat we goede vragen stelden, maar op de een of andere manier gingen de meeste mensen die werkten aan wat ze AI noemden op zoek naar een van deze universele oplossingen. In de natuurkunde werkte dat; er waren de vergelijkingen van Newton en vervolgens die van Maxwell en vervolgens de relativiteitstheorie en de kwantumtheorie. De meeste AI-mensen proberen dat te imiteren en vinden een algemene theorie. Maar mensen hebben 100 verschillende hersencentra die allemaal op iets andere manieren werken. Je zou niet aan één enkele oplossing moeten werken; je zou aan een groot aantal gadgets moeten werken.
TR: Veel van de financiering voor AI is afkomstig van het Defense Advanced Research Projects Agency (DARPA), waar er een vrij duidelijke vraag is naar praktische resultaten. Ze zijn zelfs een van de sponsors van de Dartmouth AI-conferentie. Hoe heeft DARPA de richting van AI-onderzoek gevormd?
MM: In het begin ondersteunde DARPA mensen in plaats van voorstellen. Vanaf 1963 was er veel vooruitgang; ongeveer tien jaar floreerden het soort dingen waar ik het over heb. En toen was er in het begin van de jaren zeventig een soort grappig ongeluk. Senator Mike Mansfield, nogal een liberaal, besloot dat het ministerie van Defensie civiel onderzoek niet zou moeten ondersteunen. Hij was er dus verantwoordelijk voor dat ARPA DARPA werd en dat hij zich inspande om niet te concurreren met industrieel en civiel onderzoek. Dus werd het voor hen veel moeilijker om visionaire onderzoekers te ondersteunen.
Tegelijkertijd begon de Amerikaanse onderzoeksgemeenschap in het bedrijfsleven begin jaren zeventig te verdwijnen. Bell Labs en RCA en de anderen verdwenen in wezen uit dit soort activiteiten. En er gebeurde nog iets: de ondernemersmicrobe sloeg toe. In de jaren tachtig begonnen veel mensen te proberen dingen te patenteren en start-ups te starten en producten te maken, en dat viel samen met de algemene verdwijning van jonge wetenschappers. Mensen die productieve wetenschappers hadden kunnen worden, gaan nu rechten en zaken in.
Er is dus geen manier om dit onderzoek te ondersteunen. Als je een goed idee hebt, is het moeilijk om het gepubliceerd te krijgen omdat mensen zeggen Waar is je experiment? Maar het probleem met gezond verstand denken is dat je pas kunt experimenteren als je een grote database met gezond verstand hebt. Er is er een genaamd Cyc, gestart door Doug Lenat in 1985. En we hebben de Open geest database, die publiekelijk beschikbaar is, maar nog niet erg goed gestructureerd. Maar het is een heel onderzoeksproject om erachter te komen hoe je de Open Mind-database kunt openen.
TR: U zei dat een computer een paar miljoen dingen moet weten om met gezond verstand verbanden te kunnen leggen. Maar Lenat en zijn collega's hebben precies daaraan gewerkt en hebben jarenlang met gezond verstand kennis in Cyc gestoken. Waarom is er een andere database nodig?
MM: Toen Lenat in 1985 Cyc startte, was het behoorlijk ambitieus, en er was geen ander dergelijk project. Mijn collega's en ik zeiden: laten we afwachten hoe dit werkt. En toen gebeurde er een tijdje niets.
Lenat heeft een aantal zeer goede dingen gedaan. Het probleem is dat Cyc erg moeilijk te gebruiken is en gepatenteerd is, dus het wordt niet veel gebruikt door onderzoekers. En er zijn veel problemen met zijn systeem die niet eerder kwamen opdagen omdat er geen concurrentie was.
Ze hebben het consistent gemaakt, dus het weet eigenlijk niet veel. Moet een walvis worden beschouwd als een zoogdier of als een vis? Walvissen hebben veel visachtige kenmerken, dus de meeste mensen zijn verrast als ze horen dat het een zoogdier is. Maar het echte antwoord is dat het beide moet zijn. Een gezond verstand database hoeft niet per se logisch consistent te zijn. Lenat realiseerde zich uiteindelijk dat ze Cyc moesten herstructureren door te voorzien in de verschillende contexten waarin een vraag kan opduiken. Maar de database was oorspronkelijk gestructureerd om dingen heel logisch te maken, en de taal is predikaatberekening. Onze hoop is om het Open Mind-systeem natuurlijke taal te laten gebruiken - die natuurlijk vol is van dubbelzinnigheden, maar dubbelzinnigheden zijn zowel goed als slecht.
TR: Wat zijn enkele van de belangrijkste argumenten of onderzoeksaanbevelingen in uw komende boek, De Emotie Machine ?
MM: De hoofdgedachte in het boek is wat ik vindingrijkheid noem. Tenzij je iets op verschillende manieren begrijpt, loop je waarschijnlijk vast. Dus het eerste in het boek is dat je verschillende manieren moet hebben om dingen te beschrijven. Ik heb er een woord voor verzonnen: panalogie. Als je iets vertegenwoordigt, moet je het op verschillende manieren voorstellen, zodat je zonder nadenken van de ene naar de andere kunt overschakelen.
Het tweede is dat je verschillende manieren moet hebben om te denken. Het probleem met AI is dat elke persoon zegt dat ze een systeem gaan maken op basis van statistische gevolgtrekkingen of genetische algoritmen, of wat dan ook, en elk systeem is goed voor sommige problemen, maar niet voor de meeste andere. De reden voor de titel De Emotie Machine is dat we deze dingen hebben die emoties worden genoemd, en mensen beschouwen ze als mysterieuze toevoegingen aan het rationele denken. Mijn mening is dat een emotionele toestand een andere manier van denken is.
Als je boos bent, geef je je langetermijnplanning op en denk je sneller na. U wijzigt de set bronnen die u activeert. Een machine heeft honderd manieren nodig om te denken. En we hebben toevallig honderd namen voor emoties, maar niet voor manieren om te denken. Het boek bespreekt dus ongeveer 20 verschillende richtingen die mensen in hun denken kunnen uitgaan. Maar ze hebben wel extra metakennis nodig over welke manier van denken in elke situatie past.
TR: Zeg je nu dat computers boos moeten worden?
MM: Als iemand je in de weg staat en ze zullen je niet uit de weg gaan, moet je ze intimideren of bang maken of bang maken. Dat is een volkomen redelijke manier om het probleem op te lossen als je haast hebt en als er iets ergs zal gebeuren als je er niet omheen kunt. Ik stel voor dat we ongeveer 20 verschillende woorden nodig hebben voor deze manieren van denken. Dan kun je rationeel weggooien.
Minsky's De emotiemachine: gezond verstand, kunstmatige intelligentie en de toekomst van de menselijke geest zal naar verwachting in november 2006 in hardcover worden gepubliceerd door Simon & Schuster. Minsky heeft een droogte van het boek online.