Dit AI-programma kan je verslaan in een ruzie, maar het weet niet wat het zegt

IBM Onderzoek

Tijdens een live debat in San Francisco vanavond, maakte een AI-programma een verrassend overtuigend argument dat ruimteverkenning moet worden gesubsidieerd. Toen een mens het er niet mee eens was, bood het programma een weerwoord.

Het debat, tussen een IBM-computerprogramma genaamd Project Debater en verschillende menselijke deelnemers, is het nieuwste bewijs dat kunstmatig intelligente machines vooruitgang boeken met vaardigheden die voorheen voorbehouden waren aan mensen - in dit geval ruzie.

Tijdens het evenement voerden het programma en een menselijke deelnemer om de beurt een argument over een specifiek onderwerp, een weerwoord en een slotargument. In een tweede debat pleitte het programma voor het toegenomen gebruik van telegeneeskunde, terwijl de menselijke deelnemer ertegen pleitte.

Verwant verhaal

Verwant verhaal Experts suggereren dat als AI-systemen proberen elkaar te slim af te zijn, iemand kan helpen zijn bedoelingen te beoordelen.

IBM werkt al enkele jaren aan de AI-software, die stapels tekst doorzoekt voordat een argument over een specifiek onderwerp wordt opgebouwd. Het bedrijf hield vanavond het debat om de technologie te promoten.

Project Debater probeert geen argument op te bouwen op basis van begrip van het onderwerp in kwestie. In plaats daarvan construeert het er eenvoudig een door elementen van eerdere argumenten te combineren met relevante informatie van Wikipedia.

Noam Slonim en Ranit Aharonov, de IBM-onderzoekers achter Project Debater. IBM-onderzoek

Ranit Aharanov , een in Israël gevestigde onderzoeker achter het project, erkent dat het beperkt is. Er is nog een lange weg te gaan om de taal onder de knie te krijgen, zegt ze. Aharonov gelooft echter dat de technologie een scala aan praktische toepassingen kan hebben. Het kan iemand helpen een kritische beslissing te nemen, bijvoorbeeld door een reeks voor- en tegenargumenten te geven.

Een argumentatief AI-systeem kan natuurlijk ook snode toepassingen hebben, waaronder het aandrijven van meer verderfelijke bots op sociale media en daarbuiten. Medewerker van Aharonov Noam Slonim het gevaar uitsluit. Er is altijd een risico, en ik denk dat het eigenlijk beperkter is dan bij andere technologieën, zegt hij.

Oren Etzioni, CEO van de Allen Instituut voor Kunstmatige Intelligentie in Seattle, zegt dat het moeilijk is om de mogelijkheden van het IBM-systeem puur op basis van deze wedstrijd te beoordelen. Het is gemakkelijker om een ​​ingeblikte demo samen te stellen dan een open demo waar je op een natuurlijke manier mee kunt communiceren, zegt hij.

Kristian Hammond , een professor aan de Northwestern University en de oprichter van Narrative Sciences, een bedrijf dat automatisch nieuwsberichten en andere inhoud genereert, zegt dat de technologie nuttig zou kunnen zijn. Maar Hammond benadrukt dat de IBM-software gewoon navertelt wat het heeft opgegraven. Er is nooit een stadium waarin het systeem weet waar het over praat, zegt hij. Bij mensen vinden we dat een waardeloze redenering.

Hammond zegt ook dat de wedstrijd in San Francisco nauwelijks het nut van het systeem aantoont. Het is een beetje een afleiding, zegt hij.

zich verstoppen