211service.com
Hoe weten we zeker dat AI zich zal gedragen? Misschien door te kijken hoe het met zichzelf in discussie gaat.
OpenAI-blog
Op een dag kan het volkomen normaal zijn om te zien hoe een AI-systeem met zichzelf vecht.
Het concept is afkomstig van onderzoekers van OpenAI , een non-profitorganisatie opgericht door verschillende beroemdheden uit Silicon Valley, waaronder Y Combinator-partner Sam Altman, LinkedIn-voorzitter Reid Hoffman, Facebook-bestuurslid en Palantir-oprichter Peter Thiel, en Tesla en SpaceX-hoofd Elon Musk.
De OpenAI-onderzoekers hebben eerder aangetoond dat AI-systemen die zichzelf trainen soms onverwachte en ongewenste gewoontes kunnen ontwikkelen. In een computerspel kan een agent bijvoorbeeld uitzoeken hoe hij hapering op weg naar een hogere score. In sommige gevallen kan het voor een persoon mogelijk zijn om begeleiden van het trainingsproces . Maar als het AI-programma iets onmogelijk complex doet, is dit misschien niet haalbaar. Daarom stellen de onderzoekers voor om in plaats daarvan twee systemen te laten bespreken over een bepaald doel.
We zijn van mening dat deze of een vergelijkbare benadering ons uiteindelijk zou kunnen helpen om AI-systemen te trainen om veel meer cognitief geavanceerde taken uit te voeren dan mensen kunnen, terwijl ze in overeenstemming blijven met menselijke voorkeuren, schrijven de onderzoekers in een blogbericht het concept uiteenzetten.
Neem bijvoorbeeld een AI-systeem dat is ontworpen om te beschermen tegen menselijke of AI-hackers. Om te voorkomen dat het systeem iets schadelijks of onethisch doet, kan het nodig zijn om het uit te dagen om de logica van een bepaalde actie uit te leggen. Die logica is misschien te complex voor een persoon om te begrijpen, dus stellen de onderzoekers voor om een andere AI te laten debatteren over de wijsheid van de actie met het eerste systeem, met behulp van natuurlijke taal, terwijl de persoon observeert. Verdere details verschijnen in a onderzoekspaper .
Om AI-programma's met elkaar in discussie te laten gaan, is meer geavanceerde technologie nodig dan momenteel bestaat. Tot nu toe hebben de OpenAI-onderzoekers het idee alleen onderzocht met een paar uiterst eenvoudige voorbeelden. De ene omvat twee AI-systemen die een waarnemer proberen te overtuigen van een verborgen personage door langzaam individuele pixels te onthullen.
De onderzoekers hebben gemaakt een website waar twee personen kunnen proberen de rollen van de discussiërende AI-systemen te spelen, terwijl een derde als rechter dient. De twee deelnemers strijden om de rechter te overtuigen van de aard van een afbeelding terwijl ze delen ervan benadrukken. Uiteindelijk wordt het voor de waarnemer gemakkelijker om te zien wie eerlijk is.
Vincent Conitzer , een onderzoeker aan de Duke University die ethische kwesties met AI bestudeert, zegt dat het werk zich in een vroeg stadium bevindt, maar veelbelovend is. Het creëren van AI-systemen die hun beslissingen kunnen verklaren, is een uitdagende onderzoeksagenda, zegt hij. Als het lukt, kan het een grote bijdrage leveren aan een verantwoord gebruik van AI.
Zoals het er nu uitziet - en ondanks sommige bizar uitspraken van mensen als Elon Musk (een OpenAI-financier en tot voor kort lid van de raad van bestuur) - we zijn nog ver verwijderd van AI-systemen die ons kunnen misleiden en te slim af zijn in het soort scenario dat wordt geportretteerd in films als Ex Machina en Haar .
Toch onderzoeken sommige AI-onderzoekers manieren om ervoor te zorgen dat de technologie zich niet onbedoeld gedraagt. Dit kan belangrijker worden naarmate AI-programma's complexer en ondoorgrondelijker worden (zie Het duistere geheim in het hart van AI).
Ik denk dat het idee van waardeafstemming door middel van debat erg interessant en potentieel nuttig is, zegt Ariel Procaccia , een professor in computerwetenschappen aan de CMU die besluitvorming met autonome systemen bestudeert.
Procaccia merkt echter op dat het werk zeer voorlopig is en dat het concept zelfs een fundamentele tegenstrijdigheid kan bevatten. Om met waarde beladen vragen te bespreken op een manier die begrijpelijk is voor een menselijke rechter, moeten de AI-agenten in de eerste plaats een goed begrip hebben van menselijke waarden, zegt hij. Dus de aanpak is aantoonbaar de kar voor het paard spannen.
Iyad Rawan , een onderzoeker bij het Medialab van MIT, voegt eraan toe dat de onderzoekers moeten oppassen dat een paar AI's niet in een cirkelredenering terechtkomen. Ik denk dat ze heel snel een aantal zeer lastige problemen zullen aanpakken, zegt hij. De eerste is hoe argumentatie in natuurlijke taal te automatiseren, wat nog steeds een onopgelost probleem is.