Podcast: Kun je een machine leren denken?

Ariel Davis





Kunstmatige intelligentie is zo'n groot deel van ons leven geworden, het zou je vergeven worden als je de tel kwijtraakt van de algoritmen waarmee je communiceert. Maar de AI die je weersvoorspelling, Instagram-filter of favoriete Spotify-afspeellijst aandrijft, staat ver af van de hyperintelligente denkmachines waar pioniers in de industrie al tientallen jaren over mijmeren.

Diep leren, de technologie die de huidige AI-boom aanstuurt , kan machines trainen om meesters te worden in allerlei soorten taken. Maar het kan er maar één tegelijk leren. En omdat de meeste AI-modellen hun vaardigheden trainen op duizenden of miljoenen bestaande voorbeelden, repliceren ze patronen in historische gegevens, inclusief de vele slechte beslissingen die mensen hebben genomen, zoals het marginaliseren van gekleurde mensen en vrouwen.

Toch hebben systemen zoals de bordspelkampioen AlphaZero en de steeds overtuigender wordende neptekstgenerator GPT-3 het debat aangewakkerd over wanneer mensen een kunstmatige algemene intelligentie -machines die kunnen multitasken, denken en voor zichzelf redeneren.



Het idee is verdeeldheid. Voorbij het antwoord op hoe we zouden technologieën kunnen ontwikkelen die in staat zijn tot gezond verstand of zelfverbetering ligt nog een andere vraag: wie heeft er echt baat bij de replicatie van menselijke intelligentie in een kunstmatige geest?

Het grootste deel van de waarde die vandaag door AI wordt gegenereerd, keert terug naar de miljardenbedrijven die al een fantastische hoeveelheid middelen tot hun beschikking hebben, zegt Karen Hao, senior AI-reporter van MIT Technology Review en de schrijver van het algoritme . En we zijn er nog niet echt achter hoe we die waarde kunnen omzetten of verdelen onder andere mensen.

In deze aflevering van Deep Tech praten Hao en Will Douglas Heaven, onze senior editor voor AI, samen met onze hoofdredacteur, Gideon Lichfield, om de verschillende denkrichtingen te bespreken over de vraag of kunstmatige algemene intelligentie überhaupt mogelijk is, en wat het zou nemen om daar te komen.



Bekijk hier meer afleveringen van Deep Tech.

Notities en links tonen:

Transcript van de volledige aflevering:

Gideon Lichfield: Kunstmatige intelligentie is nu zo alomtegenwoordig dat je waarschijnlijk niet eens nadenkt over het feit dat je het gebruikt. Uw zoekopdrachten op internet. Google Vertalen. Stemassistenten zoals Alexa en Siri. Die schattige kleine filters op Snapchat en Instagram. Wat je ziet - en niet ziet - op sociale media. Fraudemeldingen van uw creditcardmaatschappij. Amazon-aanbevelingen. Spotify-afspeellijsten. Verkeer richtingen. Het weerbericht. Het is allemaal AI, altijd.

En het is allemaal wat we domme AI zouden kunnen noemen. Geen echte intelligentie. Eigenlijk gewoon kopieermachines: algoritmen die hebben geleerd om heel specifieke dingen te doen door getraind te zijn op duizenden of miljoenen correcte voorbeelden. Op sommige van die dingen, zoals gezichts- en spraakherkenning, zijn ze al nauwkeuriger dan mensen.



Al deze vooruitgang heeft een oud debat in het veld nieuw leven ingeblazen: kunnen we creëren? stroom intelligentie, machines die zelfstandig kunnen denken? Welnu, vandaag zijn bij mij het AI-team van MIT Technology Review: Will Heaven, onze senior editor voor AI, en Karen Hao, onze senior AI-reporter en de schrijver van het algoritme , onze AI-nieuwsbrief. Ze hebben allebei de vooruitgang in AI gevolgd en de verschillende denkrichtingen over de vraag of kunstmatige algemene intelligentie zelfs mogelijk is en wat er nodig is om daar te komen.

Ik ben Gideon Lichfield, hoofdredacteur van MIT Technology Review, en dit is Deep Tech.

Will, je hebt net een verhaal van 4000 woorden geschreven over de vraag of we een kunstmatige algemene intelligentie kunnen creëren. Dus je moet een reden hebben gehad om jezelf dat aan te doen. Waarom is deze vraag op dit moment interessant?



Wil Douglas de hemel: Dus in zekere zin is het altijd interessant geweest. Het bouwen van een machine die kan denken en dingen kan doen die mensen kunnen doen, was al vanaf het begin het doel van AI, maar het is een lange, lange strijd geweest. En een hype uit het verleden heeft tot mislukking geleid. Dus dit idee van kunstmatige algemene intelligentie is zeer controversieel en verdeeldheid zaaiend geworden, maar het maakt een comeback. Dat is grotendeels te danken aan het succes van deep learning in het afgelopen decennium. En dan met name systemen zoals Alpha Zero die is gemaakt door DeepMind en Go en Shogi kan spelen, een soort Japans schaken, en schaken. Hetzelfde algoritme kan alle drie de spellen spelen. En GPT-3, het grote taalmodel van OpenAI, dat de manier waarop mensen schrijven op griezelige wijze kan nabootsen. Dat heeft mensen, vooral het afgelopen jaar, ertoe aangezet om deze vragen opnieuw te stellen. Staan we aan de vooravond van het bouwen van kunstmatige algemene intelligentie? Machines die dingen kunnen denken en doen zoals mensen dat kunnen.

Gideon Lichfield: Karen, laten we het nog even hebben over GPT-3, dat Will net noemde. Het is dit algoritme dat, weet je, je het een paar woorden geeft en het zal alinea's en alinea's uitspugen van wat er overtuigend uitziet als Shakespeare of wat je het ook vertelt te doen. Maar wat is er zo opmerkelijk aan vanuit een AI-perspectief? Wat doet het dat voorheen niet kon?

Karen Hao: Wat interessant is, is dat ik denk dat de doorbraken die leidden tot GPT-3 eigenlijk een flink aantal jaren eerder plaatsvonden. In 2017 vond de belangrijkste doorbraak die een golf van vooruitgang in de verwerking van natuurlijke taal veroorzaakte, plaats met de publicatie van het artikel dat het idee van transformatoren introduceerde. En de manier waarop een transformerend algoritme met taal omgaat, is dat het kijkt naar miljoenen of zelfs miljarden voorbeelden, zinnen van alineastructuur of misschien zelfs codestructuur. En het kan de patronen extraheren en beginnen te voorspellen in een zeer indrukwekkende mate, welke woorden samen het meest logisch zijn, welke zinnen samen het meest logisch zijn. En bouw dan die hele lange paragrafen en essays op. Wat ik denk dat GPT-3 het anders heeft gedaan, is het feit dat er gewoon orden van grootte meer gegevens zijn die nu worden gebruikt om deze transformatortechniek te trainen. Dus wat OpenAI met GPT-3 deed, is dat ze het niet alleen trainen op meer voorbeelden van woorden uit corpora zoals Wikipedia of uit artikelen zoals de New York Times of Reddit-forums of al deze dingen, ze trainen het ook op, zinspatronen, het traint het op paragraafpatronen, kijkend naar wat logisch is als een introparagraaf versus een conclusieparagraaf. Dus het krijgt gewoon veel meer informatie en begint echt heel goed na te bootsen hoe mensen schrijven, of hoe muziekpartituren worden gecomponeerd, of hoe codering is gecodeerd.

Dus het krijgt gewoon veel meer informatie en begint echt heel goed na te bootsen hoe mensen schrijven, of hoe muziekpartituren worden gecomponeerd, of hoe codering is gecodeerd.

Gideon Lichfield: En wat was AI aan het doen vóór transformatoren, die patronen uit al deze verschillende soorten structuren kunnen halen?

Karen Hao: Vroeger was natuurlijke taalverwerking eigenlijk... het was veel fundamenteler. Transformatoren zijn dus een soort zelf-gecontroleerde techniek waarbij het algoritme niet precies wordt verteld waarnaar in de taal moet worden gezocht. Het is gewoon zelf op zoek naar patronen en wat het denkt dat de herhalende kenmerken van taalcompositie zijn. Maar daarvoor waren er eigenlijk veel meer begeleide benaderingen van taal en veel meer hard gecodeerde benaderingen van taal waar mensen machines leerden, zoals 'dit zijn zelfstandige naamwoorden, dit zijn bijvoeglijke naamwoorden. Zo bouw je die dingen samen op.' En helaas is dat een zeer moeizaam proces om taal op zo'n manier samen te stellen dat elk woord een soort label moet hebben. En de machine moet handmatig worden geleerd hoe deze dingen te bouwen. En dus beperkte het de hoeveelheid gegevens waar deze technieken zich mee konden voeden. En daarom waren taalsystemen echt niet erg goed.

Gideon Lichfield: Dus laten we terugkomen op dat onderscheid tussen leren onder supervisie en zelf-gesuperviseerd leren, want ik denk dat we zullen zien dat het een vrij belangrijk onderdeel is van de vooruitgang naar iets dat een algemene intelligentie zou kunnen worden. Will, zoals je in je stuk schreef, is er veel onduidelijkheid over wat we zelfs bedoelen als we kunstmatige algemene intelligentie zeggen. Kun je iets vertellen over wat daar de opties zijn?

Wil Douglas de hemel: Er is een soort spectrum. Ik bedoel, aan de ene kant heb je systemen die, weet je, veel van de dingen kunnen doen die smalle AI of domme AI, als je wilt, vandaag kunnen doen, maar zo'n beetje allemaal tegelijk. En Alpha Zero is daar misschien de eerste glimp van. Dit ene algoritme dat zichzelf kan trainen om drie verschillende dingen te doen, maar een belangrijk voorbehoud, het kan zichzelf niet dwingen die drie dingen tegelijk te doen. Het is dus niet zoiets als een enkel brein dat kan schakelen tussen taken. Zoals Shane Legg, over de mede-oprichters van Deepmind, zei dat het is alsof jij of ik moeten, weet je, toen we begonnen met schaken, moesten we onze hersenen verwisselen en in onze schaakhersenen stoppen.

Dat is duidelijk niet erg algemeen, maar we staan ​​aan de vooravond van dat soort dingen - jouw soort multi-tool AI waarbij één AI verschillende dingen kan doen die smalle AI al kan doen. En dan het spectrum opschuiven, wat waarschijnlijk meer mensen bedoelen als ze het over AGI hebben, is, je weet wel, denkmachines, machines die op mensen lijken in angstaanjagende citaten die kunnen multitasken op de manier waarop een persoon dat kan. Je weet dat we extreem flexibel zijn. We kunnen wisselen tussen, je weet wel, een ei bakken tot, je weet wel, een blogpost schrijven naar zingen, wat dan ook. Toch zijn er ook mensen die regelrecht naar de andere kant van het spectrum gaan, die ook een machinebewustzijn zouden willen gebruiken om over AGI te praten. Weet je, we zullen geen echte algemene intelligentie of mensachtige intelligentie hebben totdat we een machine hebben die niet alleen dingen kan doen die we kunnen doen, maar weet dat hij dingen kan doen die we kunnen doen die een soort van zelfreflectie daar. Ik denk dat al die definities er al zijn sinds het begin, maar het is een van de dingen die AGI moeilijk maakt om over te praten en nogal controversieel omdat er geen duidelijke definitie is.

Gideon Lichfield: Als we het hebben over kunstmatige algemene intelligentie, is er een soort impliciete veronderstelling dat menselijke intelligentie zelf ook absoluut algemeen is. Het is universeel. We kunnen een eitje bakken of we kunnen een blogpost schrijven of we kunnen dansen of zingen. En dat dit allemaal vaardigheden zijn die elke algemene intelligentie zou moeten hebben. Maar is dat echt zo of komen er verschillende soorten algemene intelligentie?

Wil Douglas de hemel: Ik denk, en ik denk dat velen in de AI-gemeenschap het er ook mee eens zijn dat er veel verschillende intelligenties zijn. We zitten een beetje vast aan dit idee van mensachtige intelligentie, denk ik, omdat mensen lange tijd het beste voorbeeld van algemene intelligentie zijn geweest dat we hebben gehad, dus het is duidelijk waarom ze een rolmodel zijn, weet je. , we willen machines bouwen naar ons eigen beeld, maar kijk maar eens rond in het dierenrijk en er zijn heel veel verschillende manieren om intelligent te zijn. Van het soort sociale intelligentie dat mieren hebben, waar ze samen echt opmerkelijke dingen kunnen doen met octopussen, waarvan we nog maar net beginnen te begrijpen op welke manieren ze intelligent zijn, maar dan zijn ze intelligent op een heel vreemde manier vergeleken met onszelf. En zelfs onze naaste neven zoals chimpansees hebben intelligenties, die anders zijn dan, en jij ik, zij hebben andere vaardigheden dan mensen.

Dus ik denk dat het idee dat machines, als ze over het algemeen intelligent worden, net als wij moeten zijn, onzin is, verdwijnt uit het raam. De missie zelf om een ​​AGI te bouwen die menselijk is, is misschien zinloos omdat we menselijke intelligenties hebben, toch? We hebben onszelf. Dus waarom moeten we machines maken die die dingen doen? Het zou veel, veel beter zijn om intelligenties op te bouwen die dingen kunnen doen die wij niet kunnen. Ze zijn op verschillende manieren intelligent om onze capaciteiten aan te vullen.

Gideon Lichfield: Karen, mensen praten natuurlijk graag over de dreiging van een superintelligente AI die de wereld overneemt, maar waar moeten we ons echt zorgen over maken?

Karen Hao: Een van de echt grote van de afgelopen jaren is algoritmische discriminatie. Dit fenomeen begonnen we op te merken waar, wanneer we algoritmen, klein of groot, trainen om beslissingen te nemen op basis van historische gegevens, het uiteindelijk de patronen repliceert die we misschien niet per se willen dat het repliceert binnen historische gegevens, zoals de marginalisering van mensen van kleur of de marginalisering van vrouwen.

Dingen in onze geschiedenis waar we liever zonder zouden doen, terwijl we vooruitgaan en vooruitgang boeken als samenleving. Maar vanwege de manier waarop algoritmen niet erg slim zijn en ze deze patronen extraheren en deze patronen gedachteloos repliceren, nemen ze uiteindelijk beslissingen die mensen van kleur discrimineren, vrouwen discrimineren en bepaalde culturen discrimineren die niet op het Westen gerichte culturen zijn.

En als je de gesprekken observeert die plaatsvinden tussen mensen die praten over enkele van de manieren waarop we moeten nadenken over het verminderen van bedreigingen rond superintelligentie of rond AGI, hoe je het ook wilt noemen, dan zullen ze praten over deze uitdaging van waardeafstemming. Waardeafstemming wordt gedefinieerd als hoe we deze superintelligente AI onze waarden laten begrijpen en afstemmen op onze waarden. Als ze niet in overeenstemming zijn met onze waarden, gaan ze misschien iets geks doen. En zo begint het mensen te schaden.

Gideon Lichfield: Hoe creëren we een AI, een superintelligente AI, die niet slecht is?

Karen Hao: Precies. Precies. Dus in plaats van in de toekomst te praten over het zoeken naar waardeafstemming over honderd jaar, zouden we het nu moeten hebben over hoe we er vandaag niet in zijn geslaagd de waarden af ​​te stemmen op zeer basale AI's en het probleem van algoritmische discriminatie daadwerkelijk op te lossen.

Een andere enorme uitdaging is de concentratie van macht die, eh, AI van nature creëert. Je hebt tegenwoordig een ongelooflijke hoeveelheid rekenkracht nodig om geavanceerde AI-systemen te creëren en state-of-the-art te doorbreken. En de enige spelers die nu echt zoveel rekenkracht hebben, zijn de grote technologiebedrijven en misschien de beste onderzoeksuniversiteiten. En zelfs de toponderzoeksuniversiteiten kunnen nauwelijks meer concurreren met de grote technologiebedrijven.

Dus de Googles Facebooks appels van de wereld. Eh, een andere zorg die mensen over honderd jaar hebben, is dat als de superintelligente AI eenmaal is ontketend, mensen er dan ook daadwerkelijk van zullen profiteren? Nou, daar zijn we vandaag ook niet achter gekomen. Zoals de meeste waarde die tegenwoordig door AI wordt gegenereerd, teruggaat naar de miljardenbedrijven die al over een fantastische hoeveelheid middelen beschikken. En we zijn er nog niet echt achter hoe we die waarde kunnen omzetten of verdelen onder andere mensen.

Gideon Lichfield: Oké, laten we teruggaan naar dat idee van een algemene intelligentie en hoe we het zouden bouwen als we konden. Will noemde eerder al deep learning. Dat is de fundamentele techniek van de meeste AI die we tegenwoordig gebruiken. En het is pas ongeveer acht jaar oud. Karen, je sprak onlangs met de vader van deep learning Geoffrey Hinton op onze EmTech-conferentie. En hij denkt dat deep learning, de techniek die we gebruiken voor zaken als vertaaldiensten of gezichtsherkenning, ook de basis zal zijn van een algemene intelligentie als we er uiteindelijk zijn.

Geoffrey Hinton [Van EmTech 2020]: Ik geloof echt dat diep leren alles zal kunnen doen. Maar ik denk dat er nogal wat conceptuele doorbraken zullen moeten zijn die we nog niet hebben gehad. // Vooral doorbraken die te maken hebben met hoe je grote vectoren van neurale activiteit krijgt om dingen als redeneren te implementeren, maar we hebben ook een enorme schaalvergroting nodig. // Het menselijk brein heeft ongeveer honderd biljoen parameters, dat is synapsis. Honderd biljoen. Wat nu echt grote modellen worden genoemd, zoals GPT-3, heeft 175 miljard. Het is duizenden keren kleiner dan de hersenen.

Gideon Lichfield: Kun je misschien beginnen met uit te leggen wat deep learning is?

Karen Hao: Deep learning is een categorie van technieken die gebaseerd is op het idee dat de manier om kunstmatige intelligentie te creëren is om kunstmatige neurale netwerken te creëren die gebaseerd zijn op de neurale netwerken in onze hersenen. Menselijke hersenen zijn de slimste vorm van intelligentie die we tegenwoordig hebben.

Het is duidelijk dat Will al heeft gesproken over een aantal uitdagingen voor deze theorie, maar ervan uitgaande dat menselijke intelligentie een soort van de belichaming is van intelligentie die we tegenwoordig hebben, willen we proberen kunstmatige hersenen te recreëren in een soort van het beeld van een menselijk brein. En diep leren is dat. Is een techniek die kunstmatige neurale netwerken probeert te gebruiken als een manier om kunstmatige intelligentie te bereiken.

Waar je op doelde, is dat er grotendeels twee verschillende kampen zijn in het veld over hoe we het bouwen van kunstmatige algemene intelligentie kunnen benaderen. Het eerste kamp is dat we alle technieken die we nodig hebben al hebben, we moeten ze alleen massaal opschalen met meer gegevens en grotere neurale netwerken.

Het andere kamp is dat deep learning niet genoeg is. We hebben iets anders nodig dat we nog niet hebben bedacht om diepgaand leren aan te vullen om een ​​aantal dingen te bereiken, zoals gezond verstand of redeneren die tegenwoordig een beetje ongrijpbaar zijn voor het AI-veld.

Gideon Lichfield: Dus Will, zoals Karen zojuist al zei, de mensen die denken dat we een algemene intelligentie kunnen opbouwen uit diep leren denken dat we er wat dingen aan moeten toevoegen. Wat zijn enkele van die dingen?

Wil Douglas de hemel: Onder degenen die denken dat diep leren is, is de juiste keuze. Ik bedoel, naast het laden van meer gegevens, zoals Karen zei, zijn er een heleboel technieken die mensen gebruiken om diep leren vooruit te helpen.

Je hebt leren zonder toezicht, dat is... traditioneel veel successen op het gebied van diep leren, zoals beeldherkenning, gewoon om het clichématige voorbeeld van het herkennen van katten te gebruiken. Dat komt omdat de AI is getraind op miljoenen afbeeldingen die door mensen zijn gelabeld met kat. Weet je, zo ziet een kat eruit, leer het maar. Het leren zonder toezicht is wanneer de machine naar binnen gaat en naar gegevens kijkt die niet op die manier zijn gelabeld en zelf patronen probeert te ontdekken.

Gideon Lichfield : Dus met andere woorden, je zou het geven als een stel katten, een stel honden, een stel pecannotentaarten, en het zou ze in groepen sorteren?

Wil Douglas de hemel: Ja. Het moet in wezen eerst leren wat voor soort onderscheidende kenmerken tussen die categorieën zijn, in plaats van te worden gevraagd. En dat vermogen om zichzelf te identificeren, je weet wel, wat die onderscheidende kenmerken zijn, is een stap naar een betere manier van leren. En het is praktisch handig, want de taak om al deze gegevens te labelen is natuurlijk enorm.

En we kunnen niet verder op deze weg, vooral niet als we willen dat het systeem op steeds meer data traint. We kunnen niet doorgaan op het pad om het handmatig te labelen. En nog interessanter, ik denk dat een leersysteem zonder toezicht het potentieel heeft om jouw categorieën te ontdekken die mensen niet hebben. Dus misschien leren we iets van de machine.

En dan heb je nog zaken als transfer learning, en dit is cruciaal voor algemene intelligentie. Dit is waar je een model hebt dat op de een of andere manier is getraind op een set gegevens. En wat het in die opleiding geleerd heeft, dat wil je vervolgens kunnen vertalen naar een nieuwe taak zodat je niet telkens opnieuw hoeft te beginnen.

Er zijn dus verschillende manieren waarop u transfer learning kunt benaderen, maar u kunt bijvoorbeeld enkele van de waarden van de ene training van het ene treinnetwerk nemen en een ander voorladen op een manier dat wanneer u het vraagt ​​om het te herkennen , een afbeelding van een ander dier, het heeft al een gevoel van, je weet wel, wat dieren hebben, je weet wel, poten en koppen en staarten.

Wat heb je. Dus je wilt gewoon een deel van de dingen die je van de ene taak hebt geleerd naar de andere kunnen overbrengen. En dan zijn er nog zaken als 'weinig shot learning', dat is waar het systeem van leert of zoals de naam al aangeeft van heel weinig trainingsvoorbeelden. En dat zal ook cruciaal zijn, omdat we niet altijd heel veel gegevens hebben om naar deze systemen te gooien om ze te leren.

Ik bedoel, ze zijn extreem inefficiënt als je erover nadenkt in vergelijking met mensen. Weet je, we kunnen een les leren van, je weet wel, één voorbeeld, twee voorbeelden. Je laat een kind een foto van een giraf zien en het weet wat een giraf is. We kunnen zelfs leren wat iets is zonder een voorbeeld te noemen.

Karen Hao: Ja. Ja. Als je erover nadenkt, kinderen... als je ze een foto van een paard laat zien en dan een foto van een neushoorn laat zien en je zegt, weet je, een eenhoorn is iets tussen een paard en een neushoorn in, misschien zullen ze dat echt, wanneer ze voor het eerst een eenhoorn in een prentenboek zien, weten dat het een eenhoorn is. En zo begin je meer categorieën te leren dan voorbeelden die je ziet, en dit is inspiratie voor nog een andere grens van diep leren, low-shot-leren of minder dan één-shot-leren genoemd. En nogmaals, het is hetzelfde principe als 'weinig shot learning': als we deze systemen kunnen laten leren van heel, heel, heel kleine gegevensmonsters, op dezelfde manier als mensen dat doen, dan kan dat het leerproces echt een boost geven.

Gideon Lichfield: Voor mij roept dit een nog algemenere vraag op; dat is wat mensen op het gebied van AGI zo zeker maakt dat je intelligentie kunt produceren in een machine die informatie digitaal weergeeft, in de vorm van enen en nullen, terwijl we nog zo weinig weten over hoe het menselijk brein informatie representeert. Is het niet een heel grote veronderstelling dat we menselijke intelligentie gewoon kunnen nabootsen in een digitale machine?

Wil Douglas de hemel: Ja ik ben het met je eens. Ondanks de enorme complexiteit van sommige van de neurale netwerken die we tegenwoordig zien in termen van hun grootte en hun verbindingen, zijn we ordes van grootte verwijderd van alles wat overeenkomt met de schaal van een brein, zelfs een soort van vrij eenvoudig dierenbrein . Dus ja, er is een enorme kloof tussen het idee dat we het gaan kunnen, vooral met de huidige technologie, de huidige deep learning-technologie.

En natuurlijk, hoewel, zoals Karen eerder beschreef, neurale netwerken worden geïnspireerd door de hersenen, de neuronen neuronen in onze hersenen. Dat is maar één manier om naar de hersenen te kijken. Ik bedoel, hersenen zijn niet alleen maar brokjes neuronen. Ze hebben afzonderlijke secties die zijn gewijd aan verschillende taken.

Dus nogmaals, dit idee dat slechts één heel groot neuraal netwerk algemene intelligentie zal bereiken, is opnieuw een beetje een sprong in het diepe, want misschien vereist algemene intelligentie een doorbraak in de manier waarop toegewijde structuren communiceren. Dus er is nog een tweedeling in de mensen die dit doel najagen.

Weet je, sommigen denken dat je neurale netwerken gewoon kunt opschalen. Andere mensen denken dat we afstand moeten doen van de specifieke kenmerken van een individueel deep learning-algoritme en naar het grotere geheel moeten kijken. Eigenlijk, weet je, misschien zijn neurale netwerken niet het beste model van de hersenen en kunnen we betere bouwen, die kijken naar hoe verschillende delen van de hersenen communiceren met, je weet wel, de, de, de som is groter dan het geheel .

Gideon Lichfield: Ik wil eindigen met een filosofische vraag. We zeiden eerder dat zelfs de voorstanders van AGI denken dat het niet bewust zal zijn. Kunnen we zelfs zeggen of het gedachten zal hebben? Zal het zijn eigen bestaan ​​begrijpen zoals wij dat doen?

Wil Douglas de hemel: In het artikel van Alan Turing uit 1950, Can Machines Think, dat zelfs toen AI nog slechts dit theoretische idee was, hebben we het niet eens behandeld als een soort technische mogelijkheid. Hij stelde deze vraag: hoe weten we of een machine kan denken? En in die krant gaat hij in op, je weet wel, dit, dit idee van bewustzijn. Misschien komen er mensen langs die zeggen dat machines nooit kunnen denken, omdat we nooit zullen kunnen zeggen dat machines kunnen denken omdat we niet kunnen zien dat ze bij bewustzijn zijn. En hij verwerpt dat min of meer door te zeggen, nou, als je dat argument zo ver doordringt, dan moet je er hetzelfde over zeggen. Wel, de medemensen die je elke dag ontmoet, er is geen ultieme manier waarop ik kan zeggen dat een van jullie niet bij bewustzijn is. Je weet dat de enige manier waarop ik dat zou weten, is als ik jou zou ervaren. En je komt op het punt dat de communicatie uitvalt en het een soort van plek is waar we niet heen kunnen. Dus dat is een manier om die vraag af te wijzen. Ik bedoel, ik denk dat de bewustzijnsvraag voor altijd zal blijven bestaan. Op een dag denk ik dat we machines zullen hebben die doen alsof ze... ze zouden kunnen denken en weet je, ze zouden mensen zo goed kunnen nabootsen, dat we ze net zo goed kunnen behandelen alsof ze bij bewustzijn zijn, maar of ze werkelijk zijn, ik denk niet dat we het ooit zullen weten.

Gideon Lichfield: Karen, wat vind jij van bewuste machines?

Karen Hao: Ik bedoel, voortbouwend op wat Will zei, weten we eigenlijk wel welk bewustzijn. En ik denk dat ik eigenlijk zou putten uit het werk van een professor aan Tufts. Hij benadert kunstmatige intelligentie vanuit het perspectief van kunstmatig leven. Zoals hoe repliceer je alle verschillende dingen?

Niet alleen de hersenen, maar ook de elektrische pulsen of de elektrische signalen die we in het lichaam gebruiken om te communiceren en dat heeft ook intelligentie. Als we fundamenteel in staat zijn om elk klein ding, elk klein proces in ons lichaam of in het lichaam van een dier uiteindelijk opnieuw te creëren, waarom zouden die wezens dan niet hetzelfde bewustzijn hebben als wij?

Wil Douglas de hemel: Je weet dat er op dit moment een prachtig debat gaande is over hersenorganoïden, dat zijn kleine klompjes stamcellen die zijn gemaakt om uit te groeien tot neuronen en ze kunnen zelfs verbindingen ontwikkelen en je ziet in sommige van hen deze elektrische activiteit. En er zijn verschillende laboratoria over de hele wereld die deze kleine hersenklodders bestuderen om menselijke hersenziekten beter te begrijpen. Maar er is een heel interessant ethisch debat gaande over, weet je, op welk punt neemt deze elektrische activiteit toe? De mogelijkheid dat deze plopjes in petrischalen bewust zijn. En dat toont aan dat we geen goede definitie van bewustzijn hebben, zelfs niet voor onze eigen hersenen, laat staan ​​die van machines.

Karen Hao: En ik wil eraan toevoegen dat we ook niet echt een goede definitie van kunstmatig hebben. Dus dat voegt alleen maar toe, ik bedoel, als we het hebben over kunstmatige, algemene intelligentie.

We hebben geen goede definitie van een van die drie woorden waaruit die term bestaat. Dus het punt dat Will maakte over deze organoïden die in petrischalen groeiden, wordt als kunstmatig beschouwd? Zo niet, waarom? Definiëren we kunstmatig als dingen die gewoon niet van organisch materiaal zijn gemaakt? Er is gewoon veel ambiguïteit en definities rond alle dingen waar we het over hebben, wat de bewustzijnsvraag erg ingewikkeld maakt.

Wil Douglas de hemel: Het maakt ze ook leuke dingen om over te praten.

Gideon Lichfield: Dat was het voor deze aflevering van Deep Tech. En het is ook de laatste aflevering die we voorlopig doen. We werken aan een aantal andere audioprojecten die we in de komende maanden hopen te lanceren. Houd ze dus goed in de gaten. En als je dat nog niet hebt gedaan, bekijk dan onze AI-podcast genaamd In Machines We Trust, die elke twee weken uitkomt. Je kunt het overal vinden waar je normaal naar podcasts luistert.

Deep Tech is geschreven en geproduceerd door Anthony Green en bewerkt door Jennifer Strong en Michael Reilly. Ik ben Gideon Lichfield. Bedankt voor het luisteren.

zich verstoppen