Vraag en antwoord met futurist Martine Rothblatt

Als computers voor zichzelf denken, moeten ze dan mensenrechten hebben? Door

• Antonio Regalado archiefpagina

20 oktober 2014

Bina48 is een robotkop die eruitziet en spreekt als een persoon - hij beweegt zijn lippen en voert gesprekssoftware uit. Hoewel de robot niet leeft, is het moeilijk te zeggen dat er helemaal geen leven is in Bina48. In een gesprek zegt het soms verrassende dingen. De technische directeur van Google, Ray Kurzweil, zegt dat het wonderbaarlijk is dat er een tijd komt waarin computers echt zullen denken en voelen.

Kurzweil maakt de opmerking in het voorwoord bij Vrijwel menselijk: de belofte - en het gevaar - van digitale onsterfelijkheid een nieuw boek van de eigenaar van Bina48, Martine Rothblatt, die juridische en ethische argumenten aanvoert waarom intelligente software uiteindelijk alle rechten van mensen van vlees en bloed zou kunnen verdienen.

Rothblatt, een advocaat en pionier op het gebied van satellietradio, is chief executive van United Therapeutics, een biotechnologiebedrijf dat ze heeft opgericht in een poging de longziekte van haar dochter te genezen. Het succes van het bedrijf heeft van Rothblatt de best betaalde vrouwelijke CEO van Amerika gemaakt, een ranglijst die de aandacht heeft getrokken, deels omdat Rothblatt als man werd geboren en in 1994 een geslachtsaanpassende operatie onderging.

Haar transformatie dient als een soort achtergrond voor haar boek, waarin Rothblatt stelt dat de mensheid op een snel spoor zit naar een volgende evolutionaire stap van het kopiëren van de persoonlijkheden van mensen naar machines. Ze merkt al op dat de typische gebruikers van sociale netwerken meerdere uren per dag besteden aan het uploaden, tweeten en het beheren van digitale informatie over zichzelf - wat ze mindfiles noemt. Terwijl grote technologiebedrijven miljarden investeren in AI-onderzoek en digitale assistenten, zegt Rothblatt, is het onvermijdelijk dat deze mindfiles worden geanimeerd als mindclones: bewuste, digitale versies van mensen die leven of dood zijn.

Rothblatts grootste interesse gaat uit naar de debatten over identiteit, burgerrechten en de betekenis van persoonlijkheid die de opkomst van virtuele mensen zouden omringen. Zou een digitale kopie van jou jou zijn, of zou het een ander persoon zijn - of helemaal geen persoon? Hoe zouden we oordelen? We zijn nog steeds ver verwijderd van digitale wezens, maar Rothblatt zegt dat ze een deel van haar aanzienlijke rijkdom aan langetermijnonderzoek besteedt om ze echt te maken. Dat werk wordt uitgevoerd door de Stichting Terasem Beweging , wiens vroege projecten Bina48 (een kopie van Rothblatt's vrouw, Bina) en een dienst genaamd lifenaut waar mensen foto's, video's en hun mening kunnen uploaden om een ​​chatbot-versie van zichzelf te maken. MIT Technology Review ’s hoofdredacteur voor biogeneeskunde, Antonio Regalado, sprak met Rothblatt over de rechten van virtuele mensen.

Waarom heb je een boek geschreven over de rechten van virtuele wezens?

Ik deed het om mijn oprechte sociale waarde uit te drukken dat onderdrukking van minderheden en mensen van verschil een slechte zaak is voor de samenleving, en om de onvermijdelijke hoeveelheid discriminatie waarmee virtuele mensen uiteindelijk worden geconfronteerd, te minimaliseren. Mijn pleidooi is dat iemand die geen lichaam heeft, toch mensenrechten kan krijgen, als hij een geest heeft.

Ik heb je ooit horen zeggen dat mensen die niet geloven dat machines bewust worden, vergelijkbaar zijn met mensen die evolutie ontkennen. Wat bedoelde je?

De gegevens voor evolutie zijn zo overtuigend dat ontkennen het mij lijkt alsof het de realiteit ontkent. Evolutie is ofwel een gevolg van een materiële wereld of het is het resultaat van een soort bovennatuurlijke handeling. Voor mij is het hetzelfde met bewustzijn. Of je denkt dat bewustzijn iets metafysisch is, of het is het resultaat van fysieke interacties van materie. Het is omdat de hersenen van mensen een reeks verbindingen hebben, van atomaire interacties, en computers zouden dat kunnen hebben. Voor mij is het ontkennen van cyberbewustzijn ontkennen dat we in een fysiek universum leven.

Wat is uw voorstel voor hoe we bewuste machines moeten behandelen?

Ik denk dat als je genoeg informatie over een persoon uploadt, er in de komende 10 of 20 jaar besturingssystemen zullen zijn die deze onderliggende mindfile kunnen onderzoeken. Ik geloof echt dat het onvermijdelijk is dat bewustzijn zal resulteren. Ik denk dat deze software zal worden gereguleerd door de Food and Drug Administration, als een prothese die veilig en effectief menselijk bewustzijn creëert. Ik stel voor dat deze geesten een jaar lang interviews met psychiaters zullen moeten besteden, waarin ze ermee zouden praten zoals jij en ik heen en weer praten. Als de mindware hen in de loop van een jaar zou kunnen overtuigen dat het bewust is, zou het als een mens moeten worden behandeld en documenten moeten krijgen.

Wat voor reacties zullen mensen hebben op virtuele wezens?

De reacties die ik krijg vertellen me dat discriminatie onvermijdelijk zal zijn. Mensen zeggen: 'Het kan me niet schelen hoe verfijnd het is - het zal nooit dezelfde menselijkheid hebben als vlees.' Het doet heel erg denken aan talloze andere voorbeelden van repressie. Toen slavernij in de 19e eeuw gebruikelijk was, werd gezegd dat zwarte mensen niet hetzelfde soort bewustzijn hadden als blanke mensen. Dat was een mainstream standpunt.

Je lijkt vanzelfsprekend te vinden dat mensen bewuste machines maken. Maar dat hoeft toch niet echt te gebeuren?

Het idee dat - met honderdduizenden programmeurs over de hele wereld - niemand softwarebewustzijn gaat geven, is niet geloofwaardig.

Er zijn ook veel super-high-utility redenen om bewustzijn te creëren die niet eens nieuwsgierigheid oproepen. Jongen, wat als je een betere Siri had? Sterker nog, ik denk dat er een wapenwedloop komt, alleen maar omdat er vraag naar zal zijn.

Maakt u zich zorgen over een commerciële race voor kunstmatige intelligentie?

Ik maak me zorgen, omdat ik een grote kans zie om een ​​klasse cyberbewuste slaven te creëren. Slavernij is winstgevend. Maar ik denk dat we er spijt van zouden krijgen. We zouden honderden jaren bezig zijn om onszelf uit te graven.

U bent dit jaar uitgenodigd om het grote futurisme-evenement van Google, Google Zeitgeist, toe te spreken. Wat heb je de mensen daar verteld?

Het punt dat ik maakte kan als volgt worden samengevat: veilige havens maken gelukkige schepen. Als we bang zijn voor de rechten waar cyberbewuste wezens om kunnen vragen, of voor het gekrompen deel van de taart dat wezens van vlees en bloed hebben, of voor terminator soort scenario's, zullen we de samenleving nooit verder brengen in de mogelijkheden van cyberbewustzijn. Maar als we veilige havens creëren, als we door de FDA goedgekeurde mindware hebben, kunnen we een gigantische nieuwe realiteit creëren.

zich verstoppen