Waarom AI een bedreiging is voor de democratie - en wat we kunnen doen om het te stoppen?

Futurist en NYU-professor Amy Webb over een naderende catastrofe met kunstmatige intelligentie - en waarom er nog steeds hoop is dat deze kan worden voorkomen. Door

• Karen Hao archiefpagina

26 februari 2019

Amy Webb, futurist en NYU-professor Elena Seibert

Amy Webb, futurist, NYU-professor en bekroonde auteur, heeft het afgelopen decennium een ​​groot deel van de afgelopen tien jaar onderzoek gedaan, besproken en mensen en organisaties ontmoet over kunstmatige intelligentie. We hebben een koortsachtig hoogtepunt bereikt in alles wat met AI te maken heeft, zegt ze. Nu is het tijd om een ​​stap terug te doen om te zien waar het naartoe gaat.

Dit is de taak van haar nieuwe boek, The Big Nine: hoe de technische titanen en hun denkmachines de mensheid konden vervormen , waar ze in vogelvlucht trends bekijkt die, waarschuwt ze, de ontwikkeling van technologie op een gevaarlijk pad hebben gezet. In de VS worden Google, Microsoft, Amazon, Facebook, IBM en Apple (de G-MAFIA) gehinderd door de meedogenloze kortetermijneisen van een kapitalistische markt, waardoor een doordachte langetermijnplanning voor AI onmogelijk wordt. In China consolideren en ontginnen Tencent, Alibaba en Baidu enorme hoeveelheden gegevens om de autoritaire ambities van de regering te voeden.

Als we dit traject niet veranderen, stelt Webb, kunnen we rechtstreeks op een catastrofe afstevenen. Maar er is nog tijd om te handelen en een rol voor iedereen te spelen. MIT Technology Review ging met haar zitten om te praten over waarom ze zich zorgen maakt en wat ze denkt dat we eraan kunnen doen.

De volgende Q&A is voor de duidelijkheid samengevat en bewerkt.

U zegt dat we momenteel een convergentie zien van zorgwekkende technologische, politieke en economische trends. Kun je uitleggen wat de technologische trends zijn?

Als je praat met een onderzoeker die in het veld werkt, zullen ze je vertellen dat het nog heel lang zal duren voordat we veel van de beloften zien die zijn gedaan over AI: zaken als volledige automatisering in voertuigen, absolute herkenning of kunstmatige algemene intelligentie - AGI - systemen die in staat zijn tot cognitie en meer mensachtig denken.

Vanuit mijn gezichtspunt, kijkend naar de horizon voor de dag dat we een soort wandelende, pratende machine hebben, of een machine met een onstoffelijke stem die autonome beslissingen neemt, mist het punt enigszins het punt. We zien al miljarden kleine verbeteringen die in de loop van de tijd een versterkend effect zullen hebben en leiden tot systemen die autonoom veel beslissingen tegelijk kunnen nemen.

Het DeepMind-team heeft bijvoorbeeld hard gewerkt om machines te leren hoe ze mensen kunnen verslaan die games spelen. Ze zijn behoorlijk ver vooruit gesprongen op gebieden als hiërarchisch versterkend leren en multitasken. De nieuwste versie van het AlphaGo-algoritme, AlphaZero, is in staat om drie spellen tegelijk te leren spelen zonder dat er een mens tussen zit. Dat is een vrij grote sprong. Er is ook het heel nieuwe veld van generatieve vijandige netwerken, waar je met een behoorlijk groot corpus aan afbeeldingen nu menselijke gezichten kunt genereren die er heel, heel realistisch uitzagen.

Deze ontwikkelingen zijn niet zo sexy of opwindend als wat ons is verteld over AGI. Maar als je het perspectief van 40.000 voet kunt nemen, kun je zien dat we op weg zijn naar een situatie waarin systemen keuzes voor ons gaan maken. En we moeten stoppen en ons afvragen wat er gebeurt als die systemen de menselijke strategie opzij zetten ten gunste van iets dat ons totaal onbekend is.

Hoe zit het met de politieke en economische trends? Kun je degene beschrijven die je het meest zorgen baart?

In de Verenigde Staten kan de vrije stroom van ideeën zich ongehinderd verspreiden. Zo is Silicon Valley ontstaan. Het heeft zowel concurrentie als innovatie voortgebracht, en zo zijn we gekomen waar we nu zijn met AI en andere soorten technologieën.

The Big Nine: hoe technische titanen en hun denkmachines de mensheid kunnen vervormen door Amy Webb

In de VS hebben we echter ook te lijden onder een tragisch gebrek aan vooruitziendheid. In plaats van een grootse strategie voor AI of voor onze langetermijntoekomsten te creëren, heeft de federale overheid de financiering van wetenschappelijk en technisch onderzoek weggenomen. Het geld moet dus uit de particuliere sector komen. Maar beleggers verwachten ook een soort van rendement. Dat is een probleem. Je kunt je R&D-doorbraken niet plannen als je bezig bent met fundamentele technologie en onderzoek. Het zou geweldig zijn als de grote technologiebedrijven de luxe zouden hebben om heel hard te werken zonder een jaarlijkse conferentie te hoeven organiseren om te pronken met hun nieuwste en beste whizz-bang-ding. In plaats daarvan hebben we nu talloze voorbeelden van slechte beslissingen die iemand in de G-MAFIA heeft genomen, waarschijnlijk omdat ze snel werkten. We beginnen de negatieve effecten te zien van de spanning tussen het doen van onderzoek dat in het belang is van de mensheid en het gelukkig maken van investeerders.

Dat zou al erg genoeg zijn zoals het is, toch? Maar dit gebeurt allemaal op hetzelfde moment dat er een enorme hoeveelheid macht wordt geconsolideerd in China. China heeft een staatsvermogensfonds dat zich toelegt op fundamenteel basisonderzoek op het gebied van AI. Ze gooien enorme hoeveelheden geld naar AI. En ze hebben een heel ander idee dan de VS als het gaat om privacy en data. Dit betekent dat ze veel meer gegevens hebben die kunnen worden gedolven en verfijnd. Met een centrale autoriteit is het voor de overheid supereenvoudig om AI-services te testen en te bouwen die gegevens van 1,3 miljard mensen bevatten. En dat is gewoon in hun eigen land.

Dan hebben ze het Belt and Road Initiative, dat eruitziet als een traditioneel infrastructuurprogramma maar deels ook digitaal is. Het gaat niet alleen om het bouwen van wegen en bruggen; het gaat ook over het bouwen van 5G-netwerken en het leggen van glasvezel, en over het ontginnen en verfijnen van data in het buitenland. De inzet van deze technologieën is een risico voor mensen die belang hechten aan zaken als vrijheid van meningsuiting en westerse democratische idealen.

Waarom zouden we streven naar westerse democratische idealen?

Het is een geweldige vraag. Ik heb in China, in Japan en natuurlijk in de Verenigde Staten gewoond. En je zou kunnen kijken naar de staat van ons land op dit moment en wat er in China gebeurt en je afvragen, is dat echt het ergste? Het sociale kredietscoresysteem van China klinkt trouwens bizar en vreselijk voor Amerikanen, maar wat veel mensen zich niet realiseren, is dat zelfrapportage en monitoringgedrag binnen dorpen en gemeenschappen voor altijd deel uitmaakten van de Chinese cultuur. De sociale kredietscore automatiseert dat gewoon. Dus ja, dat is een geweldige vraag.

Ik denk dat ik zou zeggen dat als ik zou kijken naar de geïdealiseerde versie van het Chinese communisme en de geïdealiseerde versie van de westerse democratie, ik de westerse democratie zou kiezen omdat ik denk dat er een betere kans is voor de vrije stroom van ideeën en voor alledaagse mensen om te slagen. Ik denk dat het geven van prikkels aan mensen voor individuele en persoonlijke prestaties een geweldige manier is om een ​​samenleving op te tillen en ons helpt ons individuele potentieel te bereiken.

Met de richting die de wereld opgaat met AI vandaag, is dat een eerlijke vergelijking? Moeten we de geïdealiseerde versies van het Chinese communisme vergelijken met de westerse democratie, of de slechtste versies van de twee?

Dat is een goede vraag, want je zou kunnen stellen dat delen van het AI-ecosysteem onze westerse democratische idealen al op een echt negatieve manier beïnvloeden. Uiteraard dient alles wat er met Facebook is gebeurd als voorbeeld. Maar kijk ook eens wat er aan de hand is met de anti-vaxxer community. Ze verspreiden totaal onjuiste informatie over vaccins en basiswetenschap. Onze Amerikaanse tradities zullen zeggen vrijheid van meningsuiting, platforms zijn platforms, we moeten mensen zich laten uiten. Welnu, de uitdaging daarbij is dat algoritmen keuzes maken over redactionele inhoud die ertoe leiden dat mensen zeer slechte beslissingen nemen en als gevolg daarvan kinderen ziek maken.

Het probleem is dat onze technologie steeds geavanceerder is geworden, maar ons denken over wat vrijheid van meningsuiting is en hoe een vrijemarkteconomie eruitziet, is niet zo geavanceerd geworden. We hebben de neiging om onze toevlucht te nemen tot zeer basale interpretaties: vrije meningsuiting betekent dat alle meningsuiting vrij is, tenzij deze in strijd is met de wet op smaad, en dat is het einde van het verhaal. Dat is niet het einde van het verhaal. We moeten een meer verfijnd en intelligent gesprek beginnen over onze huidige wetten, onze opkomende technologie en hoe we die twee in het midden kunnen laten ontmoeten.

Met andere woorden, je hebt er vertrouwen in dat we zullen evolueren van waar we nu zijn naar een meer geïdealiseerde versie van de westerse democratie. En dat zou je veel liever hebben dan het geïdealiseerde Chinese communisme.

Ja, ik heb er vertrouwen in dat het mogelijk is. Mijn grote zorg is dat iedereen zit te wachten, dat we ons op de hielen zitten en dat er een ware catastrofe voor nodig is om mensen tot actie te brengen, alsof de plek waar we zijn aangekomen niet catastrofaal is. Maar het feit dat mazelen terug is in de staat Washington voor mij is een catastrofale afloop. Dat is ook wat er is gebeurd in de nasleep van de verkiezingen. Ongeacht aan welke kant van het politieke spectrum u zich bevindt, ik kan me niet voorstellen dat iemand vandaag denkt dat het huidige politieke klimaat goed is voor onze toekomst.

Dus ik geloof absoluut dat er een weg vooruit is. Maar we moeten samenkomen en de kloof tussen Silicon Valley en DC overbruggen, zodat we allemaal de boot in dezelfde richting kunnen sturen.

Wat raadt u de overheid, bedrijven, universiteiten en individuele consumenten aan?

Het ontwikkelingstraject van AI is een probleem, en ieder van ons heeft een aandeel. Jij, ik, mijn vader, mijn buurman, de man bij de Starbucks waar ik nu langs loop. Dus wat moeten gewone mensen doen? Wees u meer bewust van wie uw gegevens gebruikt en hoe. Neem een ​​paar minuten de tijd om werk te lezen dat is geschreven door slimme mensen en besteed een paar minuten om erachter te komen waar we het echt over hebben. Voordat u uw leven opzegt en foto's van uw kinderen gaat delen, moet u dat op een geïnformeerde manier doen. Als je het goed vindt wat het inhoudt en wat het later zou kunnen betekenen, prima, maar zorg ervoor dat je die kennis eerst hebt.

Bedrijven en investeerders kunnen niet verwachten dat ze een product keer op keer overhaasten. Het maakt ons klaar voor problemen onderweg. Ze kunnen dus dingen doen zoals hun wervingsprocessen versterken, hun inspanningen om de inclusiviteit te verbeteren aanzienlijk vergroten en ervoor zorgen dat hun personeel meer representatief is voor hoe de echte wereld eruitziet. Ze kunnen ook wat remmen. Elke investering die wordt gedaan in een AI-bedrijf of -project of wat dan ook, moet ook financiering en tijd bevatten voor het controleren van zaken als risico en vooringenomenheid.

Universiteiten moeten in hun opleidingen ruimte creëren voor hybride graden. Ze zouden CS-studenten moeten stimuleren om vergelijkende literatuurwetenschap, wereldreligies, micro-economie, culturele antropologie en soortgelijke cursussen in andere afdelingen te studeren. Ze moeten pleiten voor duale opleidingen in computerwetenschappen en internationale betrekkingen, theologie, politieke wetenschappen, filosofie, volksgezondheid, onderwijs en dergelijke. Ethiek moet niet worden onderwezen als een op zichzelf staande klas, iets om gewoon een lijst af te strepen. Scholen moeten zelfs hoogleraren met een vaste aanstelling stimuleren om ingewikkelde discussies over vooringenomenheid, risico, filosofie, religie, geslacht en ethiek in hun cursussen te verwerken.

Een van mijn grootste aanbevelingen is de oprichting van GAIA, wat ik de Global Alliance on Intelligence Augmentation noem. Op dit moment hebben mensen over de hele wereld een heel verschillende houding en benadering als het gaat om het verzamelen en delen van gegevens, wat kan en moet worden geautomatiseerd, en hoe een toekomst met meer in het algemeen intelligente systemen eruit zou kunnen zien. Dus ik denk dat we een soort centrale organisatie moeten creëren die wereldwijde normen en standaarden kan ontwikkelen, een soort vangrails om niet alleen Amerikaanse of Chinese idealen binnen AI-systemen te doordringen, maar wereldbeelden die veel representatiever zijn voor iedereen.

Bovenal moeten we bereid zijn om over deze veel langere termijn na te denken, niet alleen over vijf jaar. We moeten stoppen met te zeggen: Nou, we kunnen de toekomst niet voorspellen, dus laten we ons er nu geen zorgen over maken. Het is waar, we kunnen de toekomst niet voorspellen. Maar we kunnen het zeker beter plannen.

Een verkorte versie van dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.

zich verstoppen