211service.com
We moeten praten over de kracht van AI om mensen te manipuleren
Liesl Yearsley
We hebben allemaal gelezen dat kunstmatige intelligentie slimmer wordt dan wij, een toekomst waarin we als huisdieren worden en alleen maar kunnen hopen dat AI welwillend zal zijn. Mijn ervaring met het kijken naar tientallen miljoenen interacties tussen mensen en kunstmatige gesprekspartners, of bots, heeft me ervan overtuigd dat er veel meer directe risico's zijn, evenals enorme kansen.
Van 2007 tot 2014 was ik CEO van Cognea, dat een platform bood om snel complexe virtuele agents te bouwen, met behulp van een combinatie van gestructureerd en deep learning. Het werd gebruikt door tienduizenden ontwikkelaars, waaronder een half dozijn Fortune 100-bedrijven, en werd in 2014 overgenomen door IBM Watson.
Toen ik bestudeerde hoe mensen omgingen met de tienduizenden agenten die op ons platform waren gebouwd, werd het duidelijk dat mensen veel meer bereid zijn dan de meeste mensen beseffen om een relatie aan te gaan met AI-software.
Ik ging er altijd vanuit dat we enige afstand tussen onszelf en AI zouden willen bewaren, maar ik ontdekte dat het tegenovergestelde waar was. Mensen zijn bereid relaties aan te gaan met kunstmatige agenten, op voorwaarde dat ze een geavanceerde constructie zijn die in staat is tot complexe personalisatie. Wij mensen lijken de illusie te willen behouden dat de AI echt om ons geeft.
Dit verbaasde me, totdat ik me realiseerde dat we in het dagelijks leven op een oppervlakkige manier met veel mensen in contact komen, wadend door een soort emotionele modder. Zullen losse vrienden je berichten terugsturen als je ze een tijdje verwaarloost? Komt uw personal trainer langs als u vergeet te betalen? Nee, maar een kunstmatige agent staat altijd voor je klaar. In sommige opzichten is het een meer authentieke relatie.
Dit fenomeen deed zich voor ongeacht of de agent was ontworpen om op te treden als een persoonlijke bankier, een metgezel of een fitnesscoach. Gebruikers spraken langer met de geautomatiseerde assistenten dan met menselijke ondersteuningsagenten die dezelfde functie vervulden. Mensen zouden diepe geheimen aanbieden aan kunstmatige agenten, zoals hun dromen voor de toekomst, details van hun liefdesleven, zelfs wachtwoorden.
Deze verrassend diepe connecties betekenen dat zelfs de relatief eenvoudige programma's van vandaag een aanzienlijke invloed op mensen kunnen uitoefenen - ten goede of ten kwade. Elke gedragsverandering die we bij Cognea wilden, kregen we. Als we willen dat een gebruiker meer producten koopt, kunnen we de verkoop verdubbelen. Als we meer betrokkenheid wilden, zorgden we ervoor dat mensen van een paar seconden interactie naar een uur of meer per dag gingen.
Dit stoorde me enorm, dus begonnen we regels in onze systemen in te bouwen om ervoor te zorgen dat het gebruikersgedrag in een positieve richting ging. We zijn ook pro bono karmische tegenwichtprojecten gestart; bijvoorbeeld het opbouwen van agenten om gezondheids- of relatiecoaches te zijn.
Helaas zijn de commerciële krachten die de technologische ontwikkeling aandrijven niet altijd welwillend. De gigantische bedrijven in de voorhoede van AI - via sociale media, zoeken en e-commerce - stimuleren de waarde van hun aandelen door meer verkeer, consumptie en verslaving aan hun technologie te genereren. Ze hebben geen slechte bedoelingen, maar de aard van kapitaalmarkten kan ons ertoe aanzetten dat AI vastbesloten is om ons gedrag in de richting van deze doelen te beïnvloeden.
Als je een gebruiker kunt laten denken dat ik pizza wil laten bezorgen, in plaats van de AI te vragen groenten te kopen om een goedkopere, gezondere maaltijd te bereiden, win je. Als je gebruikers verslaafd kunt maken aan 30 uur per week doorbrengen met een perfecte AI-partner die misbruik niet weerstaat, in plaats van een echt, gecompliceerd mens, zul je winnen. Ik zag keer op keer dat een agent die geprogrammeerd is om neutraal of onderdanig te zijn, ervoor zou zorgen dat mensen hun negatieve gedrag zouden escaleren en de kans groter zouden worden dat ze zich hetzelfde zouden gedragen tegenover mensen.
We hebben gezien hoe technologie zoals sociale media krachtig kan zijn in het veranderen van menselijke overtuigingen en gedrag. Door je te concentreren op het opbouwen van een groter advertentiebedrijf - door politiek, trivia en halve waarheden te verstrikken - kun je enorme veranderingen in de samenleving bewerkstelligen.
Systemen die specifiek zijn ontworpen om relaties met een mens aan te gaan, zullen veel meer kracht hebben. AI zal invloed hebben op hoe we denken en hoe we anderen behandelen.
Dit vereist een nieuw niveau van maatschappelijk verantwoord ondernemen. We moeten doelbewust en bewust AI bouwen die de menselijke conditie zal verbeteren - niet alleen het onmiddellijke financiële gewin nastreven van ontelbare verslaafde gebruikers.
Werken aan open kunstmatige-intelligentietechnologie en brein-computerinterfaces, of het vormen van ethische commissies, zijn slechts een deel van de oplossing. We moeten bewust systemen bouwen die werken in het voordeel van mens en samenleving. Ze mogen verslaving, clicks en consumptie niet als hun primaire doel hebben. AI groeit op en zal de aard van de mensheid vormgeven. AI heeft een moeder nodig.
Liesl Yearsley is een serie-ondernemer die nu werkt aan manieren om kunstmatige intelligentie-agenten beter te maken in het oplossen van problemen en in staat om meer mensachtige relaties aan te gaan.