De AI-gemeenschap moet verantwoordelijkheid nemen voor haar technologie en haar acties

Celeste Kidd Niall Carson / AP

Op maandag, bij de opening van een van 's werelds grootste bijeenkomsten van AI-onderzoekers, sprak Celeste Kidd duizenden aanwezigen toe in een ruimte die bijna twee keer zo groot was als een voetbalveld. Ze trok haar klappen niet uit.

Een neutraal platform bestaat niet, vertelde de invloedrijke wetenschapper en prominent #metoo-boegbeeld aan de aanwezigen op de NeurIPS-conferentie in Vancouver. De algoritmen die inhoud online pushen, hebben een grote impact op wat wij geloven.

Kidd, een professor psychologie aan de University of California, Berkeley, staat binnen haar vakgebied bekend om haar belangrijke bijdragen aan ons begrip van de theory of mind - hoe we kennis verwerven en hoe we overtuigingen vormen. Twee jaar geleden werd ze ook bekend bij de rest van de wereld toen Time haar noemde Persoon van het Jaar onder anderen die zich uitspraken tegen seksueel misbruik en intimidatie.

Op het podium deelde Kidd vijf lessen uit haar onderzoek en liet ze zien hoe de beslissingen van de tech-industrie mensen kunnen beïnvloeden om valse overtuigingen te ontwikkelen, bijvoorbeeld door klimaatverandering te ontkennen. Tegen het einde van haar toespraak deelde ze ook haar ervaring met seksuele intimidatie als afgestudeerde student en direct aangesproken enkele van de misverstanden die ze van mannen had gehoord over de #metoo-beweging.

Het lijkt misschien een enge tijd om op dit moment een man in de techniek te zijn, zei ze tegen de congresgangers, van wie dit jaar ongeveer 80% mannen zijn. Er is een gevoel dat een carrière kan worden vernietigd door ongemakkelijke passes of misverstanden.

Wat ik vandaag tegen alle mannen in de zaal wil zeggen, is dat je bent misleid, zei ze.

Haar toespraak kreeg een staande ovatie - een zeldzaam moment in de geschiedenis van de conferentie.

De opmerkingen van Kidd komen op een moment dat de AI-gemeenschap - en de technische industrie in het algemeen - gedwongen is rekening te houden met de onbedoelde schade van haar technologieën. Alleen al in het afgelopen jaar is in een reeks spraakmakende zaken aan het licht gekomen hoe deepfakes vrouwen kunnen misbruiken, hoe algoritmen discriminerende beslissingen kunnen nemen in de gezondheidszorg en kredietverlening, en hoe het ontwikkelen van AI-modellen enorm kostbaar kan zijn voor het milieu. Tegelijkertijd is de gemeenschap opgeschrikt door verschillende schandalen over seksueel misbruik en intimidatie , waaronder enkele over incidenten bij voorgaande jaren van de conferentie zelf . Het heeft ook nog steeds last van ontstellende diversiteitscijfers.

Maar Kidds toespraak bracht een belangrijke verschuiving aan het licht die begon te gebeuren - een die die avond voelbaar in de kamer werd gevoeld. Na haar toespraak stonden tientallen mensen in de rij bij de microfoons die door de kamer waren verspreid om haar te bedanken voor het uitspreken over deze kwesties. Tientallen anderen verzamelden zich na de sessie om haar heen - sommigen alleen om haar dankbaar de hand te schudden. Voor aanwezigen die zich de jaarlijkse bijeenkomst zelfs twee jaar geleden herinneren, is er een nieuwe openheid om deze uitdagingen te erkennen en een hernieuwde focus op het beter doen.

De dag na haar toespraak zat ik met Kidd om meer te praten over de twee berichten die ze afleverde, hoe ze met elkaar verband houden en haar hoop voor de toekomst.

Dit interview is voor de duidelijkheid bewerkt en ingekort.

In het onderzoeksgedeelte van je lezing eindigde je met je boodschap: er bestaat niet zoiets als een neutraal platform. Hoe ben je op basis van je onderzoek tot deze conclusie gekomen?

Iets wat ik me de afgelopen jaren pas heb gerealiseerd - vanwege mijn interacties met mijn twee afgestudeerde studenten - is dat er niet echt een onderscheid is tussen kennis en overtuigingen. Dat zijn in principe hetzelfde.

Nu gaan we begrijpen hoe deze dynamiek die we hebben waargenomen in laboratoriumexperimenten zich uitbreidt naar de echte wereld. Wanneer iemand naar het internet gaat en niet zeker weet wat hij moet geloven, waar lopen ze dan meestal mee weg van deze neutrale zoekopdrachten? Kunnen we diezelfde soort ideeën gebruiken om te proberen uit te leggen waarom mensen denken dat de aarde plat is en waarom die misvattingen niet worden gecorrigeerd? Dat is niet een gebied waar ik veel aandacht voor heb gezien, maar het is er een waarvan ik denk dat het erg belangrijk is.

Waarom was het belangrijk voor u om uw boodschap op deze conferentie te delen?

Zoveel van wat we nu geloven, komt uit online bronnen. Vooral kinderen - ze vormen de bouwstenen van kennis die later zullen vormen waar ze in geloven, wat ze willen leren over stroomafwaarts. Voor jonge kinderen is er ook reden om te verwachten dat ze meer autoplay en voorgestelde inhoud consumeren dan volwassenen. Dus in eerste instantie lopen ze meer risico te worden beïnvloed door het algoritme dat inhoud pusht, omdat dat hun enige keuze is.

Mijn lezing was bedoeld als een boodschap aan mensen die aan de systemen werken om rekening te houden met hoe die back-end beslissingen de overtuigingen van een individuele persoon beïnvloeden, maar ook de samenleving als geheel. Ik denk niet dat er genoeg gevoeligheid is in technologie voor de manier waarop de beslissingen die je achter de schermen neemt over hoe je content kunt pushen, het leven van mensen beïnvloeden.

Er is een veelgehoorde strijdkreet wanneer er vragen opkomen over hoe inhoud wordt aangeboden: de bewering dat platforms neutraal zijn. En dat vind ik oneerlijk. De back-endbeslissingen die u neemt, hebben direct invloed op wat mensen geloven, en dat weten mensen. Dus doen alsof dat niets is, is oneerlijk.

Als we het gedrag van mensen veranderen, veranderen we hun overtuigingen. En die veranderingen hebben reële, concrete gevolgen. Als een ouder informatie zoekt over het al dan niet vaccineren van zijn kind - als ze besluiteloos naar hun laptop lopen en ze besluiten weg te lopen, maakt het echt uit welke inhoud werd aangeboden, welke opvattingen werden vertegenwoordigd.

Ik denk niet dat het redelijk is om te zeggen dat je geen enkele verantwoordelijkheid draagt ​​voor wat een moeder haar kind aandoet - of ze nu besluit het kind te vaccineren of niet - omdat je daar niet over nagedacht hebt toen je het systeem bouwde. Ik denk dat je de verantwoordelijkheid hebt om na te gaan wat de gevolgen zijn van de back-end beslissingen.

U zei in de privé-Q&A na uw gesprek dat u nooit zowel uw onderzoek als uw ervaringen met seksuele intimidatie op een openbaar forum hebt gepresenteerd. Waarom scheid je die twee meestal van elkaar en waarom heb je besloten ze te combineren?

Ik begin met de tweede - ik heb in dit geval een uitzondering op de regel gemaakt omdat ik het erg belangrijk vond voor deze gemeenschap om die boodschap te horen. Informatica is een vakgebied waar vrouwen het lange tijd heel moeilijk hebben gehad om grip te krijgen en door te breken. Er is al vroeg veel belangstelling en dan is er een lekkende pijp. En ik weet dat een van de dingen die het erg moeilijk maken om het als vrouw goed te doen op dit gebied, minder mogelijkheden voor mentorschap zijn.

Ik weet dat het heel gewoon is dat mannen in de informatica met goede bedoelingen zich zorgen maken over het beledigen van vrouwen. De downstream implicatie hiervan is dat vrouwen opleidingsmogelijkheden mislopen, maar ook dat de mannen de ideeën en innovatie mislopen die de vrouwen zouden brengen. Empirische studies tonen aan dat diversiteit leidt tot hogere innovatiepercentages. En de mogelijkheid om met een groot deel van deze mannen tegelijk in één kamer te praten - ik voelde dat het belangrijk was, en dat moest ik doen.

De reden waarom ik ze meestal niet mix: ik heb niet gekozen wat er met me gebeurde in mijn eerste jaar van de grad school in Rochester. Ik heb niet gekozen wat de reactie van de universiteit zou zijn. Ik wilde een carrière in de wetenschap en die wil ik beschermen, dus ik wil niet minder over wetenschap praten omdat ik me over deze kwestie heb uitgesproken. Maar ik ben me er ook van bewust dat de meeste mensen niet de kans krijgen, ze krijgen geen platform om zich uit te spreken. Wat er meestal gebeurt met mensen die vroeg in hun carrière seksueel zijn lastiggevallen en waarvan hun instelling represailles tegen hen nam, is dat ze verdwijnen. Ik zou het niet goed vinden om niets te doen. Mensen die privileges hebben, moeten het gebruiken waar ze kunnen. En dit was een kans om het voorrecht te gebruiken om een ​​lezing te geven bij NeurIPS om de jongere vrouwen te helpen die een gelijke behandeling verdienen.

Maakte u zich zorgen over de manier waarop deze opmerkingen zouden landen?

Natuurlijk. Maar bang zijn voor de reactie is geen reden om niet te spreken. Ik had het een beetje over privileges. Ik bevind me ook in een relatief bevoorrechte positie op deze specifieke conferentie omdat er zoveel mensen in de industrie zijn, en ik denk dat de druk om mensen te zwijgen groter is bij bedrijven dan in de academische wereld, althans op dit moment in de technologie. Dus als ik me zorgen zou maken over mijn ontslag, zou dat een extra ding zijn om me stil te houden. UC Berkeley was zich ervan bewust dat ik me over deze kwesties uitsprak voordat ze me in dienst namen, en ze hebben me niets dan steun en aanmoediging getoond bij het vechten voor gelijkheid. Door op een plek te zijn die me zo ondersteunt, kan ik dingen zeggen zonder bang te zijn mijn baan te verliezen en het eten voor mijn kind niet te kunnen betalen. En dat is de andere reden waarom ik het gevoel had dat ik moest spreken.

Ik had echt verwacht dat sommige mensen boos zouden zijn. Het zijn 13.000 mensen. Natuurlijk kunnen sommige mensen mij verkeerd begrijpen. Ik heb letterlijk gesproken over hoe wanneer we woorden gebruiken, ze dubbelzinnig zijn en mensen verschillende concepten activeren. Het is niet mogelijk om alle mensen precies te overtuigen wat u in gedachten heeft.

Ook al scheid je je gesprekken over je onderzoek en je activisme gewoonlijk in twee delen, voor mij gaan ze eigenlijk over hetzelfde: hoe je verantwoorde technologie kunt ontwikkelen door meer verantwoordelijkheid te nemen voor je beslissingen en acties.

Rechts. Je zei me dat er in de AI-gemeenschap meer wordt gepraat over de ethische implicaties, dat er meer waardering is voor de verbinding tussen de technologie en de samenleving. En ik denk dat een deel daarvan komt doordat de gemeenschap diverser wordt en meer mensen erbij betrekt. Ze komen uit een minder bevoorrechte plaats en zijn zich scherper bewust van zaken als vooringenomenheid en onrecht en hoe technologieën die zijn ontworpen voor een bepaalde demografie daadwerkelijk schade kunnen berokkenen aan kansarme bevolkingsgroepen.

Ik hoop dat dat doorgaat. We moeten met elkaar praten om vooruitgang te boeken. En we verdienen het allemaal om ons veilig te voelen als we met elkaar omgaan.

Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.

zich verstoppen