211service.com
Hey Google, sorry dat je je ethische raad bent kwijtgeraakt, dus we hebben er een voor je gemaakt
Nou, dat duurde niet lang. Na iets meer dan een week kwam Google terug op de oprichting van zijn Advanced Technology External Advisory Council, of ATEAC, een commissie die bedoeld was om het bedrijf advies te geven over de ethische ontwikkeling van nieuwe technologieën zoals AI. De opname van de voorzitter van de Heritage Foundation, Kay Coles James, in de raad veroorzaakte een verontwaardiging over haar anti-milieuactivisten, anti-LHBTQ en anti-immigranten standpunten, en leidde bijna 2500 Google-medewerkers om een petitie voor haar verwijdering te ondertekenen. In plaats daarvan besloot de internetgigant gewoon om het hele ding te sluiten.
Hoe ging het zo mis? En kan Google ze rechtzetten? We hebben een tiental experts op het gebied van AI, technologie en ethiek om ons te vertellen waar het bedrijf de weg kwijt was en wat het zou kunnen doen. Als deze mensen op ATEAC hadden gezeten, had het verhaal misschien een ander resultaat gehad.
'Wees transparant en specifiek over de rollen en verantwoordelijkheden die ethische raden hebben'
Rashida Richardson, directeur beleidsonderzoek bij het AI Now Institute
'We hebben geen inzicht of ethische commissies eigenlijk een moreel kompas zijn of gewoon een rubberen stempel'
In theorie zouden ethische commissies een groot voordeel kunnen zijn als het erom gaat ervoor te zorgen dat AI-producten veilig en niet discriminerend zijn. Maar om ervoor te zorgen dat ethische commissies een zinvolle impact hebben, moeten ze publiekelijk verantwoording afleggen en een echt toezichtsbevoegdheid hebben.
Dat betekent dat technologiebedrijven bereid moeten zijn om de criteria te delen die ze gebruiken om te selecteren wie in deze ethische commissies mag zitten. Ze moeten ook transparant en specifiek zijn over de rollen en verantwoordelijkheden die hun ethische commissies hebben, zodat het publiek hun doeltreffendheid kan beoordelen. Anders hebben we geen inzicht of ethische commissies eigenlijk een moreel kompas zijn of gewoon een rubberen stempel. Gezien de wereldwijde invloed en verantwoordelijkheid van grote AI-bedrijven, is dit niveau van transparantie en verantwoording essentieel.
Bedenk wat het eigenlijk betekent om technologie effectief en rechtvaardig te besturen
Jake Metcalf, onderzoeker technologie-ethiek bij Data & Society
De ATEAC-ophef laat ons zien hoe beladen en controversieel dit nieuwe tijdperk van technische ethiek waarschijnlijk zal zijn. Google heeft de kamer in dit geval duidelijk verkeerd gelezen. Politiek marginale populaties die onderhevig zijn aan de classificerende grillen van AI/ML-technologieën zullen waarschijnlijk de grootste ethische schade ondervinden van geautomatiseerde besluitvorming. Google geeft de voorkeur aan Kay Coles James vanwege de diversiteit van standpunten boven haar openlijke haat tegen transgenders, laat zien dat ze niet voldoende nadenken over wat het eigenlijk betekent om technologie effectief en rechtvaardig te besturen.
'Ethiek betekent twee verschillende dingen die in de praktijk tegenstrijdig kunnen zijn. Bedrijven zijn vatbaar voor het eerste en zijn doodsbang voor het laatste'
Het is lastig voor bedrijven omdat ethiek twee verschillende dingen betekent die in de praktijk tegenstrijdig kunnen zijn: het is zowel het dagelijkse werk van het begrijpen en verzachten van de gevolgen (zoals het uitvoeren van een biasdetectietool of het organiseren van een deliberatieve ontwerpvergadering), en het oordeel over hoe de samenleving kan het meest terecht worden besteld (zoals of ongelijksoortige schade aan gemarginaliseerde gemeenschappen betekent dat een productlijn moet worden uitgebreid). Bedrijven zijn vatbaar voor het eerste en zijn doodsbang voor het laatste. Maar als AI-ethiek niet gaat over het voorkomen van geautomatiseerd misbruik, het blokkeren van de overdracht van gevaarlijke technologieën aan autocratische regeringen of het verbieden van de automatisering van staatsgeweld, dan is het moeilijk om te weten wat technologiebedrijven denken dat het anders is dan lege gebaren. Onder de mooie nieuwe tool voor ethiekrapportage die compatibel is met de KPI-statistieken van het bedrijf, schuilt een oprechte zorg dat levens op het spel staan. Die allemaal tegelijk in je hoofd houden is een bureaucratische uitdaging voor bedrijven en voor ethici die geïnvesteerd hebben in het zien winnen van rechtvaardigere technologieën.
Erken eerst de olifant in de kamer: de AI-principes van Google
Evan Selinger, hoogleraar filosofie aan het Rochester Institute of Technology
Google zette de kibosh op ATEAC zonder eerst de olifant in de kamer te erkennen: de AI-principes dat CEO Sundar Pichai tijdens de zomer verwoordde. Vooraanstaande academici, mensen van maatschappelijke organisaties en senior medewerkers van technologiebedrijven hebben me consequent verteld dat hoewel de principes er op papier goed uitzien, ze flexibel genoeg zijn om te worden geïnterpreteerd op een manier die Google ervan weerhoudt om de groei op lange termijn in gevaar te brengen strategieën, niet in de laatste plaats omdat de handhavingsmechanismen voor het schenden van de principes niet goed gedefinieerd zijn, en uiteindelijk blijft de hele onderneming een zelfregulerende onderneming.
Dat gezegd hebbende, zou het zeker helpen om het leiderschap meer verantwoording af te leggen aan een ethische raad als de groep (a) correct was samengesteld; (b) duidelijke en robuuste institutionele bevoegdheden krijgen (in plaats van er alleen maar te zijn om advies te geven); en (c) zelf ook worden gehouden aan transparante verantwoordingsnormen om ervoor te zorgen dat het geen radertje wordt in een rationaliserende, ethische wasmachine.
Verander de mensen die verantwoordelijk zijn voor het samenstellen van deze groepen
Ellen Pao, oprichter van Project Include
Deze mislukte poging laat precies zien waarom Google betere adviseurs nodig heeft. Maar misschien moeten ze ook de mensen veranderen die verantwoordelijk zijn voor het samenstellen van deze groepen - en misschien zouden hun interne teams dit werk ook moeten doen. Er waren verschillende problemen met het resultaat, zoals we allemaal hebben gezien, maar ook problemen met het proces. Als je niet met de hele groep hebt gecommuniceerd met wie ze gaan werken, is dat een grote fout. Het brengen van mensen die meer een afspiegeling zijn van de wereld waarin we leven, had intern moeten gebeuren voordat we probeerden een externe groep samen te stellen.
Kanttekening, mensen zouden de groepen moeten onderzoeken waar ze lid van worden, de conferentiepanels waar ze spreken en hun teams voordat ze zich verbinden, zodat ze weten waarvoor ze zich aanmelden. Het is verbazingwekkend hoeveel je ze kunt beïnvloeden en hoe je de samenstelling van een groep kunt veranderen door gewoon te vragen.
Versterk antagonisme - niet deze vriendelijke interne partnerschappen en handholding-inspanningen
Meg Leta Jones, assistent-professor communicatie, cultuur en technologie aan de Georgetown University
Ethische borden zijn niemands dagelijkse werk en bieden alleen de mogelijkheid voor onregelmatige gesprekken op hoog niveau die op zijn best inzicht verschaffen en in het slechtste geval dekking bieden. Als we vertrouwen willen vestigen in instellingen, waaronder technologieën, technologiebedrijven, media en overheid, vereist onze huidige politieke cultuur antagonisme - niet deze vriendelijke interne partnerschappen en handholding-inspanningen. Het machtigen van tegenstanders en het ondersteunen van antagonisme kan op een meer geschikte en effectievere manier voldoen aan de doelstellingen van 'ethische AI'.
'Ethiekborden geven op zijn best inzicht en in het slechtste geval dekkend'
Kijk naar binnen en empower medewerkers die solidair zijn met kwetsbare groepen
Anna Lauren Hoffmann, assistent-professor bij The Information School aan de Universiteit van Washington
Het mislukte ATEAC-bestuur van Google maakt duidelijk dat AI-ethiek niet alleen gaat over hoe we AI-technologieën bedenken, ontwikkelen en implementeren, maar ook over hoe we aan ethiek doen. Doorleefde kwetsbaarheden, verdelingen van macht en invloed, en wiens stemmen verheven worden, zijn allemaal integrale overwegingen bij het nastreven van ethiek in de echte wereld. Daartoe maken het ATEAC-debacle en andere gevallen van pushback (bijvoorbeeld tegen Project Maven, Dragonfly en het beleid inzake seksuele intimidatie) duidelijk dat Google al een enorme bron van middelen heeft in veel van zijn eigen werknemers. Hoewel we ook zinvolle regelgeving en extern toezicht nodig hebben, moet het bedrijf naar binnen kijken en de reeds gemarginaliseerde werknemers in staat stellen zich te organiseren en solidair te zijn met kwetsbare groepen om de alomtegenwoordige problemen van transfobie, racisme, vreemdelingenhaat en haat aan te pakken.
Een bestuur kan niet zomaar 'enkele belangrijke mensen zijn die we kennen'. Je hebt echte ethici nodig'
Patrick Lin, directeur van de Groep Ethiek + Opkomende Wetenschappen bij Cal Poly
In de woorden van Aaliyah denk ik dat de volgende stap voor Google is om jezelf af te stoffen en het opnieuw te proberen. Maar ze moeten meer nadenken over wie ze op het bord zetten - het kan niet zomaar een 'laten we eens een paar belangrijke mensen die we kennen' zijn, zoals versie 1.0 van de raad leek te zijn. Ten eerste, als er oprechte interesse is om ethische begeleiding te krijgen, dan heb je echte ethici nodig - experts die een professionele opleiding hebben genoten in theoretische en toegepaste ethiek. Anders zou het een afwijzing zijn van de waarde van expertise, die we tegenwoordig al veel te veel zien, bijvoorbeeld als het gaat om basiswetenschap.
'Stel je voor dat het bedrijf een AI-wetsraad wilde bijeenroepen, maar er zat maar één advocaat in'
Stel je voor dat het bedrijf een AI-wetsraad wilde bijeenroepen, maar er zat maar één advocaat in (net zoals er maar één filosoof in de AI-ethiekraad v1.0 zat). Dat zou ernstige rode vlaggen opleveren. Het is niet genoeg dat iemand werkt aan kwesties van juridisch belang - heel veel mensen doen dat, waaronder ik, en ze kunnen de deskundige mening van rechtsgeleerden en advocaten goed aanvullen. Maar om die raad echt effectief te laten zijn, moeten echte domeinexperts in de kern aanwezig zijn.
De afgelopen weken hebben laten zien dat direct organiseren werkt
Os Keyes, een PhD-student in Data Ecologies Lab aan de Universiteit van Washington
Eerlijk gezegd heb ik geen advies voor Google. Google doet precies wat bedrijven in onze samenleving moeten doen; werken voor politiek (en dus regelgevend, en dus financieel) voordeel zonder een spoor van moraliteit in hun kwartaalresultaten of strategisch plan te laten snijden. Mijn advies is voor iedereen behalve Google. Voor mensen buiten Google: bel uw vertegenwoordigers. Vraag wat ze doen aan AI-regelgeving. Vraag wat ze doen aan lobbycontroles. Vraag wat ze doen aan bedrijfsregulering. Voor mensen in de academische wereld: bel je instructeurs. Vraag wat ze doen om ethiekstudenten te leren dat ethiek alleen belangrijk is als het wordt toegepast en beleefd. Voor mensen binnen Google: bel de mensen buiten en vraag wat ze van je nodig hebben. De gebeurtenissen van de afgelopen weken lieten zien dat direct organiseren werkt; solidariteit werkt.
Vier bijeenkomsten per jaar zullen waarschijnlijk geen impact hebben. We hebben agile ethische input nodig
Irina Raicu, directeur van het internetethiekprogramma aan de Santa Clara University
Ik denk dat dit een geweldige gemiste kans was. Ik vroeg me af wie er binnen Google betrokken was bij de besluitvorming over wie ik moest uitnodigen. (Die beslissing op zich vereiste verschillende input.) Maar dit spreekt het bredere probleem hier aan: het feit dat Google de aankondiging deed over de oprichting van het bord zonder enige uitleg van hun criteria voor het selecteren van de deelnemers. Er was ook heel weinig discussie over hun redenen voor het creëren van het bord, wat ze hoopten dat de impact van het bord zou zijn, enz. Als ze meer context hadden gegeven, had de daaropvolgende discussie er misschien anders uitgezien.
Er zijn ook andere problemen; gezien de snelheid waarmee AI zich ontwikkelt en wordt ingezet, zullen vier vergaderingen (zelfs met een diverse groep ethische adviseurs op het gebied van AI) in de loop van een jaar waarschijnlijk geen betekenisvolle impact hebben, d.w.z. om het traject van onderzoek of productontwikkeling echt te veranderen. Zolang het model agile ontwikkeling is, hebben we ook agile ethische input nodig.
De groep moet de bevoegdheid hebben om nee te zeggen tegen projecten
Sam Gregory, programmadirecteur bij Witness
Als Google echt respect voor ethiek of mensenrechten wil inbouwen in de AI-initiatieven, moeten ze eerst erkennen dat een adviesraad, of zelfs een bestuursraad, slechts een onderdeel is van een grotere aanpak. Ze moeten vanaf het begin duidelijk zijn dat de groep daadwerkelijk de bevoegdheid heeft om nee te zeggen tegen projecten en gehoord te worden. Vervolgens moeten ze expliciet zijn over het raamwerk - we raden aan dat het gebaseerd is op gevestigde internationale mensenrechtenwetten en -normen - en daarom mag een persoon of groep die discriminerend of beledigend is, daar geen deel van uitmaken.
Behandel ethiek niet als een PR-spel of een technisch probleem
Anna Jobin, onderzoeker bij het Health Ethics and Policy Lab van het Zwitserse Federale Instituut voor Technologie
Als Google ethische AI serieus neemt, moet het bedrijf vermijden om ethiek te behandelen als een PR-spel of een technisch probleem en het in te bedden in zijn zakelijke praktijken en processen. Het kan zijn dat het zijn bestuursstructuren moet herontwerpen om een betere vertegenwoordiging en verantwoordelijkheid te creëren voor zowel zijn interne personeelsbestand als de samenleving als geheel. Het moet met name prioriteit geven aan het welzijn van minderheden en kwetsbare gemeenschappen over de hele wereld, met name mensen die nadelige gevolgen ondervinden of kunnen ondervinden van de technologie ervan.
'Zoek niet alleen traditionele expertise, maar ook de inzichten van mensen die experts zijn in hun eigen ervaringen'
Joy Buolamwini, oprichter van de Algorithmic Justice League
Als we nadenken over de governance van AI, moeten we niet alleen traditionele expertise zoeken, maar ook de inzichten van mensen die experts zijn in hun eigen ervaringen. Hoe kunnen we gemarginaliseerde stemmen betrekken bij het vormgeven van AI? Hoe zou participatieve AI, waarin de standpunten van degenen die het meeste risico lopen op de nadelige effecten van AI, worden gecentreerd eruit kunnen zien?
'Ik kan me niet voorstellen dat een aanbeveling van zo'n adviespanel in de weg staat van wat de markt vraagt'
Leren van de ATEAC-ervaring Google zou gecompenseerde beoordelingsprocessen van de gemeenschap moeten opnemen in de ontwikkeling van zijn producten en diensten. Dit vereist zinvolle transparantie en continu toezicht. En Google en andere leden van het Partnership on AI zouden een deel van de winst opzij moeten zetten om consortiumfinanciering te verstrekken voor onderzoek naar AI-ethiek en aansprakelijkheid, zonder zich alleen te concentreren op AI-billijkheidsonderzoek dat alleen technische perspectieven verheft.
Misschien is het maar goed dat het vijgenblad van 'ethische ontwikkeling' is weggevaagd
Adam Greenfield, auteur van Radicale technologieën
Alles wat we over dit bord hebben gehoord, was beschamend, van het aanvankelijke instinct om James uit te nodigen tot de beslissing om het te sluiten in plaats van energie te steken in het omgaan met de gevolgen van die keuze. Maar aangezien mijn gevoelens over AI min of meer die van de Butleriaanse Jihad zijn, is het misschien maar goed dat het vijgenblad van 'ethische ontwikkeling' is weggevaagd. Uiteindelijk kan ik me niet voorstellen dat een aanbeveling van een dergelijk adviespanel, hoe het ook is samengesteld, in de weg staat van wat de markt vraagt, en/of de waargenomen noodzaak om te concurreren met andere actoren die zich bezighouden met AI-ontwikkeling.
'Het is hartverwarmend om de kracht van medewerkersactivisme te zien'
Tess Posner, CEO van AI4ALL
Het is geweldig om te zien hoe bedrijven, organisaties en onderzoekers werken aan het creëren van ethische kaders voor AI. De technische industrie ervaart groeipijnen op dit gebied - uitzoeken hoe dit goed te doen is een uitdaging en zal tijd en herhaling vergen. We geloven dat dit een kans is om te blijven vragen welke stemmen moeten worden opgenomen, en ervoor te zorgen dat verschillende stemmen en stemmen worden opgenomen die rechtstreeks kunnen worden beïnvloed door de resultaten van genomen beslissingen. Het is hartverwarmend om te zien hoe krachtig het activisme van werknemers is om deze en andere technische problemen te veranderen.