211service.com
Google-medewerkers staan in de rij om de AI-ethiekraad van Google te vernietigen
Getty Images/Leon Neal
Bijna duizend Google-medewerkers, academische onderzoekers en andere figuren uit de technische sector hebben getekend een brief protesteren tegen de samenstelling van een onafhankelijke raad die Google heeft opgericht om de ethiek van zijn AI-projecten te sturen.
De zoekgigant bekend gemaakt de oprichting van de raad vorige week op EmTech Digital, het evenement van MIT Technology Review in San Francisco. Het staat bekend als de Advanced Technology External Advisory Council (ATEAC) en heeft acht leden, waaronder economen, filosofen, beleidsmakers en technologen met expertise in zaken als algoritmische vooringenomenheid. Het is de bedoeling dat het vanaf deze maand vier keer per jaar vergadert en rapporten schrijft die bedoeld zijn om feedback te geven op projecten bij het bedrijf die kunstmatige intelligentie gebruiken.
Maar twee van die leden bleken controversieel. Eén, Dyan Gibbens, is CEO van Trumbull, een bedrijf dat autonome systemen ontwikkelt voor de defensie-industrie – een omstreden keuze aangezien duizenden Google-medewerkers protesteerden tegen het besluit van het bedrijf om de Amerikaanse luchtmacht te voorzien van AI voor drone-beeldvorming. De grootste verontwaardiging kwam echter over de opname van Kay Coles James, voorzitter van de Heritage Foundation, een denktank die zich verzet tegen het reguleren van koolstofemissies, een harde lijn volgt ten aanzien van immigratie en zich uitspreekt tegen de bescherming van LGBTQ-rechten.
Een lid van de raad, Alessandro-aankopen , een professor aan de Carnegie Mellon University die gespecialiseerd is in digitale privacykwesties, kondigde op 30 maart aan dat hij de rol niet zou opnemen. Hoewel ik toegewijd ben aan onderzoek naar de belangrijkste ethische kwesties van eerlijkheid, rechten en inclusie in AI, geloof ik niet dat dit het juiste forum voor mij is om aan dit belangrijke werk deel te nemen,' hij twitterde .
De oprichting van ATEAC - en de opname van Gibbens en James - is mogelijk bedoeld om de rechtse critici van Google te sussen. Ongeveer op hetzelfde moment dat de raad werd aangekondigd, had Sundar Pichai, de CEO van Google, een ontmoeting met president Donald Trump. Trump tweette later: Hij verklaarde krachtig dat hij zich volledig inzet voor het Amerikaanse leger, niet voor het Chinese leger. [We] bespraken ook politieke rechtvaardigheid en verschillende dingen die Google voor ons land kan doen. Vergadering is goed afgelopen!
Maar een Google-medewerker die betrokken was bij het opstellen van de protestbrief, die sprak op voorwaarde van anonimiteit, zei dat James meer is dan alleen een conservatieve stem in de raad. Ze is een reactionair die het bestaan van transgenders ontkent, die radicaal anti-immigranten standpunten onderschrijft, en anti-klimaatverandering, anti-wetenschappelijke standpunten onderschrijft.
Sommige bekende AI-algoritmen kunnen vooroordelen die al in de samenleving worden gezien, versterken; van sommigen is aangetoond dat transgenders verkeerd identificeren , bijvoorbeeld. In dat kader is het feit dat [James] werd opgenomen best schokkend, aldus de medewerker. Deze technologieën geven vorm aan onze sociale instellingen, ons leven en onze toegang tot hulpbronnen. Als AI faalt, faalt het niet voor rijke blanke mannen die bij technologiebedrijven werken. Het faalt voor precies de bevolkingsgroepen die het beleid van de Heritage Foundation al beoogt te schaden.
In berichten op een intern communicatieplatform van Google werd vooral kritiek geuit op de benoeming van James. Volgens een bericht, eerder gerapporteerd door de Verge en bevestigd door de medewerker, verdient James geen door Google gelegitimeerd platform en hoort hij zeker niet thuis in een gesprek over hoe Google-technologie op de wereld moet worden toegepast.
Om 17.30 uur US Eastern Time was de openbare brief, geplaatst op Medium, ondertekend door 855 Google-medewerkers en 143 andere mensen, waaronder een aantal vooraanstaande academici. De opvattingen van James zijn niet alleen in strijd met de door Google gestelde waarden, stelt de brief, maar ze zijn ook rechtstreeks in strijd met het project om ervoor te zorgen dat bij de ontwikkeling en toepassing van AI rechtvaardigheid boven winst gaat. Een dergelijk project zou vertegenwoordigers van kwetsbare gemeenschappen in het middelpunt van de besluitvorming moeten plaatsen.
Correctie : In een eerdere versie van dit verhaal stond dat slechts zeven Google-medewerkers de brief op Medium hadden ondertekend.