Een vooraanstaande AI-ethiekonderzoeker zegt dat ze is ontslagen bij Google

Timnit Gebru

Kimberly White / Stringer





Op 2 december was de AI-onderzoeksgemeenschap geschokt toen ze hoorde dat Timnit Gebru was ontslagen uit haar functie bij Google. Gebru, een van de leidende stemmen in verantwoord AI-onderzoek, staat onder meer bekend om zijn co-auteur van grensverleggend werk dat de discriminerende aard van gezichtsherkenning , medeoprichter van de Black in AI-affiniteitsgroep, en meedogenloos pleiten voor diversiteit in de technische industrie .

Maar op woensdagavond kondigde ze aan op Twitter dat ze was ontslagen uit haar functie als co-lead op het gebied van ethische AI ​​van Google. Blijkbaar heeft de manager van mijn manager een e-mail [naar] mijn directe ondergeschikten gestuurd met de mededeling dat ze mijn ontslag aanvaardde. Ik had geen ontslag genomen, zei ze.

In een interview met Bloomberg op donderdag zei Gebru dat het ontslag plaatsvond na een langdurig gevecht met haar superieuren over de publicatie van een AI-ethisch onderzoeksdocument. Een van de tweets van Gebru en later interne e-mail van Jeff Dean, hoofd van Google AI, suggereert dat de krant kritiek had op: de milieukosten en ingebedde vooroordelen van grote taalmodellen.



Gebru, die de paper samen met vier Google-collega's en twee externe medewerkers had geschreven, had hem voorgelegd aan een onderzoeksconferentie die volgend jaar wordt gehouden. Na een interne review werd haar gevraagd de krant in te trekken of de namen van de Google-medewerkers te verwijderen. Ze antwoordde dat ze dat zou doen als haar superieuren aan een aantal voorwaarden voldeden. Als ze dat niet konden, zou ze werk op een laatste date , ze zei.

Ze stuurde ook een gefrustreerde e-mail naar een interne lijstdienst, Google Brain Women and Allies, waarin ze de herhaalde ontberingen beschrijft die ze als zwarte vrouwelijke onderzoeker had meegemaakt. We hebben net een zwart onderzoek gehad met zo'n emotionele show van ergernis, schreef ze. Weet je wat er sindsdien is gebeurd? Zwijgen op de meest fundamentele manier mogelijk.

Gebru ging toen op vakantie en ontving een beëindigingsmail van Megan Kacholia, de VP of engineering bij Google Research, voordat ze terugkeerde. Bedankt voor het duidelijk maken van uw voorwaarden, de e-mail vermeld: , zoals getweet door Gebru. We kunnen niet akkoord gaan met #1 en #2 zoals u vraagt. We respecteren uw beslissing om Google daarom te verlaten en we accepteren uw ontslag. Haar e-mail aan de listserv strookte niet met de verwachtingen van een Google-manager, vervolgde hij. Als gevolg hiervan accepteren we uw ontslag onmiddellijk, met ingang van vandaag.

Donderdagochtend, na een stortvloed aan steun voor Gebru op sociale media, stuurde Dean een interne e-mail naar de AI-groep van Google met zijn verhaal over de situatie. Hij zei dat het artikel van Gebru niet aan onze lat voor publicatie voldeed omdat het te veel relevant onderzoek negeerde. Hij zei ook dat de voorwaarden van Gebru inhielden dat de identiteit werd onthuld van elke persoon met wie Megan en ik hadden gesproken en geraadpleegd als onderdeel van de beoordeling van de krant en de exacte feedback.



Gezien de rol van Timnit als gerespecteerd onderzoeker en manager in ons Ethical AI-team, voel ik me slecht dat Timnit op een plek is gekomen waar ze zo denkt over het werk dat we doen, schreef hij. Ik weet dat we allemaal oprecht de passie van Timnit delen om AI rechtvaardiger en inclusiever te maken.

Noch Gebru, Dean, noch Google-berichten reageerden op verzoeken om commentaar, en veel details over de exacte voortgang van de gebeurtenissen of de oorzaak van de beëindiging blijven onduidelijk. Terwijl ze blijven verschijnen, hebben velen hernieuwde aandacht besteed aan een tweet van 30 november die Gebru bovenaan haar profiel heeft geprikt. Is er iemand die werkt aan regelgeving die ethische AI-onderzoekers beschermt, vergelijkbaar met de bescherming van klokkenluiders? er staat. Want met de hoeveelheid censuur en intimidatie die plaatsvindt jegens mensen in specifieke groepen, hoe kan iemand erop vertrouwen dat echt onderzoek op dit gebied kan plaatsvinden?

zich verstoppen