Congres wil antwoorden van Google over het ontslag van Timnit Gebru

yvette clarke

Vertegenwoordiger Yvette Clarke AP Foto/Kathy Willens





Negen leden van het Amerikaanse Congres hebben een brief naar Google gestuurd met het verzoek om opheldering van de omstandigheden rond het gedwongen vertrek van Timnit Gebru, de voormalige ethische co-leider van AI. Onder leiding van vertegenwoordiger Yvette Clarke en senator Ron Wyden, en mede ondertekend door senatoren Elizabeth Warren en Cory Booker, de brief geeft een belangrijk signaal af over hoe het Congres techreuzen onder de loep neemt en nadenkt over aanstaande regelgeving.

Gebru, een leidende stem in AI-ethiek en een van de weinige zwarte vrouwen bij Google, was zonder pardon ontslagen twee weken geleden, na een langdurig meningsverschil over een onderzoekspaper. De krant gedetailleerd de risico's van grote AI-taalmodellen getraind op enorme hoeveelheden tekstgegevens, die een kernlijn vormen van Google's onderzoek, en die verschillende producten mogelijk maken, waaronder de lucratieve Google Zoeken.



Onder verwijzing naar de berichtgeving van MIT Technology Review, roept de brief drie problemen op: het potentieel voor vooringenomenheid in grote taalmodellen, de groeiende invloed van bedrijven op AI-onderzoek en het gebrek aan diversiteit van Google. Het vraagt ​​Google-CEO Sundar Pichai om een ​​concreet plan over hoe het elk van deze zal aanpakken, evenals om zijn huidige beleid voor het herzien van onderzoek en details over het lopende onderzoek naar het vertrek van Gebru (Pichai heeft zich in dit onderzoek in een interne memo , voor het eerst gepubliceerd door Axios). Als leden van het Congres die actief op zoek zijn naar het verbeteren van AI-onderzoek, aansprakelijkheid en diversiteit door middel van wetgeving en toezicht, vragen we respectvol uw verzoek om de volgende vragen, staat in de brief.

In april 2019 hebben Clarke en Wyden een wetsvoorstel ingediend, de Algoritmische verantwoordingswet , waarbij grote bedrijven hun machine-learningsystemen moeten controleren op vooringenomenheid en tijdig corrigerende maatregelen moeten nemen als dergelijke problemen worden vastgesteld. Het zou die bedrijven ook verplichten om alle processen waarbij gevoelige gegevens betrokken zijn, inclusief persoonlijk identificeerbare, biometrische en genetische informatie, te controleren op privacy- en veiligheidsrisico's. Destijds prezen veel juridische en technologische experts de rekening vanwege het genuanceerde begrip van AI en datagestuurde technologieën. Prima eerste stap, schreef Andrew Selbst, een assistent-professor aan de University California Los Angeles School of Law, op Twitter. Documentatie, beoordeling en pogingen om de voorziene effecten aan te pakken zijn vereist. Dat is nieuw, spannend en ongelooflijk noodzakelijk.

Verwant verhaal

We lazen de krant die Timnit Gebru uit Google dwong. Dit is wat het zegt.

De steronderzoeker op het gebied van ethiek van het bedrijf benadrukte de risico's van grote taalmodellen, die essentieel zijn voor de activiteiten van Google.



De laatste brief houdt niet rechtstreeks verband met de Algorithmic Accountability Act, maar het maakt deel uit van dezelfde stap van bepaalde congresleden om wetgeving op te stellen die AI-bias en de andere schade van datagestuurde, geautomatiseerde systemen zou verminderen. Het komt met name te midden van toenemende druk voor antitrustregelgeving. Eerder deze maand heeft de Amerikaanse Federal Trade Commission een antitrustzaak aangespannen tegen Facebook wegens concurrentieverstorend gedrag en oneerlijke concurrentiemethoden. In de zomer publiceerde House Democrats een rapport van 449 pagina's over de monopolistische praktijken van Big Tech.

De brief komt ook in de context van stijgende geopolitieke spanningen. Aangezien de betrekkingen tussen de VS en China tijdens de pandemie een historisch dieptepunt hebben bereikt, hebben Amerikaanse functionarissen het strategische belang van opkomende technologieën zoals AI en 5G onderstreept. De brief verhoogt ook deze dimensie en erkent het leiderschap van Google op het gebied van AI en zijn rol bij het handhaven van het leiderschap van de VS. Maar het maakt duidelijk dat dit de regelgevende actie niet mag ondermijnen, een argumentatie gepopulariseerd door Facebook-CEO Mark Zuckerberg . Om ervoor te zorgen dat Amerika de AI-race wint, zegt de brief, moeten Amerikaanse technologiebedrijven niet alleen de wereld leiden in innovatie; ze moeten er ook voor zorgen dat dergelijke innovatie de waarden van onze natie weerspiegelt.

Onze brief zou iedereen in de technologiesector, niet alleen Google, moeten laten weten dat we opletten, zei Clarke in een verklaring aan MIT Technology Review. Ethische AI ​​is het strijdtoneel voor de toekomst van burgerrechten. Onze zorgen over recente ontwikkelingen gaan niet alleen over één persoon; ze gaan over hoe de 21e eeuw eruit zal zien als academische vrijheid en inclusie op de achtergrond raken bij andere prioriteiten. We kunnen algoritmische vooringenomenheid niet verminderen als we degenen die het willen onderzoeken en bestuderen, belemmeren.



zich verstoppen