211service.com
Google benoemt een AI-raad om controverse te voorkomen, maar het blijkt controversieel
Jeremy portje
Het ontwikkelen en commercialiseren van kunstmatige intelligentie is een ethisch mijnenveld gebleken voor bedrijven als Google. Het bedrijf heeft zijn algoritmen beschuldigd van het bestendigen van ras- en gendervooroordelen en het aanwakkeren van inspanningen om autonome wapens te bouwen.
De zoekgigant hoopt nu dat een team van filosofen, ingenieurs en beleidsexperts het zal helpen navigeren door de morele gevaren die kunstmatige intelligentie met zich meebrengt zonder persschandalen, protesten van werknemers of juridische problemen.
Kent Walker, Senior Vice President for Global Affairs en Chief Legal Officer van Google, kondigde de oprichting aan van een nieuwe onafhankelijke instantie om de AI-praktijken van het bedrijf te beoordelen op EmTech Digital, een AI-conferentie in San Francisco, georganiseerd door MIT Technology Review.
Walker zei dat de groep, bekend als de Advanced Technology External Advisory Council (ATEAC), de projecten en plannen van het bedrijf zou beoordelen en rapporten zou opstellen om te helpen bepalen of een van deze in strijd is met de eigen AI-principes van het bedrijf. De raad zal geen vaste agenda hebben, zei Walker, en hij zou niet de bevoegdheid hebben om projecten zelf te vetoën. Maar hij zei dat de rapporten van de groep ons zullen helpen eerlijk te blijven.
De eerste ATEAC zal een filosoof, een econoom, een expert op het gebied van overheidsbeleid en verschillende onderzoekers op het gebied van datawetenschap, machine learning en robotica bevatten. Een aantal van de gekozenen doet actief onderzoek naar kwesties zoals algoritmische vooringenomenheid. De volledige lijst is als volgt: Alessandro Acquisti, Bubacar Bah, de Kai, Dyan Gibbens, Joanna Bryson, Kay Coles James, Luciano Floridi , en William Joseph Burns .
Maar het is aan technologiebedrijven om te bewijzen dat ze oprecht zijn over ethische zorgen. De aankondiging heeft al tot een terugslag geleid van sommige AI-experts die de opname van Gibbens en James in twijfel trekken.
De eerste is de oprichter en CEO van een drone-bedrijf, een keuze die doof lijkt nadat Google te maken kreeg met een reactie van werknemers en een storm van negatieve pers voor zijn betrokkenheid bij Maven, een project om cloud-AI aan de Amerikaanse luchtmacht te leveren voor analyse van dronebeelden. De gevolgen waren aanleiding voor Google om een reeks aan te kondigen AI-principes in de eerste plaats. Laatstgenoemde is de voorzitter van de conservatieve denktank The Heritage Foundation die een anti-LHBTQ-agenda heeft gepusht en wiens organisatie onder meer verkeerde informatie over klimaatverandering heeft verspreid.
De controversiële aankondiging komt te midden van een reeks schandalen waarmee Google en andere grote technologiebedrijven te maken hebben gehad met betrekking tot de ontwikkeling en het gebruik van kunstmatige intelligentie. Bijvoorbeeld, de algoritmen die worden gebruikt voor gezichtsherkenning en sollicitanten filteren is aangetoond dat ze raciale vooroordelen vertonen.
Walker zei op het podium dat Google zijn AI-projecten al zorgvuldig doorlicht. Hij merkte op dat het bedrijf ervoor heeft gekozen geen gezichtsherkenningstechnologie te leveren uit vrees dat het misbruikt zou kunnen worden. In een ander geval zei hij dat het bedrijf ervoor had gekozen om een liplezend AI-algoritme vrij te geven, ondanks de zorgen dat het voor surveillance zou kunnen worden gebruikt, omdat werd geoordeeld dat de potentiële voordelen opwegen tegen de risico's.
Bij EmTech erkende Walker dat de raad opkomende AI-risico's in overweging zou moeten nemen, en hij identificeerde verkeerde informatie en AI-aangedreven videomanipulatie als bijzondere zorgen. Hoe detecteren we dit op al onze platforms? We werken er heel hard aan, zei hij. Wij zijn een zoekmachine, geen waarheidsmachine.