Vijf manieren om van AI in 2021 een grotere kracht te maken

Een ballon is vastgebonden aan een metalen gewicht. Een schaar knipt het touwtje door dat het op zijn plaats houdt. Getty

Een jaar geleden, niet wijzer over wat 2020 zou brengen, I weerspiegeld op het cruciale moment dat de AI-gemeenschap zich bevond. Het voorgaande jaar, 2018, had een reeks spraakmakende geautomatiseerde storingen gezien, zoals zelfrijdende auto crasht en discriminerende wervingstools . In 2019 reageerde het veld met meer gepraat over AI-ethiek dan ooit tevoren. Maar praten, zei ik, was niet genoeg. We moesten concrete acties ondernemen. Twee maanden later legde het coronavirus de wereld plat.

In onze nieuwe sociaal afstandelijke, alles-op-afstand-realiteit, kwamen deze gesprekken over algoritmische schade plotseling tot een hoogtepunt. Systemen die in de marge stonden, zoals HireVue's gezichtsscanalgoritmen en tools voor werkplekbewaking , gingen mainstream. Anderen, zoals tools om leerlingen volgen en evalueren , waren in realtime aan het draaien. In augustus, na een spectaculaire mislukking van de Britse regering om persoonlijke examens te vervangen door een algoritme voor toelating tot de universiteit, honderden studenten verzamelden zich in Londen om te zingen: Fuck het algoritme. Dit wordt de strijdkreet van 2020, getweet AI-accountability-onderzoeker Deb Raji, toen een demonstrant van Stanford het opnieuw riep als reactie op: een ander debacle een paar maanden later.

Tegelijkertijd was er inderdaad meer actie. In één grote overwinning hebben Amazon, Microsoft en IBM hun verkoop van gezichtsherkenning aan wetshandhavers verboden of opgeschort, nadat de moord op George Floyd wereldwijde protesten tegen politiegeweld had aangewakkerd. Het was het hoogtepunt van twee jaar vechten door onderzoekers en burgerrechtenactivisten om de ineffectieve en discriminerende effecten van de technologieën van de bedrijven aan te tonen. Een andere verandering was klein maar opmerkelijk: voor de allereerste keer vroeg NeurIPS, een van de meest prominente AI-onderzoeksconferenties, onderzoekers om een ethische verklaring indienen met hun papieren.

Dus hier zijn we aan het begin van 2021, met meer publieke en regelgevende aandacht voor de invloed van AI dan ooit tevoren. Mijn goede voornemen voor het nieuwe jaar: laten we het tellen. Hier zijn vijf hoop die ik heb voor AI in het komende jaar.

Invloed van bedrijven in onderzoek verminderen

De techreuzen hebben onevenredige controle over de richting van AI-onderzoek. Dit heeft de richting van het veld als geheel verschoven naar steeds meer big data en big modellen, met verschillende gevolgen. Het vergroot de klimaatimpact van AI-ontwikkelingen, sluit laboratoria met beperkte middelen uit van deelname aan het veld en leidt tot luie wetenschappelijk onderzoek door het scala aan andere mogelijke benaderingen te negeren. Als Google's verdrijving van Timnit Gebru onthuld , zullen techreuzen het vermogen om ook andere gevolgen te onderzoeken gemakkelijk beperken.

Maar veel van de invloed van bedrijven komt neer op geld en het gebrek aan alternatieve financiering. Zoals ik vorig jaar schreef in mijn profiel van OpenAI , wilde het lab aanvankelijk alleen vertrouwen op onafhankelijke, rijke donoren. De weddenschap bleek onhoudbaar en vier jaar later tekende OpenAI een investeringsovereenkomst met Microsoft. Ik hoop dat we meer regeringen in deze leegte zullen zien stappen om niet-defensiegerelateerde financieringsopties voor onderzoekers te bieden. Het zal geen perfecte oplossing zijn, maar het zal een begin zijn. Overheden zijn verplicht aan het publiek, niet aan de bottom line.

Richt u opnieuw op begrip van gezond verstand

De overweldigende aandacht voor grotere en slechtere modellen heeft een van de centrale doelen van AI-onderzoek overschaduwd: intelligente machines maken die niet alleen overeenkomen met patronen, maar ook daadwerkelijk betekenis begrijpen. Hoewel de invloed van het bedrijfsleven een belangrijke bijdrage levert aan deze trend, zijn er ook andere boosdoeners. Onderzoeksconferenties en peer-review publicaties leggen een grote nadruk op het bereiken van state-of-the-art resultaten. Maar de stand van de techniek is vaak slecht gemeten door tests dat kan worden verslagen met meer gegevens en grotere modellen.

Verwant verhaal

We lazen de krant die Timnit Gebru uit Google dwong. Dit is wat het zegt.

De steronderzoeker op het gebied van ethiek van het bedrijf benadrukte de risico's van grote taalmodellen, die essentieel zijn voor de activiteiten van Google.

Het is niet zo dat grootschalige modellen nooit tot gezond verstand kunnen komen. Dat is nog een open vraag. Maar er zijn andere onderzoekspistes die meer investeringen verdienen. Sommige experts hebben hun weddenschap geplaatst op neurosymbolische AI , dat deep learning combineert met symbolische kennissystemen. Anderen experimenteren met meer probabilistische technieken die veel minder gegevens gebruiken, geïnspireerd door het vermogen van een mensenkind om te leren van zeer weinig voorbeelden.

In 2021 hoop ik dat het veld zijn prikkels zal herschikken om voorrang te geven aan begrip boven voorspelling. Dit zou niet alleen kunnen leiden tot meer technisch robuuste systemen, maar de verbeteringen zouden ook grote sociale implicaties hebben. Zo ondermijnt de gevoeligheid van huidige deep-learningsystemen om voor de gek gehouden te worden de veiligheid van zelfrijdende auto's en vormt gevaarlijke mogelijkheden voor autonome wapens . Het onvermogen van systemen om onderscheid te maken tussen correlatie en oorzakelijk verband ligt ook aan de basis van: algoritmische discriminatie .

Empower gemarginaliseerde onderzoekers

Als algoritmen de waarden en perspectieven van hun makers codificeren, zou een brede dwarsdoorsnede van de mensheid aan tafel moeten zitten wanneer ze worden ontwikkeld. Ik heb daar geen beter bewijs van gezien dan in december 2019, toen ik NeurIPS bezocht. Dat jaar, met een recordaantal vrouwen en minderheidssprekers en aanwezigen, kon ik de strekking van de procedure voelen tastbaar verschuiven . Er waren meer gesprekken dan ooit over de invloed van AI op de samenleving.

Destijds prees ik de gemeenschap voor haar vooruitgang. Maar Google's behandeling van Gebru , een van de weinige prominente zwarte vrouwen in de industrie, liet zien hoe ver er nog te gaan is. Diversiteit in aantallen is zinloos als die individuen niet in staat zijn om hun doorleefde ervaring in hun werk te brengen. Ik ben echter optimistisch dat het tij aan het veranderen is. Het vlampunt dat werd gemarkeerd door het afvuren van Gebru veranderde in een kritiek moment van reflectie voor de industrie. Ik hoop dat dit momentum leidt tot langdurige, systemische verandering.

Centreer de perspectieven van getroffen gemeenschappen

Er is ook een andere groep om aan tafel te brengen. Een van de meest opwindende trends van vorig jaar was de opkomst van participatieve machine learning . Het is een provocatie om het proces van AI-ontwikkeling opnieuw uit te vinden om degenen op te nemen die uiteindelijk onderworpen worden aan de algoritmen.

In juli is de eerste conferentie workshop gewijd aan deze aanpak verzamelde een breed scala aan ideeën over hoe het eruit zou kunnen zien. Suggesties waren onder meer nieuwe bestuursprocedures voor het vragen om feedback van de gemeenschap; nieuwe methoden voor modelcontrole om het publiek te informeren en te betrekken; en voorgestelde herontwerpen van AI-systemen om gebruikers meer controle over hun instellingen te geven.

Ik hoop voor 2021 dat meer van deze ideeën serieus worden onderzocht en aangenomen. Facebook maakt al een begin: als het doorgaat met het toestaan ​​​​van zijn externe toezichtsraad om bindende wijzigingen aan te brengen in het contentmoderatiebeleid van het platform, zou de bestuursstructuur een feedbackmechanisme kunnen worden dat navolging verdient.

Codificeer vangrails in regelgeving

Tot nu toe hebben inspanningen van de basis geleid tot de beweging om algoritmische schade te beperken en techreuzen verantwoordelijk te houden. Maar het is aan nationale en internationale toezichthouders om meer permanente vangrails op te zetten. Het goede nieuws is dat wetgevers over de hele wereld toekijken en bezig zijn met het opstellen van wetgeving. In de VS hebben leden van het Congres al geïntroduceerd rekeningen om gezichtsherkenning, AI-bias en deepfakes aan te pakken. Een aantal van hen ook een brief gestuurd aan Google in december waarin ze hun intentie uitten om deze regelgeving voort te zetten.

Dus mijn laatste hoop voor 2021 is dat we een aantal van deze rekeningen zullen zien passeren. Het wordt tijd dat we codificeren wat we de afgelopen jaren hebben geleerd, en afstand nemen van de fictie van zelfregulering.

zich verstoppen