AI-ethiekgroepen herhalen een van de klassieke fouten van de samenleving

Getty

Internationale organisaties en bedrijven haasten zich om wereldwijde richtlijnen te ontwikkelen voor het ethisch gebruik van kunstmatige intelligentie. Verklaringen, manifesten en aanbevelingen stromen het internet over. Maar deze inspanningen zullen zinloos zijn als ze geen rekening houden met de culturele en regionale context waarin AI opereert.

Van KI-systemen is herhaaldelijk aangetoond dat ze problemen veroorzaken die gemarginaliseerde groepen onevenredig treffen, terwijl ze een bevoorrechte groep ten goede komen. De wereldwijde inspanningen op het gebied van AI-ethiek die momenteel aan de gang zijn - waarvan er tientallen zijn - zijn bedoeld om iedereen te helpen profiteren van deze technologie en te voorkomen dat deze schade veroorzaakt. Over het algemeen doen ze dit door richtlijnen en principes op te stellen die ontwikkelaars, financiers en regelgevers moeten volgen. Ze kunnen bijvoorbeeld routinematige interne audits aanbevelen of bescherming eisen voor de persoonlijk identificeerbare informatie van gebruikers.

Wij zijn van mening dat deze groepen goede bedoelingen hebben en waardevol werk doen. De AI-gemeenschap zou het inderdaad eens moeten worden over een reeks internationale definities en concepten voor ethische AI. Maar zonder meer geografische vertegenwoordiging zullen ze een globale visie voor AI-ethiek produceren die de perspectieven van mensen in slechts enkele regio's van de wereld weerspiegelt, met name Noord-Amerika en Noordwest-Europa.

Dit werk is niet eenvoudig of eenvoudig. Eerlijkheid, privacy en vooringenomenheid betekenen: verschillende dingen (pdf) op verschillende plaatsen. Mensen hebben ook verschillende verwachtingen van deze concepten, afhankelijk van hun eigen politieke, sociale en economische realiteit. De uitdagingen en risico's van AI verschillen ook per land.

Als organisaties die werken aan wereldwijde AI-ethiek dit niet erkennen, lopen ze het risico normen te ontwikkelen die op zijn best zinloos en ineffectief zijn in alle regio's van de wereld. In het slechtste geval zullen deze gebrekkige normen leiden tot meer AI-systemen en tools die bestaande vooroordelen in stand houden en ongevoelig zijn voor lokale culturen.

In 2018 reageerde Facebook bijvoorbeeld traag op verkeerde informatie verspreiden in Myanmar die uiteindelijk leidden tot mensenrechtenschendingen. Een beoordeling (pdf) betaald door het bedrijf, ontdekte dat dit toezicht gedeeltelijk te wijten was aan de communityrichtlijnen en het inhoudsmoderatiebeleid van Facebook, dat de politieke en sociale realiteit van het land niet aanpakte.

Er is een duidelijk gebrek aan regionale diversiteit in veel AI-adviesraden, expertpanels en raden.

Om dergelijk misbruik te voorkomen, moeten bedrijven die werken aan ethische richtlijnen voor AI-aangedreven systemen en tools gebruikers van over de hele wereld betrekken bij het creëren van passende normen om deze systemen te besturen. Ze moeten zich ook bewust zijn van hoe hun beleid van toepassing is in verschillende contexten.

Ondanks de risico's is er een duidelijk gebrek aan regionale diversiteit in veel AI-adviesraden, expertpanels en raden die zijn aangesteld door toonaangevende internationale organisaties. De deskundige adviesgroep voor het AI for Children-project van Unicef ​​heeft bijvoorbeeld geen vertegenwoordigers van regio's met de hoogste concentratie van kinderen en jonge volwassenen, waaronder het Midden-Oosten, Afrika en Azië.

Helaas loopt het hele gebied van AI-ethiek, zoals het er nu uitziet, een groot risico zich te beperken tot talen, ideeën, theorieën en uitdagingen uit een handvol regio's, voornamelijk Noord-Amerika, West-Europa en Oost-Azië.

Dit gebrek aan regionale diversiteit weerspiegelt de huidige concentratie van AI-onderzoek (pdf) : 86% van de artikelen die in 2018 op AI-conferenties werden gepubliceerd, werden toegeschreven aan auteurs in Oost-Azië, Noord-Amerika of Europa. En minder dan 10% van de referenties in AI-papers die in deze regio's zijn gepubliceerd, zijn naar papers uit een andere regio. Octrooien zijn ook zeer geconcentreerd: 51% van de AI-patenten die in 2018 werden gepubliceerd, werden toegeschreven aan Noord-Amerika.

Degenen onder ons die in AI-ethiek werken, zullen meer kwaad dan goed doen als we onze eigen inspanningen laten bepalen door het gebrek aan geografische diversiteit in het veld. Als we niet oppassen, zouden we kunnen eindigen met het codificeren van de historische vooroordelen van AI in richtlijnen die de technologie voor toekomstige generaties vervormen. We moeten prioriteit gaan geven aan stemmen uit lage- en middeninkomenslanden ( vooral om slang in de Global zuiden ) en die uit historisch gemarginaliseerde gemeenschappen.

Vooruitgang in technologie heeft het Westen vaak geprofiteerd, terwijl ze de economische ongelijkheid, politieke onderdrukking en vernietiging van het milieu elders hebben verergerd. Het opnemen van niet-westerse landen in de AI-ethiek is de beste manier om herhaling van dit patroon te voorkomen.

Verwant verhaal

Participatie-wassen zou de volgende gevaarlijke rage in machine learning kunnen zijn Veel mensen doen al mee in het veldwerk zonder erkenning of beloning.

Het goede nieuws is dat er veel experts en leiders uit ondervertegenwoordigde regio's zijn om in dergelijke adviesgroepen op te nemen. Veel internationale organisaties lijken echter niet erg hun best te doen om deze mensen te betrekken. De nieuw gevormde Wereldwijd AI Ethics Consortium , heeft bijvoorbeeld geen stichtende leden die academische instellingen of onderzoekscentra uit het Midden-Oosten, Afrika of Latijns-Amerika vertegenwoordigen. Deze omissie is een sterk voorbeeld van koloniale patronen (pdf) zichzelf herhalen.

Als we ethische, veilige en inclusieve AI-systemen gaan bouwen in plaats van ons bezig te houden met ethiek wassen , moeten we eerst vertrouwen opbouwen bij degenen die in het verleden door dezelfde systemen zijn geschaad. Dat begint bij betekenisvol engagement.

Bij de Montreal AI Ethics Institute , waar we allebei werken, proberen we een andere aanpak te kiezen. We organiseren digitale AI-ethiekmeetups, dit zijn open discussies waaraan iedereen met een internetverbinding of telefoon kan deelnemen. Tijdens deze evenementen hebben we contact gehad met een diverse groep individuen, van een professor die in Macau woont tot een universiteitsstudent die in Mumbai studeert.

Ondertussen hebben groepen zoals het Partnership on AI, die het gebrek aan geografische diversiteit in AI in het algemeen erkennen, aanbevolen wijzigingen tot visumwetten en voorgesteld beleid dat het voor onderzoekers gemakkelijker maakt om te reizen en hun werk te delen. Maskhane , een grassroots-organisatie, brengt onderzoekers van natuurlijke taalverwerking uit Afrika samen om machinaal vertaalwerk te ondersteunen dat niet-dominante talen heeft verwaarloosd.

Het is bemoedigend om te zien dat internationale organisaties proberen om meer diverse perspectieven te betrekken bij hun discussies over AI. Het is belangrijk voor ons allemaal om te onthouden dat regionale en culturele diversiteit de sleutel zijn tot elk gesprek over AI-ethiek. Van verantwoorde AI de norm maken in plaats van de uitzondering, is onmogelijk zonder de stemmen van mensen die nog niet de macht en invloed hebben.

NAAR bhishek Gupta is de oprichter van de Montreal AI Ethics Institute en machine learning engineer bij Microsoft, waar hij lid is van de CSE Responsible AI Board. Victoria Heat is onderzoeker bij de Montreal AI Ethics Institute en een senior research fellow bij de NAVO-Vereniging van Canada .

zich verstoppen