211service.com
Het opstellen van een AI-ethische code zal moeilijker zijn dan mensen denken
Varoon Mathur / AI Now Institute
In de afgelopen zes jaar heeft de politie van New York City verzameld een enorme database met daarin de namen en persoonlijke gegevens van ten minste 17.500 personen die volgens haar betrokken zijn bij criminele bendes. De poging is al bekritiseerd door burgerrechtenactivisten die zeggen dat het onnauwkeurig en raciaal discriminerend is.
'Stel je nu eens voor dat je gezichtsherkenningstechnologie zou combineren met de ontwikkeling van een database die theoretisch veronderstelt dat je in een bende zit', zei Sherrilyn Ifill, president en directeur-adviseur van het NAACP Legal Defense-fonds, op de AI Now-symposium afgelopen dinsdag in New York.
Advocaten, activisten en onderzoekers benadrukken de noodzaak van ethiek en aansprakelijkheid bij het ontwerpen en implementeren van AI-systemen. Maar daarbij worden vaak een paar lastige vragen genegeerd: wie mag die ethiek definiëren en wie moet ze afdwingen?
Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) en Nicole Ozer (ACLU) in gesprek op het AI Now 2018 Symposium. Andrew Federman voor AI Now Institute
Niet alleen is gezichtsherkenning onvolmaakt, studies hebben aangetoond dat de toonaangevende software minder nauwkeurig is voor personen met een donkere huidskleur en vrouwen. Volgens de schatting van Ifill is de politiedatabase tussen 95 en 99 procent Afro-Amerikaans, Latino en Aziatisch-Amerikaans. 'We hebben het over het creëren van een klasse van […] mensen die gebrandmerkt zijn met een soort criminele tag,' zei Ifill.
Ondertussen zijn politiediensten in de VS, het VK en China begonnen gezichtsherkenning toe te passen als middel om bekende criminelen op te sporen. In juni heeft de politie van Zuid-Wales vrijgelaten een verklaring die hun gebruik van de technologie rechtvaardigt vanwege het 'algemeen nut' dat het biedt.
Technologie benadrukt inderdaad vaak de verschillende ethische normen van mensen - of dat nu het geval is haatdragende taal censureren of het gebruik van risicobeoordelingsinstrumenten om openbare veiligheid verbeteren .
In een poging om te benadrukken hoe uiteenlopend de principes van mensen kunnen zijn, hebben onderzoekers van het MIT een platform gecreëerd met de naam Morele machine om de mening van mensen te verzamelen over de morele beslissingen die door zelfrijdende auto's moeten worden genomen. Ze vroegen miljoenen mensen van over de hele wereld om hun mening te geven over variaties op de klassieker ' karretje probleem ' door te kiezen wie een auto voorrang moet geven bij een ongeval. De resultaten laten een enorme variatie zien tussen verschillende culturen.
Het vaststellen van ethische normen leidt ook niet noodzakelijk tot gedragsverandering. In juni, bijvoorbeeld, na Google Akkoord om zijn werk aan Project Maven met het Pentagon stop te zetten, heeft het een nieuwe reeks van ethische principes om zijn betrokkenheid bij toekomstige AI-projecten te begeleiden. Slechts enkele maanden later hebben veel Google-medewerkers het gevoel dat deze principes aan de kant zijn geschoven met een bod op een Contract van $ 10 miljard Ministerie van Defensie . NAAR recent onderzoek van de North Carolina State University ontdekte ook dat het vragen van software-ingenieurs om een ethische code te lezen hun gedrag niet verandert.
Philip Alston, een internationale rechtsgeleerde aan de NYU's School of Law, stelt een oplossing voor voor de dubbelzinnige en onverklaarbare aard van ethiek: het herkaderen van AI-gedreven consequenties in termen van mensenrechten. '[Mensenrechten staan] in de grondwet', zei Alston op dezelfde conferentie. 'Ze staan in de Bill of Rights; ze zijn geïnterpreteerd door rechtbanken,' zei hij. Als een AI-systeem de basisrechten van mensen wegneemt, zou het niet acceptabel moeten zijn, zei hij.
Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) en Vincent Southerland (Center on Race, Inequality, and the Law aan NYU) op het podium van het symposium. Andrew Federman voor AI Now Institute
Alston is niet de enige die met deze oplossing is gekomen. Minder dan een week voor het symposium publiceerde het Data & Society Research Institute een voorstel voor het gebruik van internationale mensenrechten om AI te besturen. Het rapport bevat aanbevelingen voor technologiebedrijven om samen te werken met burgerrechtengroepen en onderzoekers, en om mensenrechteneffectbeoordelingen uit te voeren over de levenscycli van hun AI-systemen.
'Totdat we [mensenrechten] in de AI-discussie gaan betrekken,' voegde Alston eraan toe, 'is er geen hard anker.'