Het congres wil je beschermen tegen bevooroordeelde algoritmen, deepfakes en andere slechte AI

Simone Nironha

Afgelopen woensdag introduceerden Amerikaanse wetgevers een nieuwe rekening dat is een van de eerste grote inspanningen van het land om AI te reguleren. Er zullen er waarschijnlijk nog meer volgen.

Het duidt op een dramatische verschuiving in de houding van Washington ten opzichte van een van de krachtigste technologieën van deze eeuw. Nog maar een paar jaar geleden waren beleidsmakers weinig geneigd om AI te reguleren. Nu de gevolgen van het niet doen steeds tastbaarder worden, ontwikkelt een klein contingent in het Congres een bredere strategie om de technologie in toom te houden.

Hoewel de VS niet de enige is in dit streven – het VK, Frankrijk , Australië en anderen hebben allemaal onlangs wetgeving opgesteld of aangenomen om technologiebedrijven verantwoordelijk te houden voor hun algoritmen - het land heeft een unieke kans om de wereldwijde impact van AI vorm te geven als de thuisbasis van Silicon Valley. Een probleem in Europa is dat we geen koplopers zijn in de ontwikkeling van AI, zegt Bendert Zevenbergen, voormalig technologiebeleidsadviseur in het Europees Parlement en nu onderzoeker aan Princeton University. We zijn in veel opzichten een soort ontvangers van AI-technologie. We zijn zeker het tweede niveau. Het eerste niveau is de VS en China.

Het nieuwe wetsvoorstel, de Algorithmic Accountability Act genaamd, zou grote bedrijven ertoe verplichten hun machine learning-systemen te controleren op vooringenomenheid en discriminatie en tijdig corrigerende maatregelen te nemen als dergelijke problemen worden vastgesteld. Het zou ook vereisen dat die bedrijven niet alleen machine learning, maar alle processen waarbij gevoelige gegevens betrokken zijn, inclusief persoonlijk identificeerbare, biometrische en genetische informatie, controleren op privacy- en veiligheidsrisico's. Als het wetsvoorstel wordt aangenomen, zou de regelgevende macht in handen komen van de Amerikaanse Federal Trade Commission, de instantie die verantwoordelijk is voor consumentenbescherming en antitrustregelgeving.

De conceptwetgeving is het eerste product van vele maanden discussie tussen wetgevers, onderzoekers en andere experts om consumenten te beschermen tegen de negatieve effecten van AI, zegt Mutale Nkonde, een onderzoeker bij het Data & Society Research Institute die bij het proces betrokken was. Het is een reactie op verschillende spraakmakende onthullingen in het afgelopen jaar die hebben aangetoond dat algoritmische vooringenomenheid in veel contexten verregaande schade kan aanrichten. Deze omvatten Amazon's interne wervingstool dat bestraft vrouwelijke kandidaten; commerciële gezichtsanalyse- en herkenningsplatforms die veel minder nauwkeurig zijn voor vrouwen met een donkere huidskleur dan voor mannen met een lichtere huid; en, meestal recentelijk, een algoritme voor het aanbevelen van Facebook-advertenties dat waarschijnlijk discriminatie op het gebied van werkgelegenheid en huisvesting in stand houdt, ongeacht de specifieke doelgroep van de adverteerder.

Verwant verhaal

Verwant verhaal Bias kan in veel stadia van het diepgaande leerproces binnensluipen en de standaardpraktijken in de informatica zijn niet ontworpen om dit te detecteren.

Het wetsvoorstel is al geprezen door leden van de AI-ethiek- en onderzoeksgemeenschap als een belangrijke en doordachte stap om mensen te beschermen tegen dergelijke onbedoelde ongelijksoortige effecten. Geweldige eerste stap, schreef Andrew Selbst, een technologie- en jurist bij Data & Society, op Twitter . Documentatie, beoordeling en pogingen om de voorziene effecten aan te pakken zijn vereist. Dat is nieuw, spannend en ongelooflijk noodzakelijk.

Het zal ook niet de enige stap zijn. Het voorstel, zegt Nkonde, maakt deel uit van een grotere strategie om in de toekomst regelgevend toezicht op AI-processen en -producten te brengen. Er zal waarschijnlijk binnenkort een ander wetsvoorstel komen om de verspreiding van desinformatie, waaronder deepfakes, als een bedreiging voor de nationale veiligheid aan te pakken, zegt ze. Nog een rekening die dinsdag werd geïntroduceerd, zou manipulatieve ontwerppraktijken verbieden die techreuzen soms gebruiken om consumenten ertoe te brengen hun gegevens op te geven. Het is een meervoudige aanval, zegt Nkonde.

Elke rekening is opzettelijk uitgebreid en omvat verschillende AI-producten en dataprocessen in verschillende domeinen. Een van de uitdagingen waarmee Washington worstelt, is dat een technologie als gezichtsherkenning kan worden gebruikt voor: drastisch verschillende doeleinden in verschillende sectoren , zoals wetshandhaving, auto's en zelfs de detailhandel. Vanuit regelgevend oogpunt zijn onze producten branchespecifiek, zegt Nkonde. De toezichthouders die naar auto's kijken, zijn niet dezelfde toezichthouders die naar aanbestedingen in de publieke sector kijken, die niet dezelfde toezichthouders zijn die naar apparaten kijken.

Het congres probeert na te denken over hoe het traditionele regelgevingskader kan worden aangepast om aan deze nieuwe realiteit tegemoet te komen. Maar het zal lastig zijn om dit te doen zonder een one-size-fits-all oplossing op te leggen aan verschillende contexten. Omdat gezichtsherkenning voor zoveel verschillende dingen wordt gebruikt, wordt het moeilijk om te zeggen: 'Dit zijn de regels voor gezichtsherkenning', zegt Zevenbergen.

Nkonde voorziet dat deze regelgevende beweging uiteindelijk zal leiden tot een nieuw kantoor of agentschap dat zich specifiek richt op geavanceerde technologieën. Onderweg zullen er echter grote obstakels zijn. Hoewel bescherming tegen desinformatie en manipulatieve gegevensverzameling tweeledige steun heeft gekregen, wordt de algoritmische verantwoordingswet gesponsord door drie democraten, waardoor het minder waarschijnlijk is dat deze wordt aangenomen door een door de Republikeinen gecontroleerde senaat en ondertekend door president Trump. Bovendien heeft momenteel slechts een handvol congresleden voldoende technische kennis van data en machine learning om regelgeving op een passend genuanceerde manier te benaderen. Deze ideeën en voorstellen zijn momenteel een soort niche, zegt Nkonde. Je hebt deze drie of vier leden die ze begrijpen.

Maar ze blijft optimistisch. Een deel van de strategie voor de toekomst omvat het opleiden van meer leden over de problemen en het betrekken ervan. Als je ze leert wat deze rekeningen inhouden en naarmate de rekeningen cosponsors krijgen, zullen ze meer en meer naar het centrum gaan totdat het reguleren van de technische industrie een goed idee is, zegt ze.

Dit verhaal verscheen oorspronkelijk in onze Webby-genomineerde AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.

zich verstoppen