Dit is zojuist een grote week geworden voor AI-regulering

FTC deurconcept

mevrouw Tech | Unsplash





Het is een stormachtige week voor de regering om het misbruik van kunstmatige intelligentie terug te dringen.

Vandaag heeft de EU haar langverwachte reeks AI-regelgeving , waarvan een vroege versie vorige week gelekt . De regelgeving is breed, met beperkingen op massasurveillance en het gebruik van AI om mensen te manipuleren.

Maar een intentieverklaring van de Amerikaanse Federal Trade Commission, uiteengezet in a korte blogpost door stafjurist Elisa Jillson op 19 april, kan in de nabije toekomst meer tanden hebben. Volgens de post is de FTC van plan om achter bedrijven aan te gaan die gebruiken en verkopen bevooroordeelde algoritmen .



Een aantal bedrijven zal op dit moment bang zijn, zegt Ryan Calo, een professor aan de Universiteit van Washington, die zich bezighoudt met technologie en recht. Het is niet echt alleen deze ene blogpost, zegt hij. Deze ene blogpost is een heel duidelijk voorbeeld van wat een verandering van zee lijkt te zijn.

De EU staat bekend om haar harde lijn tegen Big Tech, maar de FTC heeft een zachtere aanpak gekozen, in ieder geval de afgelopen jaren. Het bureau is bedoeld om oneerlijke en oneerlijke handelspraktijken te controleren. Het heeft een beperkte bevoegdheid: het heeft geen jurisdictie over overheidsinstanties, banken of non-profitorganisaties. Maar het kan ingrijpen wanneer bedrijven een verkeerde voorstelling geven van de mogelijkheden van een product dat ze verkopen, wat betekent dat bedrijven die hun gezichtsherkenningssystemen claimen, voorspellende politie-algoritmen of hulpmiddelen voor de gezondheidszorg niet bevooroordeeld zijn, kunnen nu in de vuurlinie staan. Waar ze wel macht hebben, hebben ze enorme macht, zegt Calo.



Actie ondernemen

De FTC is niet altijd bereid geweest om die macht uit te oefenen. Na kritiek in de jaren tachtig en negentig dat het te agressief was, trok het zich terug en koos het minder gevechten, vooral tegen technologiebedrijven. Dit lijkt te veranderen.

In de blogpost waarschuwt de FTC leveranciers dat beweringen over AI waarheidsgetrouw en niet-misleidend moeten zijn en moeten worden ondersteund door bewijs.

Laten we bijvoorbeeld zeggen dat een AI-ontwikkelaar klanten vertelt dat zijn product '100% onpartijdige wervingsbeslissingen' zal bieden, maar dat het algoritme is gebouwd met gegevens zonder raciale of genderdiversiteit. Het resultaat kan bedrog, discriminatie en een FTC-wetshandhavingsactie zijn.



De FTC-actie heeft tweeledige steun in de Senaat, waar: commissarissen werden gisteren gevraagd wat ze nog meer zouden kunnen doen en wat ze daarvoor nodig hadden. Er staat wind achter de zeilen, zegt Calo.

Ondertussen, hoewel ze een duidelijke lijn in het zand trekken, zijn de AI-voorschriften van de EU slechts richtlijnen. Net als bij de AVG-regels die in 2018 zijn ingevoerd, is het aan de individuele EU-lidstaten om te beslissen hoe ze deze implementeren. Een deel van de taal is ook vaag en open voor interpretatie. Neem één voorziening tegen subliminale technieken die het bewustzijn van een persoon te boven gaan om iemands gedrag materieel te vervormen op een manier die psychologische schade zou kunnen veroorzaken. Geldt dat voor nieuwsfeeds op sociale media en gerichte advertenties? We kunnen van veel lobbyisten verwachten dat ze proberen reclame- of aanbevelingssystemen expliciet uit te sluiten, zegt Michael Veale, een faculteitslid van University College London die rechten en technologie studeert.



Verwant verhaal

Europa keurt strengere regels voor bewakingstechnologie goed Het doel is om de verkoop van technologieën als spyware en gezichtsherkenning eerst transparanter te maken in Europa en daarna wereldwijd.

Het zal jaren van juridische uitdagingen in de rechtbanken vergen om de details en definities uit te werken. Dat zal pas na een extreem lang traject van onderzoek, klacht, boete, hoger beroep, tegenberoep en verwijzing naar het Europese Hof van Justitie, zegt Veale. Op dat moment begint de cyclus opnieuw. Maar de FTC heeft, ondanks haar beperkte opdracht, de autonomie om nu te handelen.

Een grote beperking die zowel de FTC als de Europese Commissie gemeen hebben, is het onvermogen om het gebruik van schadelijke AI-technologie door overheden te beteugelen. De EU-regelgeving omvat bijvoorbeeld carve-outs voor staatsgebruik van surveillance. En de FTC is alleen bevoegd om achter bedrijven aan te gaan. Het zou kunnen ingrijpen door te voorkomen dat particuliere leveranciers bevooroordeelde software verkopen aan wetshandhavingsinstanties. Maar de uitvoering hiervan zal moeilijk zijn, gezien de geheimhouding rond dergelijke verkopen en het ontbreken van regels over wat overheidsinstanties moeten aangeven wanneer technologie inkopen .

Toch weerspiegelen de aankondigingen van deze week een enorme wereldwijde verschuiving naar serieuze regulering van AI, een technologie die tot nu toe met weinig toezicht is ontwikkeld en ingezet. Ethische waakhonden roepen al jaren op tot beperkingen op oneerlijke en schadelijke AI-praktijken.

De EU ziet dat haar regelgeving AI onder de bestaande bescherming van menselijke vrijheden brengt. Kunstmatige intelligentie moet mensen dienen, en daarom moet kunstmatige intelligentie altijd voldoen aan de rechten van mensen, zei Ursula von der Leyen , voorzitter van de Europese Commissie, in een toespraak voorafgaand aan de vrijlating.

Regulering zal AI ook helpen met zijn imagoprobleem . Zoals Von der Leyen ook zei: We willen onze burgers aanmoedigen om er zeker van te zijn om het te gebruiken.

zich verstoppen