Het verwijderen van onethische datasets is niet goed genoeg

mevrouw Tech | Pixabay

In 2016, in de hoop vooruitgang in gezichtsherkenning te stimuleren, bracht Microsoft de grootste gezichtsdatabase ter wereld uit. Het heette MS-Celeb-1M en bevatte 10 miljoen afbeeldingen van de gezichten van 100.000 beroemdheden. Beroemdheid was echter losjes gedefinieerd.

Drie jaar later ontdekten onderzoekers Adam Harvey en Jules LaPlace doorzocht de dataset en vonden veel gewone individuen, zoals journalisten, kunstenaars, activisten en academici, die hun professionele leven online aanwezig blijven. Niemand had toestemming gegeven om te worden opgenomen, en toch hadden hun gezichten hun weg gevonden naar de database en daarbuiten; onderzoek met behulp van de verzameling gezichten is uitgevoerd door bedrijven als Facebook, IBM, Baidu en SenseTime, een van China's grootste gezichtsherkenningsreuzen, die zijn technologie verkoopt aan de Chinese politie.

Kort na het onderzoek van Harvey en LaPlace, en na ontvangst van kritiek van journalisten , heeft Microsoft de dataset verwijderd en eenvoudig gezegd: de onderzoeksuitdaging is voorbij. Maar de privacykwesties die het creëerde, blijven hangen in een internet voor altijd-land. En deze zaak is niet de enige.

Het web schrapen voor afbeeldingen en tekst werd ooit beschouwd als een inventieve strategie voor het verzamelen van gegevens uit de echte wereld. Nu hebben wetten zoals de AVG (Europese verordening inzake gegevensbescherming) en de toenemende publieke bezorgdheid over gegevensprivacy en toezicht de praktijk juridisch riskant en ongepast gemaakt. Als gevolg hiervan hebben AI-onderzoekers de datasets die ze op deze manier hebben gecreëerd steeds meer teruggetrokken.

Maar een nieuwe studie blijkt dat dit weinig heeft gedaan om te voorkomen dat de problematische gegevens zich verspreiden en worden gebruikt. De auteurs selecteerden drie van de meest geciteerde datasets met gezichten of mensen, waarvan er twee waren ingetrokken; ze traceerden de manieren waarop elk was gekopieerd, gebruikt en hergebruikt in bijna 1.000 kranten.

In het geval van MS-Celeb-1M bestaan ​​er nog steeds kopieën op sites van derden en in afgeleide datasets die bovenop het origineel zijn gebouwd. Open-sourcemodellen die vooraf op de gegevens zijn getraind, blijven ook direct beschikbaar. De dataset en zijn afgeleiden werden ook geciteerd in honderden artikelen die zes tot achttien maanden na intrekking werden gepubliceerd.

DukeMTMC, een dataset met afbeeldingen van mensen die op de campus van Duke University lopen en in dezelfde maand als MS-Celeb-1M zijn ingetrokken, blijft op dezelfde manier bestaan ​​in afgeleide datasets en honderden papieren citaten.

De lijst met plaatsen waar de gegevens blijven hangen, is uitgebreider dan we aanvankelijk hadden gedacht, zegt Kenny Peng, een tweedejaarsstudent aan Princeton en een co-auteur van de studie. En zelfs dat, zegt hij, is waarschijnlijk een onderschatting, omdat citaten in onderzoekspapers niet altijd verklaren hoe de gegevens commercieel kunnen worden gebruikt.

Los gaan

Een deel van het probleem, volgens het artikel in Princeton, is dat degenen die datasets samenstellen snel de controle over hun creaties verliezen.

Datasets die voor één doel zijn vrijgegeven, kunnen snel worden gecoöpteerd voor andere doeleinden die nooit door de oorspronkelijke makers waren bedoeld of bedacht. MS-Celeb-1M was bijvoorbeeld bedoeld om de gezichtsherkenning van beroemdheden te verbeteren, maar is sindsdien gebruikt voor meer algemene gezichtsherkenning en analyse van gezichtskenmerken, vonden de auteurs. Het is ook opnieuw gelabeld of opnieuw verwerkt in afgeleide datasets zoals Racial Faces in the Wild, die zijn afbeeldingen per ras groepeert, wat de deur opent naar controversiële toepassingen.

Verwant verhaal

Zo verloren we de controle over ons gezicht

De grootste studie ooit van gezichtsherkenningsgegevens laat zien hoezeer de opkomst van deep learning heeft geleid tot een verlies van privacy.

De analyse van de onderzoekers suggereert ook dat Labeled Faces in the Wild (LFW), een dataset die in 2007 werd geïntroduceerd en de eerste die gezichtsafbeeldingen van internet geschraapt , is door bijna 15 jaar gebruik meerdere keren veranderd. Waar het begon als een hulpmiddel voor het evalueren van gezichtsherkenningsmodellen voor alleen onderzoek, wordt het nu bijna uitsluitend gebruikt om systemen te evalueren die bedoeld zijn voor gebruik in de echte wereld. Dit ondanks een waarschuwingslabel op de website van de dataset dat waarschuwt tegen dergelijk gebruik.

Meer recentelijk werd de dataset hergebruikt in een derivaat genaamd SMFRD, dat gezichtsmaskers aan elk van de afbeeldingen toevoegde om gezichtsherkenning tijdens de pandemie te bevorderen. De auteurs merken op dat dit nieuwe ethische uitdagingen zou kunnen opleveren. Voorstanders van privacy hebben kritiek geuit op dergelijke toepassingen, bijvoorbeeld voor het aanwakkeren van bewaking, en vooral voor het mogelijk maken van de identificatie door de overheid van gemaskerde demonstranten.

Dit is een heel belangrijk document, omdat de ogen van mensen over het algemeen niet openstaan ​​voor de complexiteit, en mogelijke schade en risico's, van datasets, zegt Margaret Mitchell, een AI-ethiekonderzoeker en een leider in verantwoorde datapraktijken, die niet betrokken was bij de studie.

Lange tijd is de cultuur binnen de AI-gemeenschap geweest om aan te nemen dat gegevens bestaan ​​om te worden gebruikt, voegt ze eraan toe. Dit document laat zien hoe dat tot problemen kan leiden. Het is erg belangrijk om na te denken over de verschillende waarden die een dataset codeert, evenals de waarden die een beschikbare dataset codeert, zegt ze.

Een oplossing

De auteurs van het onderzoek doen verschillende aanbevelingen voor de AI-gemeenschap in de toekomst. Ten eerste moeten makers duidelijker communiceren over het beoogde gebruik van hun datasets, zowel via licenties als via gedetailleerde documentatie. Ze zouden ook strengere limieten moeten stellen aan de toegang tot hun gegevens, bijvoorbeeld door onderzoekers te verplichten een overeenkomst te ondertekenen of hen te vragen een aanvraag in te vullen, vooral als ze van plan zijn een afgeleide dataset te bouwen.

Ten tweede moeten onderzoeksconferenties normen vaststellen over hoe gegevens moeten worden verzameld, geëtiketteerd en gebruikt, en moeten ze prikkels creëren voor het op verantwoorde wijze creëren van datasets. NeurIPS, de grootste AI-onderzoeksconferentie, bevat al een checklist met best practices en ethische richtlijnen.

Mitchell stelt voor om nog verder te gaan. Als onderdeel van het BigScience-project , een samenwerking tussen AI-onderzoekers om een ​​AI-model te ontwikkelen dat natuurlijke taal kan ontleden en genereren volgens een strenge ethische norm, heeft ze geëxperimenteerd met het idee om beheerorganisaties voor datasets te creëren - teams van mensen die niet alleen de curatie, het onderhoud, en gebruik van de gegevens, maar werk ook samen met advocaten, activisten en het grote publiek om ervoor te zorgen dat deze voldoen aan de wettelijke normen, alleen met toestemming worden verzameld en kunnen worden verwijderd als iemand ervoor kiest persoonlijke informatie in te trekken. Dergelijke stewardship-organisaties zouden niet nodig zijn voor alle datasets, maar zeker voor geschraapte gegevens die biometrische of persoonlijk identificeerbare informatie of intellectueel eigendom kunnen bevatten.

Het verzamelen en monitoren van datasets is geen eenmalige taak voor een of twee mensen, zegt ze. Als je dit op een verantwoorde manier doet, valt het uiteen in een heleboel verschillende taken die diep nadenken, diepgaande expertise en een verscheidenheid aan verschillende mensen vereisen.

In de afgelopen jaren is het veld steeds meer gaan geloven dat: zorgvuldiger samengestelde datasets zal de sleutel zijn om veel van de technische en ethische uitdagingen van de industrie te overwinnen. Het is nu duidelijk dat het samenstellen van meer verantwoorde datasets lang niet genoeg is. Degenen die in AI werken, moeten zich ook voor de lange termijn inzetten om ze te onderhouden en ethisch te gebruiken.

zich verstoppen