IBM's fotoschrapingsschandaal laat zien in wat voor rare bubbel AI-onderzoekers leven

Categorie: Kunstmatige intelligentie Geplaatst 15 maart

Dinsdag publiceerde NBC een verhaal met een aangrijpende kop: Gezichtsherkenning's 'dirty little secret': miljoenen online foto's die zonder toestemming zijn geschraapt. I gekoppeld in onze laatste Algoritme-uitgave, maar het is de moeite waard om het vandaag nog eens te bekijken.

Het verhaal belicht een recente dataset vrijgegeven door IBM met 1 miljoen foto's van gezichten, bedoeld om eerlijkere algoritmen voor gezichtsherkenning te helpen ontwikkelen. (Ik schreef destijds ook over het nieuws.) Het blijkt, ontdekte NBC, dat die gezichten rechtstreeks van de online fotohostingsite Flickr waren geschraapt, zonder toestemming van de onderwerpen of fotografen.

Voor sommigen van jullie zal deze oefening onmiddellijk griezelig en raar aanvoelen. Voor anderen zal het volkomen normaal lijken. Wat dit verhaal aan het licht bracht, was niet zozeer een vies klein geheim, maar eerder de culturele kloof tussen het publiek en de AI-gemeenschap.

Echt, voor insiders uit de industrie deed IBM niets bijzonders. AI-onderzoekers verzamelen de hele tijd gegevens uit verschillende hoeken van het internet om de altijd hongerige machine-learning-algoritmen te voeden die enorme hoeveelheden ervan nodig hebben om te trainen. Instagram-foto's zijn bijvoorbeeld een veelvoorkomende bron van beeldgegevens; de hashtags sluiten vaak handig aan bij de inhoud van de foto's, waardoor het extra makkelijk is om gelabelde data te genereren. New York Times- en Wall Street Journal-artikelen zijn ook een veelgebruikte bron van gegevens voor goed geschreven, gekopieerde zinnen. Nog beter dat ze zijn gecategoriseerd op onderwerp: technologie, zaken, sport.

Het verzamelen van gegevens uit openbaar beschikbare bronnen is zelfs zo'n industriestandaard dat het wordt aangeleerd als een fundamentele vaardigheid (zonder ethiek) in de meeste datawetenschaps- en machine learning-trainingen. Ondertussen zijn de meeste technische platforms ontworpen om dergelijke scraping uit te nodigen door API's aan te bieden met directe toegang tot hun gegevens. Tot voor kort gebeurde dit zonder nadenken. (Hallo, Facebook.)

Dit alles wil niet zeggen dat het schrapen van gegevens goed of fout is. Er zijn een aantal volledig goedaardige of legitieme manieren waarop de praktijk kan worden gebruikt (zie We hebben 16.625 artikelen geanalyseerd om erachter te komen waar AI vervolgens naartoe gaat); het hangt echt van de context af. Dit verhaal benadrukt eerder de noodzaak voor de technische industrie om haar culturele normen en standaardpraktijken aan te passen om gelijke tred te houden met de snelle evolutie van de technologie zelf, evenals het bewustzijn van het publiek over hoe hun gegevens worden gebruikt.

Er zijn manieren om onze gegevens vandaag te gebruiken waarvan we vijf, tien jaar geleden niet op de hoogte waren, zegt Rumman Chowdhury, de wereldwijde leider voor verantwoorde AI bij Accenture Applied Intelligence. Hoe konden wij [het publiek] ooit hebben ingestemd met een vermogen dat niet bestond?

Met andere woorden, het kan ooit een haalbare praktijk zijn geweest om de gegevens van mensen vrolijk te schrapen, en het kan ooit voldoende toestemming zijn geweest om die gegevens te gebruiken zolang deze openbaar beschikbaar waren, maar de komst van AI en de ongekende schaal van De gegevensmonopolisering en het genereren van inkomsten in Silicon Valley hebben allemaal de vergelijking veranderd. Technologen dragen de verantwoordelijkheid om mee te veranderen en ervoor te zorgen dat er een brede, geïnformeerde maatschappelijke consensus is voor hun praktijken.

Chowdhury's tip voor degenen die moeite hebben om door de grijze gebieden van gegevensprivacy te navigeren? Bedenk of de manier waarop u gegevens gebruikt, in overeenstemming is met de geest waarin deze oorspronkelijk zijn gegenereerd en gedeeld. Als je het op een volledig tangentiële manier gebruikt, is het tijd om te pauzeren en te heroverwegen.

Dit verhaal verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.