De radioactieve gegevens van Facebook volgen de afbeeldingen die worden gebruikt om een ​​AI te trainen

Categorie: Kunstmatige intelligentie Geplaatst 06 februari

Het nieuws: Een team van Facebook AI Research heeft een manier ontwikkeld om precies bij te houden welke afbeeldingen in een dataset werden gebruikt om een ​​machine learning-model te trainen. Door onmerkbare aanpassingen aan afbeeldingen aan te brengen, waardoor een soort watermerk ontstond, waren ze in staat om kleine overeenkomstige wijzigingen aan te brengen in de manier waarop een afbeeldingsclassificator die op die afbeeldingen is getraind, werkt, zonder afbreuk te doen aan de algehele nauwkeurigheid. Hierdoor konden ze later modellen matchen met de afbeeldingen die werden gebruikt om ze te trainen.

Waarom het uitmaakt: Facebook noemt de techniek radioactieve data omdat het analoog is aan het gebruik van radioactieve markers in de geneeskunde, die onder röntgenstraling in het lichaam verschijnen. Door te benadrukken welke gegevens zijn gebruikt om een ​​AI te trainen, worden modellen transparanter, worden mogelijke bronnen van vooringenomenheid gemarkeerd, zoals een model dat is getraind op een niet-representatieve reeks afbeeldingen, of wordt onthuld wanneer een gegevensset zonder toestemming of voor ongepaste doeleinden is gebruikt.

Vergis je niet: Een grote uitdaging was om de afbeeldingen te veranderen zonder het resulterende model te breken. Kleine aanpassingen aan de input van een AI kunnen er soms toe leiden dat hij domme fouten maakt, zoals het identificeren van een schildpad als een geweer of een luiaard als een raceauto. Facebook zorgde ervoor dat zijn watermerken zo werden ontworpen dat dit niet gebeurde. Het team testte zijn techniek op ImageNet, een veelgebruikte dataset van meer dan 14 miljoen afbeeldingen, en ontdekte dat ze het gebruik van radioactieve gegevens met veel vertrouwen in een bepaald model konden detecteren, zelfs als slechts 1% van de afbeeldingen was gemarkeerd.