In de wereld van AI die prachtige kunst en angstaanjagende deepfakes smeedt

Nvidia





In de afgelopen drie weken hebben we de basis van AI neergelegd. Om samen te vatten:

  • De meeste ontwikkelingen en toepassingen van AI zijn gebaseerd op een type algoritme dat bekend staat als machine learning en dat patronen in gegevens vindt en opnieuw toepast.
  • Deep learning, een krachtige subset van machine learning, maakt gebruik van neurale netwerken om zelfs de kleinste patronen te vinden en te versterken.
  • Neurale netwerken zijn lagen van eenvoudige rekenknooppunten die samenwerken om gegevens te analyseren, een beetje zoals neuronen in het menselijk brein.

Nu komen we bij het leuke gedeelte. Het gebruik van één neuraal netwerk is echt geweldig voor het leren van patronen; het gebruik van twee is echt geweldig om ze te maken. Welkom in de magische, angstaanjagende wereld van generatieve vijandige netwerken of GAN's.

GAN's hebben een beetje een cultureel moment. Zij zijn verantwoordelijk voor de eerste stuk AI-gegenereerd kunstwerk verkocht bij Christie's , evenals de categorie valse digitale afbeeldingen die bekend staat als deepfakes .



Hun geheim ligt in de manier waarop twee neurale netwerken samenwerken, of liever, tegen elkaar in. Je begint door beide neurale netwerken een heleboel trainingsgegevens te geven en geeft elk een aparte taak. Het eerste netwerk, bekend als de generator, moet kunstmatige output produceren, zoals handschrift, video's of stemmen, door naar de trainingsvoorbeelden te kijken en te proberen ze na te bootsen. De tweede, de discriminator, bepaalt vervolgens of de output echt is door ze met dezelfde trainingsvoorbeelden te vergelijken.

Verwant verhaal

Verwant verhaal Door neurale netwerken tegen elkaar op te zetten, heeft Ian Goodfellow een krachtige AI-tool gecreëerd. Nu moeten hij, en de rest van ons, de gevolgen onder ogen zien.

Elke keer dat de discriminator de output van de generator met succes verwerpt, gaat de generator terug om het opnieuw te proberen. Om een ​​metafoor te lenen van mijn collega Martin Giles: het proces bootst het heen en weer na tussen een fotovervalser en een kunstdetective die elkaar herhaaldelijk proberen te slim af te zijn. Uiteindelijk kan de discriminator het verschil niet zien tussen de uitvoer- en trainingsvoorbeelden. Met andere woorden, de mimiek is niet te onderscheiden van de werkelijkheid.

Je kunt zien waarom een ​​wereld met GAN's gelijk is aan mooi en lelijk. Aan de ene kant kan de mogelijkheid om media te synthetiseren en andere gegevenspatronen na te bootsen nuttig zijn bij fotobewerking, animatie en geneesmiddel (zoals het verbeteren van de kwaliteit van medische beelden en het verhelpen van de schaarste aan patiëntgegevens). Het brengt ons ook vrolijke creaties zoals deze:



En dit:

Aan de andere kant kunnen GAN's ook op ethisch verwerpelijke en gevaarlijke manieren worden gebruikt: om bedek gezichten van beroemdheden op de lichamen van pornosterren , om Barack Obama te laten zeggen wat je wilt, of om iemands vingerafdruk en andere biometrische gegevens te vervalsen, een mogelijkheid die onderzoekers van NYU en Michigan State onlangs hebben liet zien in een papier .



Gelukkig hebben GAN's nog steeds beperkingen die een aantal vangrails op hun plaats zetten. Ze hebben behoorlijk wat rekenkracht en nauwkeurig afgebakende gegevens nodig om iets echt geloofwaardigs te produceren. Om een ​​realistisch beeld van bijvoorbeeld een kikker te maken, heeft zo'n systeem honderden afbeeldingen nodig van kikkers van een bepaalde soort, bij voorkeur in dezelfde richting. Zonder die specificaties krijg je echt wat gekke resultaten , zoals dit wezen uit je donkerste nachtmerries:

(Je zou me moeten bedanken dat ik je de spinnen niet heb laten zien.)



Maar experts maken zich zorgen dat we nog maar het topje van de ijsberg hebben gezien. Naarmate de algoritmen steeds verfijnder worden, zullen glitchy video's en Picasso-dieren tot het verleden behoren. Zoals Hany Farid, een forensisch expert op het gebied van digitale beelden, me ooit vertelde, zijn we slecht voorbereid om dit probleem op te lossen.

Dit verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Schrijf je hier gratis in om het direct in je inbox te krijgen.

zich verstoppen