211service.com
Echt of nep? AI maakt het erg moeilijk om te weten
Nieuwskoppen zijn in de toekomst misschien niet de enige dingen die nep zijn.
Krachtige machine learning-technieken (zie The Dark Secret in the Heart of AI) maken het steeds gemakkelijker om realistische video en audio te manipuleren of te genereren, en om je met verbazingwekkende nauwkeurigheid voor te doen als wie je maar wilt.
Een smartphone-app genaamd FaceApp , onlangs uitgebracht door een bedrijf gevestigd in Rusland, kan automatisch iemands gezicht aanpassen om een glimlach toe te voegen, jaren op te tellen of af te trekken, of geslachten te wisselen. De app kan ook verfraaiende effecten toepassen, zoals het gladstrijken van rimpels en, meer controversieel, het verlichten van de huid.
En vorige week belde een bedrijf Liervogel , die werd voortgebracht door de Universiteit van Montreal, demonstreerde technologie waarvan het zegt dat het kan worden gebruikt om de stem van iemand anders na te bootsen. Het bedrijf plaatste demonstratieclips van Barack Obama, Donald Trump en Hillary Clinton die allemaal de technologie onderschrijven.
Dit zijn slechts twee voorbeelden van hoe de krachtigste AI-algoritmen kunnen worden gebruikt voor het genereren van inhoud in plaats van alleen voor het analyseren van gegevens.
Krachtige grafische hardware en software, evenals nieuwe video-opnametechnologieën, zijn ook de drijvende kracht achter deze trend. Vorig jaar demonstreerden onderzoekers van Stanford University een face-swapping-programma genaamd Face2Face . Dit systeem kan videobeelden manipuleren zodat de gezichtsuitdrukkingen van een persoon overeenkomen met die van iemand die wordt gevolgd met behulp van een dieptegevoelige camera. Het resultaat is vaak griezelig realistisch.
De mogelijkheid om stemmen en gezichten zo realistisch te manipuleren kan een aantal problemen opleveren, zoals de makers van Lyrebird erkennen.
Spraakopnames worden momenteel beschouwd als sterke bewijsstukken in onze samenlevingen en in het bijzonder in rechtsgebieden van veel landen, luidt een ethische verklaring die op de website van het bedrijf is geplaatst. Onze technologie trekt de geldigheid van dergelijk bewijs in twijfel, omdat het toelaat om gemakkelijk audio-opnames te manipuleren. Dit kan mogelijk gevaarlijke gevolgen hebben.
Zowel FaceApp als Lyrebird gebruiken diepe generatieve convolutionele netwerken om deze trucs mogelijk te maken. Dit betekent dat het bedrijf een techniek toepast die de afgelopen jaren naar voren is gekomen als een manier om algoritmen verder te laten gaan dan alleen dingen leren classificeren en eigen plausibele gegevens te genereren.
Zoals veel taken in de kunstmatige intelligentie van tegenwoordig, omvat dit het gebruik van zeer grote of diepe neurale netwerken. Dergelijke netwerken worden normaal gesproken gevoed met trainingsgegevens en aangepast zodat ze op de gewenste manier reageren op nieuwe input. Ze kunnen bijvoorbeeld worden getraind om gezichten of objecten in afbeeldingen met verbazingwekkende nauwkeurigheid te herkennen.
Maar dezelfde netwerken kunnen vervolgens worden gemaakt om hun eigen gegevens te genereren op basis van wat ze konden internaliseren over de dataset waarop ze zijn getraind.
Het is mogelijk om zo'n netwerk te trainen om afbeeldingen genereren uit het niets die er bijna als het echte werk uitzien. In de toekomst kan het met dezelfde technieken een stuk eenvoudiger worden om video te manipuleren. Op een gegeven moment is het waarschijnlijk dat het genereren van hele video's met neurale netwerken mogelijk zal worden, zegt Alexandre de Brebisson , medeoprichter van Lyrebird. Het is een grotere uitdaging omdat er veel variabiliteit is in de hoogdimensionale ruimte die video's vertegenwoordigt, en de huidige modellen ervoor zijn nog steeds niet perfect.
Gezien de technologieën die nu in opkomst zijn, kan het steeds belangrijker worden om valse video en audio te kunnen detecteren.
Justus Thies , een doctoraalstudent aan de Friedrich Alexander Universiteit in Duitsland en een van de onderzoekers achter Face2Face, de realtime app voor het wisselen van gezichten, zegt dat hij een project is gestart om manipulatie van video te detecteren. De tussentijdse resultaten zien er veelbelovend uit, zegt hij.