211service.com
Met deze AI kun je je stem deepfaken om te spreken als Barack Obama
Mevr. Tech | Getty-afbeeldingen
Maak kennis met mijn alter ego, Katie:
Het accent, de emotie en de intonatie zijn allemaal van mij. Maar op de een of andere manier klink ik nu als een jonge vrouw met een hoge stem.
Mijn vrouwelijke stemhuid is gemaakt door moduleren.ai , een bedrijf gevestigd in Cambridge, Massachusetts. Het bedrijf gebruikt machine learning om de eigenschappen van stem op een krachtige nieuwe manier te kopiëren, te modelleren en te manipuleren.
De technologie gaat veel verder dan de eenvoudige spraakfilters waarmee je als Kylo Ren kunt klinken. Met deze aanpak is het mogelijk om elke gewenste leeftijd, geslacht of toon aan te nemen, allemaal in realtime. Of om de stem van een beroemdheid op zich te nemen. Ik kan een lang telefoongesprek voeren in de gedaante van Katie als ik dat wil.
Ik bezocht het hoofdkantoor van Modulate om te horen over de technologie en ambities van het bedrijf, en om de ethische implicaties te bespreken van het gebruik van AI om de stem van iemand anders te kopiëren. In een geluidsgeïsoleerde cabine heb ik een paar van de voice skins van het bedrijf uitgeprobeerd.
Hier is mijn echte stem:
En hier wordt het gevoed door een andere persona:
En in realtime tussen de twee persona's worden gewisseld.
De stemmodelleringstechnologie is niet perfect; elke nieuwe stem is een beetje warrig. Maar het is opmerkelijk goed en het verbetert door meer van je spraakgegevens te gebruiken. En het laat zien hoe de vooruitgang in machine learning de digitale realiteit snel begint te veranderen. Modulate maakt gebruik van generatieve adversariële netwerken (GAN's) om de audio-eigenschappen van een spraaksignaal vast te leggen en te modelleren. GAN's zetten twee neurale netwerken tegen elkaar op in een strijd om de eigenschappen van een dataset overtuigend vast te leggen en te reproduceren (zie The GANfather).
Machine learning heeft het mogelijk gemaakt om de gezichten van twee mensen in een video te verwisselen, met behulp van software die gratis van internet kan worden gedownload (zie Fake America weer geweldig). AI-onderzoekers gebruiken GAN's en andere technieken om visuele scènes te manipuleren en zelfs volledig op te roepen valse gezichten .
Modulate heeft een demonstratiestem van Barack Obama op zijn site, en medeoprichter en CEO Mike Pappas zei dat het mogelijk zou zijn om er een voor iedereen te genereren, mits voldoende trainingsgegevens. Maar hij voegt eraan toe dat het bedrijf geen skin voor beroemdheden beschikbaar zal stellen zonder toestemming van de eigenaar. Hij benadrukt ook dat bedrog niet het belangrijkste punt is.
Dit is geen technologie die is gebouwd om mensen te imiteren, zegt Pappas. Het is gebouwd om u nieuwe kansen te bieden.
Modulate richt zich op online games zoals Fornite of Call of Duty, waarin spelers via een microfoon met vreemden kunnen chatten. Dit kan de gameplay verbeteren, maar het kan ook de deur openen naar misbruik en intimidatie.
Als we online willen communiceren en echt diepgaande ervaringen willen hebben, zijn stemmen cruciaal, zegt Pappas. Maar sommige mensen zijn niet bereid om hun stem daadwerkelijk naar buiten te brengen. In sommige gevallen wil ik misschien gewoon anoniem blijven. In andere gevallen ben ik bang dat ik mijn leeftijd of geslacht zal onthullen en lastiggevallen zal worden.
Charles zeep , een professor aan NYU die de verspreiding van verkeerde informatie bestudeert, zegt dat de technologie aanzienlijk geavanceerder lijkt dan andere stemmodificatietechnologie. En hij zegt dat de manier waarop AI nu video en audio kan manipuleren het potentieel heeft om de media fundamenteel te veranderen. We moeten gaan nadenken over wat de werkelijkheid is, zegt hij.
'Tot nu toe was de kwaliteit van de spraakconversietechnologie laag, zodat men gemakkelijk een geconverteerde stem kan onderscheiden', voegt hij eraan toe Tuomas Virtanen , een expert op het gebied van stemsynthese en manipulatie aan de Tampere University in Finland. 'Maar ik kan me voorstellen dat de kwaliteit in de nabije toekomst goed genoeg zal zijn, zodat conversie niet gemakkelijk te detecteren is.'
Modulate is zich ervan bewust dat haar technologie het potentieel heeft om misbruikt te worden. Het bedrijf zegt dat het garanties zal zoeken dat elke klant die iemands stem kopieert, de toestemming van die persoon heeft. Het heeft ook een technologie voor audiowatermerken ontwikkeld die kan worden gebruikt om een gekopieerde stem te detecteren. Dit kan een waarschuwing geven als iemand bijvoorbeeld een valse stem gebruikt tijdens een gesprek.
'We hebben vanaf het begin ethische waarborgen ingebouwd in ons bedrijf', zegt medeoprichter en CTO, Carter Huffman, 'van hoe we onze technologie distribueren, tot hoe we de voice-skins selecteren die we aanbieden, tot het watermerken van onze audio voor detectie in gevoelige systemen.
Modulate kan misschien het misbruik van zijn eigen technologie beperken, maar het is mogelijk dat anderen soortgelijke technologie onafhankelijk zullen ontwikkelen en beschikbaar stellen voor misbruik door mensen. De vraag is, in hoeverre kan dit worden misbruikt en hoe slim zal het publiek worden?
Pappas is optimistisch dat het potentieel voor AI-fakery vaak overdreven is. Het is zeker iets waar je je bewust van wilt zijn, maar het is niet iets waar de facetten van de samenleving aan het afbrokkelen zijn, zegt hij. We hebben tools om dit aan te pakken.