Een Indiase politicus gebruikt deepfake-technologie om nieuwe kiezers te winnen

Categorie: Kunstmatige intelligentie Geplaatst 19 februari

Het nieuws: Een deepfake van de president van India's regerende Bharatiya Janata Party (BJP), Manoj Tiwari, ging eerder deze maand viraal op WhatsApp in het land, voorafgaand aan de parlementsverkiezingen in Delhi, volgens Zonde . Het is de eerste keer dat een politieke partij waar dan ook een deepfake gebruikt voor campagnedoeleinden. In de originele video spreekt Tiwari in het Engels, bekritiseert hij zijn politieke tegenstander Arvind Kejriwal en moedigt hij kiezers aan om op de BJP te stemmen. De tweede video is gemanipuleerd met behulp van deepfake-technologie, dus zijn mond beweegt overtuigend terwijl hij spreekt in Haryanvi, het Hindi-dialect dat wordt gesproken door de doelstemmers voor de BJP.

Het doel: De BJP werkt samen met politiek communicatiebureau The Ideaz Factory om deepfakes te maken waarmee het zich kan richten op kiezers in de meer dan 20 verschillende talen die in India worden gebruikt. De partij vertelde Vice dat de deepfake van Tiwari ongeveer 15 miljoen mensen bereikte in 5.800 WhatsApp-groepen.

Alarm veroorzaken: Dit is niet de eerste keer dat deepfakes opduiken tijdens een politieke campagne. Bijvoorbeeld afgelopen december onderzoekers hebben een nepvideo gemaakt van de twee kandidaten bij de algemene verkiezingen in het VK die elkaar steunen. Het was echter niet de bedoeling dat het de stemming zou beïnvloeden - alleen om het bewustzijn over deepfake-technologie te vergroten. Deze zaak in India lijkt de eerste keer te zijn dat deepfakes zijn gebruikt voor een politieke campagne. Het grote risico is dat we een punt bereiken waarop mensen niet meer kunnen vertrouwen op wat ze zien of horen. In dat scenario zou een video niet eens digitaal hoeven te worden gewijzigd om mensen hem als nep te bestempelen. Het is niet moeilijk om je de corrosieve impact voor te stellen die zou hebben op een toch al kwetsbaar politiek landschap.

Meld u hier aan voor onze dagelijkse nieuwsbrief The Download om uw dosis van het laatste must-read nieuws uit de wereld van opkomende technologie te ontvangen.