Een nieuwe truc kan elke keer een spraakherkennings-AI vervalsen

Categorie: Kunstmatige intelligentie Geplaatst 10 januari

Met een audiogolfvorm kunnen onderzoekers nu een vrijwel identieke versie produceren die ervoor zorgt dat spraakherkenningssoftware iets heel anders transcribeert.

achtergrondverhaal: Tegenstrijdige voorbeelden hebben tal van computervisie-algoritmen voor de gek gehouden. Hoewel alle neurale netwerken vatbaar zijn voor dergelijke aanvallen, hebben onderzoekers minder succes geboekt met audio. Eerdere aanvallen konden alleen subtiele aanpassingen maken aan wat de software hoort.

Wat is er nieuw: Berkeley-onderzoekers liet zien dat ze een golfvorm kunnen nemen en een laag ruis kunnen toevoegen die DeepSpeech, een ultramoderne spraak-naar-tekst AI, elke keer weer voor de gek houdt. De techniek kan ervoor zorgen dat muziek klinkt als willekeurige spraak voor de AI, of stemmen verduisteren zodat ze niet worden getranscribeerd.

Zet je schrap voor ergernis: Stel je voor dat je een muziekvideo van YouTube op je speakers afspeelt en Alexa een bevel hoort voor twee ton geroomde maïs . Welkom bij AI-aanval op de hel.