Voice cloning AI vormt nieuwe dreiging

Geschreven door

Moises van der Vlis

Gecontroleerd door

Geoff

Bijgewerkt op

29 maart 2023

[addtoany] ×

Stel, je wordt opgebeld door je kind of je partner, vanaf een onbekend nummer. Hij of zij is duidelijk in paniek en vraagt of je snel geld kan overmaken, want ze zijn helemaal blut en zitten in nood. Uiteraard doe je dat, maar dan hoor je later van je dierbare dat er helemaal niets aan de hand was. Je bent het slachtoffer geworden van voice cloning: de nieuwste phishing techniek.

Voice cloning snel toenemende vorm van oplichting

Science fiction? Was het maar waar. Verschillende Amerikaanse en Canadese slachtoffers zijn op deze manier voor de gek gehouden door scammers die de stem van een dierbare hebben gekloond. Op die manier kunnen ze zich voordoen als iemand anders, en op die manier je manipuleren. De politie vermoedt dat deze nieuwste scamtruc snel zal overwaaien naar Nederland.

Hoe werkt voice cloning?

Voice cloning houdt in dat je geluidsopnames van een bepaalde stem laat analyseren door een machine learning systeem, bijvoorbeeld Vall-E. Deze kunstmatige intelligentie haalt hier de karakteristieke patronen uit en leert op die manier precies spreken zoals de persoon met die bepaalde stem. De eenvoudigste manier is de tekst te typen en deze vervolgens met de AI-stem uit te laten spreken.

Daarvoor kan deze kunstmatige intelligentie bijvoorbeeld video-opnames van iemand terwijl hij spreekt gebruiken. Op dit moment wordt voice cloning in de filmindustrie al veel toegepast. Zo is de stem van de Star Wars acteur die de jonge Darth Vader speelt, gekloond van opnames toen deze nog jong was.

Veel kans op misbruik

Dus je zou de Ai bijvoorbeeld met de stem van Poetin het Oekraïense volkslied kunnen laten zingen, of koning Willem Alexander laten zeggen dat hij afstand doet van de troon om in Griekenland te gaan wonen.

Russische grappenmakers hebben hier al gebruik van gemaakt om zich voor te doen als president Zelenskyy van Oekraïne. Zij kregen op die manier diverse Europese hoogwaardigheidsbekleders aan de telefoon en ontfutselden ze gevoelige informatie.

Nu hebben ook andere oplichters deze gevaarlijke techniek ontdekt. Oplichters maken vaak gebruik van filmpjes die online staan, of bellen degene waarvan ze de stem willen klonen. Dertig seconden is in principe al genoeg om een stem overtuigend te kunnen klonen.

Hoe wapen je je tegen deze vorm van oplichting?

Als een bekende je belt vanaf een onbekend nummer met een zielig verhaal en snel veel geld wil, is dat mogelijk niet in de haak. Zeker, als ze om anoniem geld vragen dat je niet terug kan boeken, zoals geld in crypto, of als een pre-paid creditcard. Bel in dat geval altijd dat familielid of vriend op het bekende nummer om te checken of het verhaal klopt.

En als je geld stuurt, maak dat dan altijd over naar een bekende Nederlandse bankrekening. De KYC procedures van banken zijn behoorlijk streng. Al maken oplichters vaak gebruik van een geldezel. Dat is iemand die zijn bankrekening uitleent aan een crimineel. Meestal krijg je bij een elektronische overboeking de naam te zien van degene aan wie je het geld overmaakt. Is dat niet de naam van je familielid of andere dierbare, stop dan onmiddellijk.