Fraudepoging met AI-kloon van topman onlinebank Bunq

Internetoplichters hebben met een AI-kloon van Bunq-topman Ali Niknam geprobeerd de bank een grote som geld afhandig te maken. Niknam plaatste hier dinsdag een bericht over op LinkedIn.

Vorige week ontving een werknemer van de Amsterdamse onlinebank een e-mail met een uitnodiging voor een videogesprek, zogenaamd van Niknam. In dat gesprek kreeg de werknemer een door kunstmatige intelligentie gegenereerde kloon van Niknam te zien, waarbij zowel het beeld als Niknams stem was nagemaakt.

De Bunq-werknemer kreeg in het gesprek de vraag „een aanzienlijk” geldbedrag over te maken, aldus Niknam. Dat gebeurde niet –de werknemer trapte niet in de oplichterstruc.

„Dit is de eerste keer dat er naar mijn weten een deepfake van mij gemaakt is”, reageert Niknam. „Mijn doppelgänger was enorm overtuigend. Omdat dit live gebeurde, was het voor mij reden een waarschuwing de wereld in te sturen.” Niknam spreekt van „Mission Impossible-achtige taferelen”.

Lees meer over stemklonen, de nieuwste trend onder oplichters: ‘Mam! Help! Kun je snel geld overmaken?’

Nieuwe wapens

Voor zover bekend is het de eerste keer dat oplichters beeld en stem van een Nederlandse topman namaken. Oplichting per e-mail, waarbij oplichters inbreken in iemands mailbox en naar ondergeschikten berichten sturen, komt wel vaak voor. Deze maand bleek nog dat de gemeente Alkmaar 236.000 euro is verloren doordat een medewerker een factuur betaalde die zogenaamd door zijn baas was verstuurd.

De opmars van kunstmatige intelligentie geeft internetoplichters nieuwe wapens in handen. In de Verenigde Staten neemt het aantal slachtoffers van voice cloning (stemklonen) snel toe, omdat de software in de Engelse taal op dit moment het best presteert. Dat gold ook voor de kloon van Niknam, die bij Bunq altijd in het Engels communiceert. In de VS zijn ook gevallen bekend waarbij stemmen van kinderen worden nagemaakt om ouders over te halen geld over te maken.

De grootste oplichtingszaak met stemklonen vond in januari 2020 plaats, toen een bank in de Verenigde Arabische Emiraten 35 miljoen dollar kwijtraakte toen een medewerker uit Hongkong grote bedragen overboekte naar verschillende rekeningen. Hij dacht dat zijn baas, die hem zogenaamd belde en e-mails stuurde, hem dat had opgedragen.

Neem zelf contact op

De politie zei vorige maand tegen NRC nog geen weet te hebben van Nederlandse slachtoffers van oplichting met stemklonen. Een verklaring hiervoor is dat de software van het Amerikaanse stemkloonbedrijf ElevenLabs nog niet in het Nederlands beschikbaar was. Sinds eind augustus is dat wel het geval.

„Ook deze casus laat weer zien hoe belangrijk het is niet zomaar te vertrouwen op wat je hoort en ziet”, zegt Manon den Dunnen, strategisch specialist digitaal bij de politie. „Heb het erover met elkaar, en leer jezelf aan om, zodra iets onomkeerbaars wordt gevraagd zoals het overmaken van geld of delen van vertrouwelijke of persoonlijke gegevens, eerst zelf contact op te nemen.”