Microsoft heeft onlangs VALL-E gelanceerd. Met deze technologie is het mogelijk om op basis van een 3 seconden durende audio-opname een stem na te bootsen. De technologie is gebaseerd op het door Meta ontwikkelde EnCodec. De audio-opname wordt geanalyseerd en opgedeeld in verschillende ijkpunten, oftewel tokens. Vervolgens worden deze tokens vergeleken met een database van zo’n 60.000 uur aan gesproken taal. Hiermee kan een hele nauwkeurige inschatting worden gemaakt van de manier waarop een specifiek persoon praat.
Het ligt al snel in de lijn der verwachting dat deze technologie misbruikt zal worden. Het vormt dan ook een perfect middel om deepfakes te realiseren. Deepfakes zijn vooral bekend geworden door filmpjes van bekende figuren die de meest bizarre dingen uiten. Zo verscheen er in 2018 een filmpje online waarin Barack Obama Donald Trump een sukkel noemde. Obama zou dit natuurlijk nooit zo zeggen. Het was dan ook de mond van maker Jordan Peele die over de mond van Obama werd geplakt en deze uitspraken deed.
Obama’s deepfake was komisch bedoeld, maar er was ook een hele serieuze ondertoon. Peele heeft hiermee namelijk aangetoond dat we niet zomaar alles kunnen geloven wat we zien of horen. Vijf jaar later is deze technologie nog verder ontwikkeld en zijn de databases waaruit AI kan putten uitgebreider. Het wordt voor de gemiddelde leek steeds moeilijker om echt van nep te onderscheiden.
Cyberveiligheidsexperts waarschuwen dan ook dat het aantal cyberaanvallen met deepfake audio steeds meer zal toenemen. Het misbruiken van stemmen van prominente figuren kan grote maatschappelijke gevolgen hebben.
In 2020 ontving een bankmanager uit de VAE een telefoontje. De stem klonk bekend en de bankmanager was ervan overtuigd dat hij een directeur van een groot bedrijf aan de lijn had. Deze directeur meldde hem dat zijn bedrijf van plan was om een ander bedrijf over te nemen. Of de bank even een bedrag van zo’n 30 miljoen euro wilde overmaken. De bankmanager vertrouwde het, mede door een daaropvolgende e-mailcorrespondentie met de directeur en diens advocaat. De 30 miljoen euro werd overgemaakt en cybercriminelen gingen er lachend met de buit vandoor.
Een jaar eerder werd een Brits nutsbedrijf op dezelfde manier opgelicht voor een bedrag van 220.000 euro. De beller had precies dezelfde tongval en intonatie als de CEO van een grote stroomleverancier, liet de verzekeraar weten. Er werd vermoed dat de oplichters software hebben gebruikt die gewoon vrij te verkrijgen is.
Als grote bedrijven met open ogen de val inlopen, hoe kun je je als gewone burger dan beschermen tegen deepfakes? Iedereen die een beetje handig is met stemherkenningssoftware kan immers een deepfake maken. Stel dat je ineens een telefoontje ontvangt van iemand die klinkt als je beste vriend, maar dit helemaal niet is. En deze zogenaamde vriend vraagt je om een bedrag over te maken, omdat hij in de problemen zit. Er zijn manieren waarop je jezelf beter kunt wapenen tegen deze praktijken:
Met een VPN-verbinding ben je online een stuk minder zichtbaar. Daarmee ontsnap je al voor een groot deel aan de aandacht van cybercriminelen. Je gegevensverkeer wordt versleuteld en je IP-adres wordt afgeschermd. Het beschermt je ook tegen tracking en malware. Bedenk dat cybercriminelen het vooral gemunt hebben op makkelijke slachtoffers.
Wees voorzichtig met wat je op het internet deelt. Upload geen audiobestanden van jezelf. Hieronder vallen ook Insta Reels, TikTok-video’s en gesproken berichten.
Neem bij twijfel altijd contact op met degene met wie je denkt te hebben gesproken. Gebruik hiervoor het telefoonnummer dat je hebt opgeslagen in je adresboek. Verifieer of de informatie of het verzoek inderdaad van deze persoon afkomstig is.
Adobe is momenteel bezig met het ontwikkelen van software waarmee je deepfakes kunt herkennen. Hou deze ontwikkeling in de gaten. Vooral voor grote bedrijven en instellingen zal dergelijke software op termijn onmisbaar worden.
