Handen, ogen, stem - Hoe herken je een AI Deepfake

Herinner je je de buzz-uitdrukking 'Hands, Face, Space' in 2020? Welkom bij een nieuwe in 2024, 'Hands, Eyes, Voice'!

Vorige week had ik het geluk om een webinar bij te wonen dat werd georganiseerd door SecurityWeek in de VS en dat helemaal ging over het gebruik van AI en deepfake-aanvallen.

De hoofdspreker was een zeer ervaren ethische hacker die demonstreerde hoe gemakkelijk het was om een doelwit te vinden en hun gezicht en stem te vervalsen - wat behoorlijk alarmerend was. Deze technieken worden al gebruikt bij vishing-aanvallen en fraude met internetromantiek. Georganiseerde misdaadgroepen gebruiken de technologie ook met enig succes in hun spear phishing- en whaling-aanvallen. 

Als je het live op een demo ziet gebeuren, wordt echt duidelijk hoe belangrijk het is om te geloven dat deze technologie echt is en wordt gebruikt (het is geen sci-fi).

Het punt van ethisch hacken is onderwijs en verdediging. Dus hier zijn een paar tips en trucs die ik uit het webinar heb gehaald.

Als je denkt dat je wordt opgelicht door een telefoon- of videogesprek, onderbreek de beller dan terwijl hij of zij aan het woord is. 

Als ze blijven spreken of als er een vertraging van 5-6 seconden is in hun reactie, wees dan achterdochtig.

Bel ze niet terug op nummers die ze u geven of ga ermee akkoord codes van hen te ontvangen.

Als je ze kunt zien, let dan op de volgende tekenen dat het een deepfake is:

1. Handen

Bewegende handen (voor het gezicht of iets vasthouden) zijn een echte weggeefactie voor AI die nog niet helemaal op snelheid is. Maak je geen zorgen over het tellen van vingers, maar als de afbeelding pixeleert of de handen lijken te veranderen in de beker, pen of gezicht, wees dan achterdochtig. Geef niet alleen Teams of een trage internetverbinding de schuld!

2. Ogen

Knipperende ogen zijn over het algemeen langzamer op AI-gezichten of omgekeerd (wat er heel vreemd uitziet). Houd er rekening mee dat ogen een andere AI-verraad zijn en als ze er vreemd uitzien, wees dan op uw hoede!

3. Stem

Het vervalsen van een stem is vrij eenvoudig, maar AI laat het robotachtig klinken. Het is mogelijk om een nepstem samen te voegen met een andere om de cadans te verbeteren en natuurlijker te laten klinken, maar het is nog steeds niet perfect. Als je de persoon kent met wie je zou moeten praten, bel hem dan terug of stuur hem een bericht op een bekend nummer of systeem om te controleren of hij het is.

Het is die tijd van het jaar waarin we allemaal meer spam en ongewenste e-mail ontvangen tussen legitieme berichten over pakketten, online bestellingen, enz. Dit is dus een bijzonder belangrijk moment om waakzaam te blijven. Deze technologie zal alleen maar beter worden (waarschijnlijk sneller dan we denken!), dus wees op je hoede!