Hände, Augen, Stimme – So erkennen Sie einen KI-Deepfake

Erinnern Sie sich an das Schlagwort "Hände, Gesicht, Raum" im Jahr 2020? Willkommen zu einem neuen im Jahr 2024, "Hände, Augen, Stimme"!

Neulich hatte ich das Glück, an einem Webinar teilzunehmen, das von SecurityWeek in den USA veranstaltet wurde und in dem es um den Einsatz von KI und Deepfake-Angriffen ging.

Der Hauptredner war ein sehr erfahrener Ethical Hacker, der demonstrierte, wie einfach es ist, ein Ziel zu finden und sein Gesicht und seine Stimme zu fälschen – was ziemlich alarmierend war. Diese Techniken werden bereits bei Vishing-Angriffen und Internet-Romance-Betrug eingesetzt. Auch organisierte kriminelle Gruppen nutzen die Technologie mit einigem Erfolg bei ihren Spear-Phishing - und Whaling-Angriffen .

Wenn man es live in einer Demo sieht, wird einem klar, wie wichtig es ist, daran zu glauben, dass diese Technologie real ist und genutzt wird (sie ist keine Science-Fiction).

Der Sinn von Ethical Hacking ist Aufklärung und Verteidigung. Hier sind also ein paar Tipps und Tricks, die ich aus dem Webinar mitgenommen habe.

Wenn Sie glauben, dass Sie durch einen Telefon- oder Videoanruf betrogen werden, unterbrechen Sie den Anrufer, während er spricht. 

Wenn sie weiter sprechen oder ihre Antwort um 5-6 Sekunden verzögert wird, seien Sie misstrauisch.

Rufen Sie sie nicht unter den Nummern zurück, die sie Ihnen geben, oder stimmen Sie zu, Codes von ihnen zu erhalten.

Wenn Sie sie sehen können, achten Sie auf die folgenden Anzeichen dafür, dass es sich um einen Deepfake handelt:

1. Hände

Das Bewegen der Hände (vor dem Gesicht oder in der Hand) ist ein echtes Zeichen dafür, dass die KI noch nicht ganz auf dem neuesten Stand ist. Machen Sie sich keine Sorgen über das Zählen der Finger, aber seien Sie misstrauisch, wenn das Bild verpixelt oder die Hände sich in die Tasse, den Stift oder das Gesicht zu verwandeln scheinen . Geben Sie nicht nur Teams oder einer langsamen Internetverbindung die Schuld!

2. Augen

Blinzelnde Augen sind auf KI-Gesichtern im Allgemeinen langsamer oder umgekehrt (was sehr seltsam aussieht). Seien Sie sich bewusst, dass Augen ein weiteres KI-Geschenk sind, und wenn sie seltsam aussehen, seien Sie vorsichtig!

3. Stimme

Das Vortäuschen einer Stimme ist ganz einfach, aber KI lässt es roboterhaft klingen. Es ist möglich, eine falsche Stimme mit einer anderen zu verschmelzen, um die Trittfrequenz zu verbessern und sie natürlicher klingen zu lassen, aber sie ist immer noch nicht perfekt. Wenn Sie die Person kennen, mit der Sie sprechen sollen, rufen Sie sie zurück oder senden Sie ihr eine Nachricht an eine bekannte Nummer oder ein bekanntes System, um zu überprüfen, ob es sich um sie handelt.

Es ist die Zeit des Jahres, in der wir alle mehr Spam und Junk-Mails neben legitimen Nachrichten über Pakete, Online-Bestellungen usw. erhalten. Jetzt ist es also besonders wichtig, wachsam zu bleiben. Diese Technologie wird nur noch besser werden (wahrscheinlich schneller, als wir denken!), also seien Sie auf der Hut!