Kriminelle nutzen Deepfakes weiterhin für alles Mögliche, von der Nachahmung von Prominenten bis hin zum Betrügen von Geld. Der jüngste Fall stammt aus Hongkong, wo ein Finanzmitarbeiter eines nicht genannten multinationalen Unternehmens dazu verleitet wurde, 200 Millionen Hongkong-Dollar (25,6 Millionen US-Dollar) zu überweisen.
Nach Angaben der Hongkonger Polizei kontaktierten Betrüger den Mitarbeiter, der sich als Finanzvorstand des Unternehmens mit Sitz im Vereinigten Königreich ausgab. Er war zunächst misstrauisch, da in der E-Mail geheime Transaktionen gefordert wurden, doch hier kamen die Deepfakes ins Spiel. Der Arbeiter nahm an einem Videogespräch mit dem „CFO“ und anderen erkennbaren Mitgliedern des Unternehmens teil. In Wirklichkeit handelte es sich bei jeder „Person“, mit der er interagierte, um einen Deepfake – der wahrscheinlich mithilfe öffentlicher Videoclips der tatsächlichen Personen erstellt wurde.
Die Deepfakes forderten den Mitarbeiter auf, sich vorzustellen, und forderten ihn dann schnell auf, 15 Überweisungen im Umfang von 25,6 Millionen US-Dollar auf fünf lokale Bankkonten vorzunehmen. Sie erzeugten ein Gefühl der Dringlichkeit für die Aufgabe, und dann endete das Gespräch abrupt. Eine Woche später überprüfte der Mitarbeiter die Anfrage im Unternehmen und stellte die Wahrheit fest.
Die Polizei von Hongkong hat im Zusammenhang mit dem Betrug bisher sechs Personen festgenommen. Die beteiligten Personen stahlen acht Ausweise und hatten im Jahr 2023 54 Bankkontoanmeldungen und 90 Kreditanträge gestellt. Außerdem hatten sie in mindestens 20 Fällen Deepfakes eingesetzt, um Gesichtserkennungssoftware auszutricksen.
Der weit verbreitete Einsatz von Deepfakes ist eine der wachsenden Sorgen der sich weiterentwickelnden KI-Technologie. Im Januar gehörten Taylor Swift und Präsident Joe Biden zu denen, deren Identitäten durch Deepfakes gefälscht wurden. Im Fall von Swift handelte es sich um nicht einvernehmliche pornografische Bilder von ihr und einen Finanzbetrug, der sich an potenzielle Le Creuset-Käufer richtete. Die Stimme von Präsident Biden war in einigen Robocalls an die Wähler von New Hampshire zu hören, in denen er sie anflehte, nicht an den Vorwahlen ihres Staates teilzunehmen.