Ein Finanzmitarbeiter eines namentlich nicht genannten großen multinationalen Konzerns wurde dazu verleitet, 200 Millionen Hongkong-Dollar (rund 25,6 Millionen US-Dollar) an Betrüger zu überweisen, die Deepfake-Technologie nutzten, um sich als seine Kollegen auszugeben. Zu den von der KI erstellten Simulakren der Kollegen des Mannes gehörte ein Deepfake des Finanzvorstands (CFO) des Unternehmens, und die Polizei von Hongkong sagt, der Betrug habe über eine Videokonferenz stattgefunden (wie von CNN berichtet).
Die Betrüger „luden den Arbeiter zu einer Videokonferenz mit vielen Teilnehmern ein“, sagte Oberaufseher Baron Chan Shun-ching an den Sender RTHK. „Da es sich bei den Personen in der Videokonferenz um echte Betroffene handelte, führte der Mitarbeiter wie angewiesen 15 Transaktionen auf fünf lokale Bankkonten durch, die sich auf insgesamt 200 Millionen HK$ beliefen. Es stellte sich heraus, dass alle [the worker saw] war eine Fälschung.“
Chan ist von der Cyber-Sicherheitsabteilung der Hongkonger Polizei und sagt über die verwendete Deepfake-Technik: „Ich glaube, der Betrüger hat im Voraus Videos heruntergeladen und dann künstliche Intelligenz verwendet, um gefälschte Stimmen in die Videokonferenz einzufügen.“ Er sagte, der Vorfall habe im Januar begonnen, als der Arbeiter eine Nachricht erhielt, die angeblich vom britischen CFO des Unternehmens stammte. In der Nachricht wurde er zu einem Videoanruf eingeladen, um eine vertrauliche Transaktion zu besprechen, die das Unternehmen durchführen musste.
Wenn Sie denken: „Nun, das ist Ihre erste rote Fahne“, dann war das auch bei dem Opfer der Fall. Der Mitarbeiter war misstrauisch gegenüber der Nachricht und glaubte, die gesamte Geheimhaltung der Transaktion deutete darauf hin, dass es sich möglicherweise um einen Phishing-Angriff handelte. Leider ließ der Mitarbeiter ihre Zweifel zerstreuen und war nach dem Videoanruf davon überzeugt, dass es sich bei den Video- und Audio-Deepfakes mehrerer Kollegen um das Echte handelte.
Der Arbeiter führte die Transaktionen wie gewünscht durch. Officer Chan sagt, dass der Arbeiter nach der Telefonkonferenz die Zentrale des Unternehmens kontaktiert und festgestellt habe, dass es sich um einen Betrug gehandelt habe.
„Wir wollen die Öffentlichkeit auf diese neuen Täuschungstaktiken aufmerksam machen“, sagt Chan. „In der Vergangenheit gingen wir davon aus, dass bei diesen Betrügereien nur zwei Personen in Eins-zu-eins-Situationen involviert waren. Anhand dieses Falles können wir jedoch sehen, dass Betrüger in der Lage sind, KI-Technologie in Online-Meetings einzusetzen, sodass die Leute auch in Meetings wachsam sein müssen.“ mit vielen Teilnehmern.
Die Hongkonger Polizei verfügt über eine Liste mit Empfehlungen, die jedem bekannt sein dürfte, der bereits an einer firmeninternen Informationssicherheitsschulung teilnehmen musste. Im Hinblick auf diesen Fall empfiehlt sie jedoch, dass jeder Mitarbeiter, der zu einer verdächtigen Besprechung eingeladen wird, versucht, die Details durch die regelmäßige Kommunikation seines Unternehmens zu bestätigen Kanäle. Sie schlagen außerdem vor, dass Sie während der Besprechungen Fragen stellen, um zu überprüfen, ob die anderen Teilnehmer real sind und wer sie zu sein behaupten … was die nächsten Mitarbeiterbesprechungen von PC Gamer viel unterhaltsamer machen wird.
Bei der Pressekonferenz am Freitag teilte die Hongkonger Polizei mit, dass sie sechs Festnahmen im Zusammenhang mit Betrügereien wie dieser vorgenommen habe, sagte jedoch nicht, ob welche mit diesem speziellen Verbrechen in Zusammenhang stünden.
Chan lieferte auch ein interessantes, wenn auch etwas untergeordneteres Beispiel dafür, wie Deepfake-Technologie in der Region eingesetzt wird, indem er über gestohlene Personalausweise sprach. Wenn Sie in Hongkong leben, haben Sie ab dem 11. Lebensjahr einen obligatorischen Personalausweis (HKID), und dieses Regierungsdokument ist für praktisch alles erforderlich. Chan sagte, acht gestohlene HKID-Karten (von denen alle von ihren Besitzern als verloren gemeldet wurden) seien letztes Jahr über einen Zeitraum von drei Monaten dazu verwendet worden, 90 Kreditanträge zu stellen und 54 Bankkonten zu registrieren. Bei mindestens 20 dieser Antragsverfahren wurden Deepfakes der Besitzer der HKID-Karten verwendet, um Gesichtserkennungsprogramme auszutricksen.
Beispiele für Deepfake-Technologie gibt es schon seit Jahren, einige sicherlich besser als andere, aber es scheint, als würde 2024 das Jahr des Deepfakes werden. Es begann mit einem Skandal um gefälschte sexuelle Bilder des Popstars Taylor Swift, bei dem es unter anderem darum ging, wie schnell verschiedene Plattformen dafür sorgten, dass die Inhalte viral gingen, doch der Härtetest wird später in diesem Jahr bei den US-Präsidentschaftswahlen kommen. Unabhängig davon, ob es sich um Audio- oder Videoaufnahmen handelt, gibt es viele Beispiele dafür, dass namhafte Persönlichkeiten wie Präsident Biden per Deepfake Dinge sagen oder tun, die sie nicht getan haben, und inmitten dieser Unklarheit scheint es nicht so, als wären es Facebook-Fans Ich habe keine Ahnung, was ich dagegen tun kann.