Ein Finanzmitarbeiter in Hongkong beteiligte sich an einem Videoanruf mit scheinbar mehreren Kollegen und dem Finanzvorstand seines Unternehmens. Alle sahen echt aus und hörten sich echt an, aber es stellte sich heraus, dass alle Teilnehmer des Anrufs echt waren Deepfake. Demnach wurde der Mitarbeiter dazu verleitet, über 25 Millionen US-Dollar an unbekannte Betrüger auszuzahlen CNN am Sonntag.
„(In der) Mehrpersonen-Videokonferenz stellt sich heraus, dass jeder [he saw] war eine Fälschung“, sagte Baron Chan Shun-ching, Beamter der Hongkonger Polizei, am Freitag gegenüber Medien.
Die Hongkonger Polizei hat das Unternehmen oder den Arbeiter in diesem Fall nicht öffentlich identifiziert, aber es handelt sich um einen der bislang größten Finanzbetrügereien mit Deepfake-Technologie.
Der Mitarbeiter erhielt mehrere E-Mails vom CFO seines Unternehmens, in denen er aufgefordert wurde, die 25,6 Millionen US-Dollar per Überweisung zu überweisen. Er befürchtete, dass es sich dabei um einen Phishing-Betrug handelte, war aber nach dem Videoanruf davon überzeugt, dass die Anfrage legitim war.
Die Polizei sagte, der Mitarbeiter habe bei dem Anruf mehrere Personen erkannt, die alle wie seine Kollegen aussahen und klangen. Laut CNN fand er erst heraus, dass es sich um einen Betrug handelte, als er später in dieser Woche in der Zentrale des Unternehmens nachfragte.
Die Teilnehmer des Treffens seien anhand öffentlich verfügbarer Aufnahmen der einzelnen Personen digital nachgebildet worden, heißt es Süd China morgen Post. Angeblich wurden mehrere Mitarbeiter dieses Unternehmens gezielt angegriffen.
Die Hongkonger Polizei stellte fest, dass dies einer von vielen aktuellen Fällen war, in denen es um Betrug mit Deepfake-Technologie ging. Die Abteilung gab an, im Zusammenhang mit diesen Betrügereien sechs Festnahmen vorgenommen zu haben. Ein leitender Inspektor der Hongkonger Polizei empfahl mehrere Möglichkeiten, um zu überprüfen, ob eine Person echt ist. Dazu gehört, jemanden zu bitten, seinen Kopf zu bewegen, oder Fragen zu stellen, um seine Authentizität festzustellen. Diese umständlichen Taktiken, bei denen es besonders unangenehm wäre, Ihren Chef darum zu bitten, könnten im Zeitalter von Deepfakes notwendig werden.
Die Deepfake-Technologie hat in den letzten Wochen Chaos angerichtet, da die KI-Technologie so überzeugend geworden ist, dass es schwer ist zu sagen, was real ist und was nicht. KI-generierte, pornografische Bilder von Taylor Swift ging im Januar viral, während a Deepfake-Präsident Biden forderte die Wähler in New Hampshire auf, nicht zu wählen.