Als die Mutter von vier Kindern, Jennifer DeStefano, letzten Januar den Hörer abnahm, gefror ihr das Blut, als ihre verängstigte Teenager-Tochter Briana schluchzte und um Hilfe schrie.
„Mama, diese bösen Männer haben mich, hilf mir! Hilf mir!” Die 15-jährige Briana schrie auf, als ihre panische Mutter verzweifelt darüber nachdachte, wie sie ihre Tochter retten könnte.
Später stellte sich jedoch heraus, dass alles völlig gefälscht war – ein grausamer und erschreckender Betrug.
Es war überhaupt nicht Jennifers Tochter, sondern ein KI-Roboter, der ihre Schreie und ihre Stimme perfekt nachahmte, scheinbar als Teil eines ausgeklügelten Tricks, um Jennifer um Zehntausende Pfund zu erpressen.
Es ist eine Situation, die unvorstellbar klingt, aber Jennifers Erfahrung ist kein Einzelfall.
Erschreckenderweise zeigen aktuelle Untersuchungen des Online-Schutzunternehmens McAfee, dass fast ein Viertel der Briten bereits Opfer eines KI-Sprachbetrugs geworden sind oder jemanden kennen, der das erlebt hat. Die meisten dieser Opfer (78 Prozent) haben dadurch Geld verloren.
LESEN SIE MEHR FABELHAFTES ECHTES LEBEN
Forscher fanden außerdem heraus, dass eine Stimme aus nur drei Sekunden Audio geklont werden kann – besonders augenöffnend, wenn man bedenkt, wie viel von unserem Leben – und dem unserer Familien – in sozialen Medien gepostet wird.
Oliver Devane, leitender Sicherheitsforscher bei McAfee, erklärt: „Betrüger nutzen KI-Technologie zum Klonen von Stimmen, um Eltern dazu zu verleiten, Geld auszuhändigen, indem sie die Stimmen ihrer Kinder per Anruf, Voicemail oder WhatsApp-Sprachnotiz nachahmen.“
„In den meisten Fällen, von denen wir hören, geben die Betrüger an, dass sie einen schweren Unfall hatten, beispielsweise einen Autounfall, und dringend Geld benötigen.“
„Nachdem wir einige der kostenlosen und kostenpflichtigen Tools zum Klonen von Stimmen online getestet hatten, stellten wir in einem Fall fest, dass nur drei Sekunden Audio erforderlich waren, um eine gute Übereinstimmung zu erzielen.
„Für Cyberkriminelle ist dies ein anspruchsvolleres Beispiel für Spearphishing – ein Begriff, der für jede Art von gezieltem Angriff verwendet wird.“
„Der Cyberkriminelle setzt darauf, dass ein Elternteil sich Sorgen um sein Kind macht, seinen Gefühlen freien Lauf lässt und Geld schickt, um zu helfen.“
So schützen Sie sich vor KI-Betrügern
Hier verrät Laura Kankaala, Leiterin der Threat Intelligence bei F-Secure, ihre besten Tipps, um einen Betrug zu erkennen, und was Sie beachten müssen, um nicht Opfer einer grausamen Falschmeldung zu werden …
- Heutzutage kann jede Art von Inhalt gefälscht sein: Von Betrügern verwendete KI-Tools sind darauf angewiesen, dass Daten im Internet verfügbar sind. Es dauert nur wenige Sekunden Audio, um eine überzeugende KI-generierte Sprachnotiz zu erstellen. Ebenso können Bilder problemlos aus sozialen Medien übernommen und verändert werden. Ein Betrüger kann beispielsweise einen KI-Bildgenerator verwenden, um innerhalb von Minuten den Hintergrund in ein gefährliches Szenario zu ändern oder die heutige Titelseite einer Zeitung hinzuzufügen.
- AStellen Sie eine Sicherheitsfrage oder vereinbaren Sie ein sicheres Wort: KI ist intelligent, kann aber keine persönlichen Beziehungen nachbilden. Wenn Sie misstrauisch sind, fragen Sie etwas Persönliches und Einzigartiges. Zum Beispiel: „Wie heißt Ihr erster Teddybär?“ oder „Wie viele Knochen hast du dir gebrochen und wie?“. Vermeiden Sie Fragen wie: „Wie lautet die erste Zeile Ihrer Adresse?“ oder „Wie heißt Ihr erstes Haustier?“ Denn Betrüger können auf diese Art von Informationen zugreifen, die häufig online für Online-Käufe und Kontowiederherstellungen eingegeben werden.
- Vereinbaren Sie mit Familienmitgliedern ein Passwort: Beachten Sie jedoch, dass sich Ihr Kind im Ernstfall möglicherweise nicht an das Passwort erinnert oder es nicht laut ausspricht. Daher ist dies möglicherweise nicht die zuverlässigste Option.
- Telefonnummern können gefälscht werden: Auch wenn der Anruf, den Sie erhalten, so aussieht, als stamme er von der Telefonnummer Ihres Kindes, können Telefonnummern geklont werden. Dies wird als Spoofing bezeichnet und ist eine gängige Taktik von Betrügern, da sie den Empfänger dazu ermutigt, dem Anrufer zu vertrauen. Die alleinige Angabe einer Telefonnummer zur Verifizierung reicht nicht aus.
- Legen Sie auf und sagen Sie ihnen, dass Sie sie zurückrufen werden: Wenn es sich um einen Anruf handelt, den Sie erhalten haben, und Sie vermuten, dass es sich nicht um den echten Anrufer handelt, sagen Sie, dass Sie auflegen und den Anrufer kontaktieren werden. Bei eingehenden Anrufen kann eine Telefonnummer gefälscht werden, bei ausgehenden jedoch nicht. Nutzen Sie also die Kontakt-App Ihres Telefons und rufen Sie Ihr Kind auf diese Weise an, um zu bestätigen, dass es es war.
- Geben Sie niemals Ihre Bankdaten am Telefon bekannt: Geben Sie niemals Bankdaten am Telefon oder per Nachricht/E-Mail weiter, auch nicht unter legitimen Umständen, da dies das Risiko erhöht, dass jemand Ihre sensiblen Daten missbraucht oder versehentlich preisgibt. Es ist normal, dass Ihr Kind um Geld bittet, aber wenn Sie einen Verdacht haben, rufen Sie es an und vergewissern Sie sich, dass es ihm gut geht.
- Informieren und informieren: Aufklärung ist die beste Form der Prävention – wenn Sie sich solcher Betrügereien bewusst sind, können Sie auf die Warnzeichen achten und entsprechend handeln. Teilen Sie dieses Wissen mit Familienmitgliedern – insbesondere mit älteren Verwandten, die möglicherweise weniger technisch versiert sind. Sie sollten auch Ihre Kinder weiterbilden, auch wenn sie schon älter sind und sich mit Technik auskennen.
„Sie weinte und schluchzte“
Jennifer, 44, lebt mit ihrem 22-jährigen Ehemann und ihren vier Kindern, darunter Briana, 16, in Arizona, USA.
Sie hat immer noch keine Ahnung, wie die Stimme ihrer Tochter geklont wurde – oder wer dafür verantwortlich war, und hatte noch nie von KI-Betrügereien gehört, bevor sie Opfer eines Versuchs wurde, sie dazu zu bringen, im Jahr 2023 Tausende zu übergeben, um ihre Tochter Briana vor Entführern zu retten.
Zu der Zeit war Briana auf einem Skiausflug und Jennifer war gerade auf dem Weg, ihre andere Tochter von einer Tanzprobe abzuholen, als sie den unheilvollen Anruf erhielt.
Im Online-Interview mit „Fabulous“ sagt Jennifer: „Ich ging zunächst davon aus, dass Briana sich verletzt hatte, und vielleicht rief sie an, um es mir mitzuteilen.
„Sie weinte und schluchzte und sagte ‚Mama, ich habe es vermasselt‘, und dann hörte ich einen Mann, der ihr sagte, sie solle sich hinlegen.
„Ich machte mir Sorgen, dass sie vielleicht verletzt war und vom Berg geschlittelt wurde oder so.
„Aber sie weinte weiter und dann sagte sie plötzlich: ‚Diese bösen Männer haben mich, hilf mir, hilf mir.“
„Sie schrie und flehte, und dann kam ein Mann ans Telefon und das war das letzte Mal, dass ich ihre Stimme hörte.“
4
Panikmodus
Jennifer war in den schlimmsten Albtraum aller Eltern gestürzt.
Sie sagt: „Da geriet ich wirklich in Panik und mir wurde schlecht.
„Meine Gedanken rasten und ich begann schnell darüber nachzudenken, was ich tun könnte, um meiner Tochter zu helfen.
„Ich weiß immer noch nicht, wie sie es gemacht haben, aber es klang genau wie Briana. Es war nicht nur ihre Stimme, es war die Art, wie sie schluchzte und schrie, und ich zweifelte keine Sekunde daran, dass sie es war.
„Eine Mutter kennt den Schrei ihres eigenen Kindes – es ist wie ein Fingerabdruck, einzigartig, und das hat mich am meisten aus der Fassung gebracht.
„Er sagte, wenn ich es jemandem erzähle, würde er ihr den Magen mit Drogen vollpumpen und ich würde sie nie wieder sehen, und verlangte eine Million Dollar, die sie dann auf 50.000 Dollar senkten.
„Ich fragte nach einer Bankleitzahl und Anweisungen zur Verkabelung, aber der Mann weigerte sich und verlangte Bargeld.
„Er sagte, sie würden mich in einem weißen Lieferwagen mit einer Tasche über dem Kopf abholen, und er sagte, wenn ich nicht das ganze Geld hätte, wären wir beide tot.“
„Ich brach vor Erleichterung zu Boden“
Noch während sie telefonierte, rannte Jennifer ins Tanzstudio, und eine andere Mutter erkannte den Ernst der Lage und rief die Polizei an, die sagte, sie habe eine Flut von Berichten über ähnliche Anrufe erhalten, die sich als KI-Falsche herausstellten.
Während dies Jennifer Hoffnung gab, dass ihre Tochter in Sicherheit sei, befürchtete sie dennoch das Schlimmste und sagte: „Tatsächlich war vor ein paar Jahren ein Freund unserer Familie auf tragische Weise entführt worden und er war tatsächlich getötet worden, also war es erschreckend, als ich dachte, vielleicht das hier.“ hing damit zusammen.
„Ich verlangte, noch einmal mit ihr zu sprechen, aber der Mann lehnte ab und bestand darauf, dass er sie hätte.“
Erst als Jennifer wenige Minuten später dankenswerterweise mit ihrer eigentlichen Tochter sprechen konnte, die immer noch mit ihrem Vater auf dem Skiausflug war, erlaubte sie sich endlich zu glauben, dass sie in Sicherheit sei.
Sie sagt: „Bis zu diesem Zeitpunkt hatte ich noch nie von KI-Betrügereien gehört, und ich glaubte wirklich, dass es Briana war, die am Telefon um Hilfe geschrien hatte. Ich wollte also glauben, dass sie in Sicherheit sei, konnte es aber nicht.“ Glauben Sie es, bis ich mit ihr gesprochen habe und sie bestätigt hat, dass sie es definitiv war. Sie hatte keine Ahnung, was los war.
„An diesem Punkt legte ich auf und brach unter Tränen der Erleichterung zu Boden.“
4
„Ich konnte den Mangel an Menschlichkeit nicht glauben“
Bedauerlicherweise wurden die Täter nie gefunden und es gab kein Gesetz, gegen das man vorgehen könnte – so wurde es von der Polizei leider nur als „Scherzanruf“ gewertet.
Jennifer sagt: „Es war der schlimmste Finanzbetrug, von dem ich in meinem ganzen Leben gehört hatte – ich konnte den Mangel an Menschlichkeit nicht glauben, die Stimme meiner Tochter zu nutzen, um solch ein schreckliches Szenario für Geld zu inszenieren, war nur das Tiefste vom Tief.“
„Ihr Kind ist in Gefahr und Sie flehen um sein Leben. Es ist der schlimmste Albtraum aller Eltern und es macht mich immer noch emotional, wenn ich jetzt daran denke.
Es wirft Licht auf eine völlig neue Welt und Realität, von deren Existenz ich nicht einmal eine Ahnung hatte – und das ist erschreckend.“
Mutter von vier Kindern, Jennifer DeStefano
„Es war nicht nur das Geld, sondern auch die Tatsache, dass sie fragten, wo ich war und mich auch physisch abholten und nach meinem Standort fragten – das machte mir zutiefst Angst, denn meine größte Angst wäre, dass diese Technologie genutzt werden könnte.“ Kinder anlocken.
„Jetzt haben wir ein Codewort und sind uns bewusst, Fragen zu stellen, auf die nur wir die Antwort kennen, aber selbst dann ist es nicht narrensicher.
„Eine andere Mutter erzählte mir, dass sie einen Täuschungsanruf mit der Stimme ihres Sohnes erhalten hatte und dass sie irgendwie sogar seinen einzigartigen Spitznamen kannten.
„Andere haben nach dem Codewort gefragt und die Betrüger haben einfach aufgelegt.
„Mir haben so viele Leute mitgeteilt, dass sie etwas Ähnliches erlebt haben, sei es ein Anruf wegen einer Entführung oder eines Unfalls oder ob sie in Schwierigkeiten stecken und im Gefängnis sind – es gibt viele verschiedene Szenarien und die Tiefe Fake-Videos, die jetzt herauskommen, sind auch so gruselig.
„Wir brauchen mehr Gesetze zum Thema KI und den Einsatz von KI zur Unterstützung der Kriminalität. Der Missbrauch muss mit Strafen und Konsequenzen verbunden sein.
„Es ist eine Erleichterung, dass meine Tochter in Sicherheit ist und dass diese Situation nicht real war, aber es wirft auch Licht auf eine ganz neue Welt und Realität, von deren Existenz ich nicht einmal eine Ahnung hatte – und das ist erschreckend.“
„Innehalten und nachdenken“
Es ist ein Szenario, das man sich nur schwer vorstellen kann, aber es ist wichtig zu bedenken, dass Betrüger versuchen werden, Sie in Situationen zu bringen, die es fast unmöglich machen, klar zu denken.
Zumal es sich um ein Problem handelt, das noch zunehmen wird, da sich die Menge der im Vereinigten Königreich begangenen Betrugsfälle laut dem neuesten FraudTrack-Bericht der Wirtschaftsprüfungsgesellschaft BDO im Jahr 2023 auf 2,3 Milliarden Pfund mehr als verdoppelt hat.
Oliver Devane von Mcafee fügt hinzu: „Wenn Sie einen Anruf oder eine Voicemail von jemandem erhalten, der Sie um Hilfe und Geld bittet, halten Sie einfach inne und denken Sie nach.
„Klingt das wirklich nach Ihrem Kind? Selbst wenn es sich um eine Nummer handelt, die Sie als ihre Nummer erkennen, kann es sich um eine Fälschung handeln.
„Es könnte sinnvoll sein, ein zuvor vereinbartes Codewort zu verwenden oder eine Frage zu stellen, die nur sie kennen.
Denken Sie auch daran, dass Cyberkriminelle auf hohe Emotionen setzen.
„Sie werden Ihre Verbindung zu Ihrem Kind ausnutzen und ein Gefühl der Dringlichkeit erzeugen, das Sie zum Handeln anregt. Versuchen Sie, einen kühlen Kopf zu bewahren und innezuhalten, bevor Sie weitere Schritte unternehmen.“
4