KIs wie ChatGPT und unzählige Voice-Changer-Tools können nützlich sein und sogar Spaß machen, damit herumzuspielen, aber Geschichten wie diese heben die Gefahren solcher Technologien hervor. Eine Mutter aus Arizona war entsetzt, als sie glaubte, dass ihre Tochter entführt und als Lösegeld festgehalten worden war.
Wie von Arizona berichtet WKYT (öffnet in neuem Tab), Jennifer DeStefano wurde mehr als nur einem Streichanruf ausgesetzt. Sie erhielt anscheinend einen Anruf von ihrer 15-jährigen Tochter, die auf einem Skiausflug nicht in der Stadt war.
“Mama, ich habe es vermasselt”, begann es, gefolgt von einem unbekannten Mann, der sagte: “Leg deinen Kopf zurück, leg dich hin.”
Der schlimmste Albtraum aller Eltern, der Mann behauptete weiter, er habe Jennifers Tochter als Geisel genommen, und drohte mehrfach entsetzlich, dass sie ihre Tochter nicht wiedersehen würde, wenn sie ihm nicht 1 Million Dollar zahle. Die ganze Zeit war zu hören, wie sie „hilf mir, Mama. Bitte hilf mir. Hilf mir‘ und brüllt.“
Glücklicherweise konnte Jennifer, nachdem sie ihren Ehemann angerufen hatte, bestätigen, dass ihre Tochter sicher und gesund war und überhaupt nicht wusste, was los war. Es war alles ein schrecklicher Trick gewesen. Die Kriminellen hatten KI eingesetzt, um die Stimme ihrer Tochter genau nachzuahmen.
„Es war komplett ihre Stimme. Es war ihr Tonfall. So hätte sie geweint“, sagte sie. „Ich habe keine Sekunde daran gezweifelt, dass sie es war. Das ist der verrückte Teil, der mich wirklich zu meinem Kern gebracht hat.“
Diese Situation ist schrecklich, aber leider kein Einzelfall. Selbst hochkarätigen Persönlichkeiten wurden Worte in den Mund gelegt. Drake und das Wochenende wurden ins Visier genommen, als a gefälschtes Lied wurde in ihren Stimmen freigesetzt.
Noch unverzeihlicher ist, dass der siebenmalige Formel-1-Weltmeister Michael Schumacher, der 2014 einen tragischen Skiunfall hatte, Anfang dieses Monats einem deutschen Magazin ein exklusives Interview gab, in dem er einige herzzerreißende Details über das Familienleben preisgab. Was für ein Scoop, bis es enthüllt wurde es war alles gefälscht (öffnet in neuem Tab), indem er eine KI verwendete, die darauf trainiert war, Zitate zu erstellen, die nach ihm klangen. Schumachers Familie verklagt das Magazin nun vor Gericht.
Wie können wir vermeiden, von KI gefälscht zu werden?
Leider leben wir jetzt in einer Welt, in der es gegen uns verwendet werden kann, wenn wir Menschen nur Zugang zu unserem Abbild und Clips unserer Stimme gewähren. Persönlichkeiten des öffentlichen Lebens werden wahrscheinlich Schwierigkeiten haben, solchen Betrügereien zu entkommen, aber normale Bürger können einige Maßnahmen ergreifen, um sich zu schützen.
Wenn Sie Social-Media-Konten auf privat setzen, können Sie sicherstellen, dass nur die Augen und Ohren von Personen, denen Sie vertrauen, Ihre Beiträge sehen. Videos auf Instagram, Facebook und dergleichen können nicht nur zeigen, wie Sie aussehen, sondern Betrüger benötigen nur wenige Sekunden Audio, um Ihre Stimme zu fälschen.
Wenn Sie online oder am Telefon mit jemandem sprechen, vor dem Sie misstrauisch sind, stellen Sie ihm persönliche Fragen, die der echte Freund oder das Familienmitglied kennen würde, und senden Sie niemals Geld an oder klicken Sie niemals auf Links von nicht vertrauenswürdigen Quellen.