IT ist die Geißel von Prominenten auf der ganzen Welt – ein erniedrigender digitaler Sexangriff.
Mithilfe von KI-Technologie werden Videos von Frauen in anschaulichen Sex-„Filmen“ erstellt und dann online verkauft.
5
Hunderte Prominente wurden in abscheuliche „Deepfake“-Inhalte verwickelt, darunter die Megastars Taylor Swift, Angelina Jolie und die Schauspielerin Emma Stone.
Aber es sind nicht nur Stars, die online Opfer gefälschter Videos von Tausenden unschuldiger Frauen werden – viele haben keine Ahnung, dass die perversen Bilder und Clips überhaupt existieren.
Diese Woche wurden neue Gesetze eingeführt, um die Schaffung von Sex-Deepfakes zu kriminalisieren.
Ein Deepfake ist ein Videobild, das mit Hilfe künstlicher Intelligenz digital verändert wurde, um das Gesicht einer Person durch eine andere zu ersetzen.
LESEN SIE MEHR ÜBER KI-TECHNOLOGIE
Aber Aktivisten befürchten, dass es nicht weit genug geht – und dass dies die neue Frontlinie für Rachepornos ist.
Wenn Sie über eine Grafikkarte und einen sehr guten Computer verfügen, können Sie so ziemlich alles erstellen, was Sie wollen
Sun-Videoproduzent Ben Malandrinos
Erschreckenderweise konnte The Sun innerhalb von ZEHN MINUTEN ein Deepfake-Video der Feature-Autorin Grace Macaskill erstellen.
Wir haben eine kostenlose App heruntergeladen, um das Gesicht unseres Reporters mit vorhandenem Filmmaterial eines Oscar-Gewinners zu verschmelzen. Benutzer können sich dann für nur 16 £ pro Monat anmelden.
Sun-Videoproduzent Ben Malandrinos sagte: „Wenn Sie eine Grafikkarte und einen sehr guten Computer haben, können Sie so ziemlich alles erstellen, was Sie wollen.“
Wir haben auch herausgefunden, dass einige der größten Namen des Landes, von Holly Willoughby und der Schauspielerin Michelle Keegan bis hin zu Amanda Holden und Moderatorin Susanna Reid, Opfer abscheulicher, von KI erstellter Videos sind.
Unsere Durchsuchung einer der berühmtesten Deepfake-Seiten der Welt – deren Namen wir nicht nennen – hat 26 bekannte britische Frauen gefunden – darunter Sportstars, Schauspielerinnen und Autorinnen.
„Opfer sind selbstmordgefährdet“
Sogar das Gesicht der Prinzessin von Wales, Kate Middleton, wurde für gruselige Sexfilme verwendet.
Die Regierung hat diese Woche neue Gesetze eingeführt, um die Erstellung von Deepfake-Bildern illegal zu machen.
5
5
Den Tätern könnte eine Gefängnisstrafe drohen.
Aktivisten befürchten jedoch, dass die neuen Gesetze aufgrund einer „Lücke“ nicht weit genug gehen.
Wenn ein Fall vor Gericht landet, muss die Staatsanwaltschaft beweisen, dass der Urheber beabsichtigt hat, Ärger zu verursachen – was laut Kritikern schwer zu belegen sein wird.
Big Tech wurde auch vorgeworfen, Opfer im Stich gelassen zu haben – trotz des Versprechens, falsche Inhalte zu kontrollieren.
Professor Clare McGlynn, Rechtsexpertin für Pornografie, sagte: „Es ist ein mutiger Schritt der Regierung, der aber nicht weit genug geht.
„Das einzige Motiv, das bei dem neuen Gesetz von Bedeutung sein wird, ist, ob jemand versucht hat, böswillige Absichten zu verursachen.
„Was wir aus früheren Gesetzen zum nicht einvernehmlichen Teilen wissen, ist, dass der Nachweis einer Notlage eine Herausforderung für die Polizei darstellt und die Strafverfolgung verzögert.“
Was wir aus früheren Gesetzen zum nicht einvernehmlichen Teilen wissen, ist, dass der Nachweis einer Notlage eine Herausforderung für die Polizei darstellt
Professor Clare McGlynn
Die Nachrichtenmoderatorin von Channel 4, Cathy Newman, eine der wenigen Prominenten, die über gezielte Angriffe sprachen, sagte, die Schlupflöcher müssten „verschärft“ werden.
Sie sagte: „Es gibt zwei Hauptprobleme. Tatsächlich handelt es sich hier lediglich um eine Gesetzgebung im Vereinigten Königreich, und viele dieser Deep Fakes werden nicht hier hergestellt und fallen daher nicht unter dieses neue Gesetz.
„Deshalb sind hier globale Maßnahmen erforderlich. Und vor allem braucht es große Technologiekonzerne, die die Verantwortung für diesen Missbrauch übernehmen, den sie begünstigen.“
Die frühere „Love Island“-Kandidatin Cally Jane Beech, die sich für Gesetzesänderungen einsetzte, erzählte, dass sie sich „extrem verletzt“ fühlte, nachdem sie in abscheulichen Fake-Bildern, die in den sozialen Medien verbreitet wurden, zur Zielscheibe geworden war.
Sie erzählte einem parlamentarischen Rundtischgespräch: „Meine Unterwäsche wurde ausgezogen und an ihrer Stelle wurde ein nackter Körper aufgezwungen und ohne meine Zustimmung ins Internet hochgeladen.
5
„Die Ähnlichkeit dieses Bildes war so realistisch, dass jeder mit frischem Blick davon ausgehen würde, dass dieses von der KI erzeugte Bild echt sei, obwohl es das nicht war. Trotzdem fühlte ich mich extrem verletzt.“
Die britische Twitch-Erfinderin Sweet Anita erzählte letztes Jahr The Sun, wie sie „schreckliche“ Clips ihres Bildes entdeckte, die über pornografische Filme gelegt wurden.
Anita, die ihren richtigen Namen nicht preisgab, sagte: „Man könnte jeden Deepfake machen.“ Jeder aus allen Gesellschaftsschichten könnte ins Visier genommen werden.
„Ich habe in meinem Leben noch nie einen einzigen Tropfen sexuellen Inhalts geteilt, aber jetzt gehen sie einfach davon aus, dass ich das getan habe und dass ich das wollen muss.
„Es ist nicht einfach, dies von der Realität zu unterscheiden. Wenn die Leute dieses Video in 10 oder 20 Jahren sehen, wird niemand wissen, ob ich eine Sexarbeiterin war oder ob es sich um einen Deepfake handelte.“
Anita aus East Anglia fügte hinzu: „Das wird mein Leben ähnlich beeinflussen wie Rachepornos.“ Ich bin einfach so frustriert, müde und taub.“
Wenn die Leute dieses Video in 10 oder 20 Jahren sehen, wird niemand wissen, ob ich eine Sexarbeiterin war oder das ein Deepfake war
Twitch-Erfinderin Sweet Anita
Viele normale Frauen waren sich der Deepfakes erst Anfang des Jahres bewusst, als Superstar Taylor Swift KI-Bilder online veröffentlichte, die sie in intimen Stellungen zeigten.
Sie führt derzeit Krieg gegen die Social-Media-Bosse, nachdem einer der expliziten Fakes 47 Millionen Mal auf X, zuvor Twitter, angesehen wurde, bevor er entfernt wurde.
The Sun kann enthüllen, dass mehr als jede zehnte gefälschte Videoseite weltweit im Vereinigten Königreich betrieben wird. Und das Problem wächst.
Eine Untersuchung von Channel 4 im vergangenen Monat ergab, dass die Bilder von rund 250 britischen Prominenten unter 4.000 Online-Deepfakes digital manipuliert wurden.
Die Untersuchung ergab, dass die fünf Hauptseiten innerhalb von drei Monaten 100 Millionen Aufrufe erhielten.
Ein Bericht des Startups Home Security Heroes aus dem Jahr 2023 schätzt, dass im vergangenen Jahr 95.820 Deepfake-Videos online waren – ein Anstieg von 550 Prozent seit 2019.
Sieben von zehn Pornoseiten hosten mittlerweile Deepfake-Inhalte und Untersuchungen des Technologieunternehmens Sensity AI ergaben, dass sich die Anzahl der Videos alle sechs Monate verdoppelt.
Als The Sun eine der größten Deepfake-Seiten durchsuchte, fanden wir digital veränderte Pornos mit Bezug zu Stars wie der Journalistin Emily Maitlis, der Moderatorin Maya Jama sowie den Sängerinnen Cheryl Tweedy und Pixie Lott.
Laut Content Detector.AI haben 12 Prozent der Deepfake-Websites ihren Sitz in Großbritannien.
Sie fühlen sich verletzt, gedemütigt und dann kommt es häufig vor, dass sie durch die Veröffentlichung dieser Bilder im Internet einer Menge Beschimpfungen und Belästigungen ausgesetzt sind
Professor Clare McGlynn
Pornoseiten erwirtschaften mit gefälschten Inhalten Millionen von Pfund, und doch ist es erschreckend einfach, einen Deepfake zu erstellen.
Prof. McGlynn, der an der Durham University arbeitet, sagte, dass die Opfer täglich betroffen seien und einige der Hinterbliebenen Selbstmordgedanken hätten.
Sie fügte hinzu: „Sie fühlen sich verletzt, gedemütigt und dann kommt es ziemlich oft vor, dass sie durch die Veröffentlichung dieser Bilder im Internet sehr oft beschimpft und belästigt werden.“
„Es kann verheerend sein und für manche Menschen möglicherweise lebensbedrohlich sein, weil sie Selbstmordgedanken haben.
„Es besteht die Sorge, dass es immer wieder geteilt wird.“
Hayley Chapman, Anwältin für Missbrauchsklagen bei Bolt Burdon Kemp, äußerte sich ebenfalls besorgt über die mögliche rechtliche Formalität.
Wenn Sie eine App verwenden, um eines dieser Bilder zu erstellen, begeben Sie sich in den Tatbestand
Opfer- und Schutzministerin Laura Farris
Sie sagte: „Die Anforderung, die Absicht nachzuweisen, Alarm, Bedrängnis oder Demütigung hervorzurufen, gibt Websites und Social-Media-Plattformen eine Entschuldigung, Deepfake-Material nicht zu entfernen – und ebenso gibt Nacktheits-Apps einen Grund, ihre Existenz zu rechtfertigen – mit der Begründung, dass dies nur der Fall sei.“ zum Spaß produziert oder die Absicht ist einfach nicht bekannt.“
Opfer- und Schutzministerin Laura Farris sagte gegenüber Cathy Newman, dass die Regierung jede Lücke „durcharbeitet“.
Sie sagte: „Das Erste ist, wenn Sie eine App verwenden, um eines dieser Bilder zu erstellen, fallen Sie in den Geltungsbereich der Straftat.“
„Sie werden ein Verbrechen begehen, daran besteht kein Zweifel.“
Das Justizministerium betonte, dass jeder, der nicht jugendfreie Bilder erstellt, die volle Härte des Gesetzes zu spüren bekommt.
Ein Sprecher erklärte: „Sexuell eindeutige Deepfakes sind erniedrigend und schädlich.“
„Der neue Straftatbestand bedeutet, dass jeder gegen das Gesetz verstößt, der ohne deren Zustimmung, zur eigenen sexuellen Befriedigung oder mit der Absicht, Alarm, Kummer oder Demütigung hervorzurufen, ein explizites Bild eines Erwachsenen erstellt.“