Deepfake-Pornografie berühmter Frauen wie Taylor Swift hat Empörung ausgelöst und fordert die Regulierung künstlicher Intelligenz. Doch diese leistungsstarke Technologie wird nicht nur dazu genutzt, Frauen in der Öffentlichkeit zu schikanieren – auch Minderjährige werden zu Opfern. Schulmädchen geraten ins Visier von KI-generierten Deepfake-Pornos, die von ihren eigenen Klassenkameraden mit neuen, leicht zugänglichen „Nacktheits“-Apps erstellt wurden. Und es gibt keine Bundesgesetze, die dem Einhalt gebieten.
Francesca Mani wurde letzten Herbst in das Büro des stellvertretenden Schulleiters der Westfield High School in einem Vorort von New Jersey gerufen, wo ihr mitgeteilt wurde, dass sie ein „bestätigtes KI-Opfer“ sei.
Die damals 14-jährige Mani wurde darüber informiert, dass sie zu einer Gruppe von Schulmädchen gehörte, von denen mithilfe künstlicher Intelligenz gefälschte Nacktbilder erstellt wurden. Die Jungen der Westfield High teilten die gefälschten Bilder über Snapchat.
„Ich war geschockt“, sagte Francesca. „Ich wurde ein wenig traurig, aber als ich auf den Flur ging, sah ich eine Gruppe Jungen, die sich über eine Gruppe Mädchen lustig machten. Sie lachten darüber. Und dann war ich einfach super sauer.“
In diesem Moment beschloss Francesca, eine junge olympische Fechtstarin, sich zu wehren.
Polizeiberichten zufolge wurden die gefälschten Bilder in den Mittagspausen der Schule und im Schulbus geteilt. Aber was die Jungs getan hatten, war nicht illegal – in den Vereinigten Staaten gibt es keine Bundesgesetze gegen KI-generierte Deepfakes.
Als Francesca ihrer Mutter Dorota erzählte, was passiert war, war sie wütend.
„Seit jeher müssen Frauen für unsere Rechte und Zustimmung kämpfen“, sagte Dorota, eine polnische Einwanderin mit einem schwarzen Gürtel im Jiu-Jitsu. „Das größte Thema hier ist die Einwilligung.“
Der Junge, der die Bilder gemacht hatte, wurde für zwei Tage von der Schule ausgeschlossen, es gab jedoch keine weitere Verantwortung.
Francesca entschied sich, die Bilder nicht anzusehen. Aber sie fühlte sich unwohl, weil sie wusste, dass der Junge, der sie gemacht hatte – und die anderen, die sie geteilt hatten – in ihren Klassen waren.
Einige Gesetze der US-Bundesstaaten verbieten nicht einvernehmliche Deepfake-Pornografie, darunter in Texas, Minnesota, Virginia, New York, Hawaii und Georgia. Aber das hat die Verbreitung von KI-generierten Nacktbildern an High Schools in New Jersey, Kalifornien oder Florida nicht verhindert.
Fälle wie der Fall Westfield High unterstreichen die Notwendigkeit, dass das Gesetz mit dieser schnelllebigen Technologie Schritt halten muss. Francesca und ihre Mutter kontaktierten örtliche Gesetzgeber und machten sich an die Arbeit, um sowohl staatliche als auch bundesstaatliche Gesetze zu fordern, um die nicht einvernehmliche Weitergabe digital veränderter pornografischer Bilder zu einem Verbrechen zu machen.
Dorota und Francesca sind in den letzten drei Monaten häufig nach Washington, D.C. gereist, um sich für einen parteiübergreifenden Gesetzentwurf namens „The“ einzusetzen TROTZ Gesetz, das das Teilen sexuell eindeutiger Deepfakes zu einem Verbrechen machen würde und es den Opfern ermöglichen würde, diejenigen zu verklagen, die sie erstellen und verbreiten.
Ein Gesetzentwurf, der strafrechtliche Sanktionen vorsieht, liegt nun vor seinen Weg macht durch die gesetzgebende Körperschaft von New Jersey, teilweise dank ihrer Bemühungen.
Beide Seiten des politischen Spektrums in den USA scheinen sich darin einig zu sein, dass mehr getan werden sollte, um Menschen, insbesondere Minderjährige, vor der Verbreitung von Deepfake-Pornos zu schützen.
Der Gesetzgeber prüft auch, wie die Technologiefirmen, die diese Apps und Websites hosten, zur Rechenschaft gezogen werden können.
„Dieses Thema geht über Teenager und weiterführende Schulen hinaus“, erklärte Dorota kürzlich bei einem Besuch im Weißen Haus. „Wir sprechen über Raubtiere und Pädophile, die es nutzen, um andere zu verletzen. Ich denke, Gesetze und Gesetzgebung – das ist so wichtig.“
Ein weiteres jugendliches Opfer der Westfield High School, das anonym bleiben möchte, hat direkte rechtliche Schritte gegen einen Klassenkameraden eingeleitet. In ihrer im Februar eingereichten Klage wird ihr vorgeworfen, dass sie erheblichen emotionalen Stress erlitten habe und ihr Ruf geschädigt worden sei, und sie forderte eine finanzielle Entschädigung.
In der Klage wird die App genannt, mit der die Bilder erstellt wurden: Clothoff. Die App, die leicht zugänglich und kostengünstig ist, behauptet, dass sie Kleidung von jedem Foto entfernen kann. Es wird angenommen, dass die geheimnisvollen Gründer ihren Sitz in Weißrussland haben.
Deepfake-Porno richtet sich „ausschließlich an Frauen“
Im Jahr 2023 betrug die Gesamtzahl der Deepfake-Videos online 95.820, was einem Anstieg von 550 % gegenüber 2019 entspricht. laut einem Bericht von Home Security Heroes, einer Gruppe, die sich mit Online-Sicherheit befasst. 98 % dieser Online-Videos machten Fake-Pornografie aus. Die Studie ergab außerdem, dass 99 % der Personen, auf die Deepfake-Pornografie abzielt, Frauen sind.
„Es ist ein Phänomen, das fast ausschließlich Frauen betrifft“, sagte Nina Jankowicz, ehemalige Beamte der Joe Biden-Regierung, am 4. März auf einer Konferenz an der Columbia University.
Jankowicz ist Expertin für Desinformation und Online-Belästigung von Frauen. Sie wurde zum Opfer Sie war selbst von Deepfake-Pornografie betroffen und bemerkte es erst, als sie eine Google-Benachrichtigung erhielt, die auf explizite Videos mit jemandem verlinkte, der wie sie aussah. Von ihrem offiziellen Porträt, das während ihrer Schwangerschaft aufgenommen wurde, wurden gefälschte Videos erstellt. Das Bild wurde von rechten Medien aufgegriffen, verärgert über ihre Rolle bei der Bekämpfung von Desinformation in der Biden-Regierung, und Online-Trolle hatten daraus Pornografie gemacht.
„Es sieht ein bisschen aus wie ich, aber das ist es wiederum nicht wirklich, weil es auf dieses sehr spezifische Porträt von mir trainiert ist, und ich kann sagen, dass es darauf trainiert ist“, sagte Jankowicz und deutete auf die grafischen Videos auf ihrem Laptop. „ Aber nein, ich habe nicht die ganze Sache gesehen. Sie sind jeweils etwa sieben Minuten lang – das ist eine Menge, der man sich aussetzen kann.“
Sie sagte, ein Grund dafür, dass sich diese Deepfakes so schnell verbreiten, sei, dass die Apps, mit denen sie erstellt wurden, mittlerweile so leicht verfügbar seien. „Diese Technologie ist inzwischen vollständig demokratisiert und wird nicht nur gegen Berühmtheiten wie Taylor Swift oder Persönlichkeiten des öffentlichen Lebens wie mich eingesetzt. Sie wird gegen ganz normale Menschen eingesetzt – Mütter, junge Frauen in der Mittel- und Oberstufe, deren Klassenkameraden diese Bilder machen.“ Sie alle müssen aus App-Stores, Marktplätzen und Ähnlichem entfernt werden.
Globaler Aufstieg von Deepfake-Pornos
Die Vereinten Nationen haben untersucht, wie dem weltweiten Aufstieg dieser Technologie entgegengewirkt werden kann.
Kathryn Travers, Politikexpertin bei UN Women, glaubt, dass Bildung der Schlüssel ist. „Man muss Jungen beibringen, Frauen zu respektieren und online Verantwortung zu übernehmen, genauso wie man es Mädchen beibringen muss“, sagt sie.
Diese KI-Bilder existieren möglicherweise im virtuellen Raum, haben jedoch Auswirkungen auf die reale Welt. Mädchen und Frauen erleben im Internet unverhältnismäßig viel Gewalt, manchmal mit verheerenden Folgen.
„Sie befinden sich möglicherweise in einer Situation, in der sie weniger über ihre Rechte wissen und weniger darüber wissen, wem sie Bericht erstatten müssen. Viele geben sich oft selbst die Schuld – aufgrund der Technologie, die es ermöglicht, ihre Bilder anzuhäufen, zu teilen und erneut zu teilen, sind die Auswirkungen auf die psychische Gesundheit enorm und haben bei einer Reihe von Mädchen zum Selbstmordtod geführt.“
Eltern von Kindern aus der ganzen Welt, die Ziel von Deepfake-Pornos sind, haben nun Dorota um Rat gebeten. „Ich habe mit Eltern und Opfern aus allen Teilen der USA gesprochen – Texas, Wisconsin, Kalifornien. Kürzlich hat mich jemand aus Griechenland kontaktiert und davor aus Japan, London, Paris, Australien und Kanada. Es ist ein globales Problem.“