Jeder, der in den letzten Monaten einen Moment damit verbracht hat, das politische Geschwätz in den USA zu beobachten, ist wahrscheinlich auf die folgende Vorhersage gestoßen: Im Jahr 2024 wird es die weltweit erste Deepfake-Wahl geben. Rasante Entwicklung KI-Video- und Audiogeneratoren powered by Large Language-Modelle wurden bereits von beiden verwendet Donald Trump Und Ron DeSantis’ Präsidentschaftskampagnen, um sich gegenseitig zu beschmieren und Fälschungen des aktuellen Präsidenten Joe Biden scheinen sich regelmäßig zu vermehren. Nervöse Gesetzgeber – möglicherweise besorgt, dass ihre Gesichter bald ebenfalls in den von der KI erzeugten Sumpf hineingezogen werden könnten – haben sich beeilt, mehr als ein Dutzend Gesetzesentwürfe vorzulegen, um Deepfakes auf Landes- und Bundesebene einzudämmen.
Aber fingernägelkauende Gesetzgeber kommen zu spät zur Partei. Deepfakes, die auf Politiker abzielen, mögen neu erscheinen, aber KI-generierte Pornografie, das immer noch die überwiegende Mehrheit der nicht einvernehmlichen Deepfakes ausmacht, quält seit über einem halben Jahrzehnt Tausende von Frauen, wobei ihre Geschichten oft unter der Oberfläche der Mainstream-Bedenken verborgen bleiben. Eine Gruppe von Deepfake-Opfern versucht, diesen Schleier zu lüften, indem sie in einem schockierenden neuen Dokumentarfilm mit dem Titel „ Ein anderer Körper.
Eine dieser anvisierten Frauen ist eine beliebte ASMR-Streamerin mit 280.000 Followern auf Twitch Gibi, sprach mit Gizmodo über ihre Entscheidung, die sexuellen Deepfakes, die über sie gemacht wurden, öffentlich anzuerkennen. Sie hofft, dass ihre Plattform dazu beitragen kann, das allzu oft übersehene Problem ins Rampenlicht zu rücken.
„Ich denke, wir verbringen die meiste Zeit damit, uns selbst davon zu überzeugen, dass es keine große Sache ist und dass es schlimmere Dinge auf der Welt gibt“, sagte Gibi in einem Interview mit Gizmodo. „Das ist die Art und Weise, wie ich mit meinem Tag zurechtkomme, nur dass man sich nicht davon stören lassen darf und sich selbst einredet, dass es nicht so schlimm ist.“
„Von anderen Leuten gehört zu haben, dass es so ist Ist „Das Schlimme ist eine Mischung aus Emotionen“, fügte sie hinzu. „Es ist ein bisschen entlastend und auch ein bisschen beängstigend.“
Gibi war eine von mehreren Frauen im Film, die von ihren Erlebnissen erzählten, nachdem sie Deepfakes von sich selbst gefunden hatten. Der von den Filmemachern Sophie Compton und Reuben Hamlyn inszenierte Dokumentarfilm folgt größtenteils dem Leben einer Ingenieurstudentin namens Taylor, die im Internet Deepfake-Pornografie von sich entdeckte, die im Umlauf war. Taylor ist nicht der richtige Name des Studenten. Tatsächlich handelt es sich bei allen Auftritten von Taylor und einem anderen Deepfake-Opfer in der Dokumentation um Deepfake-Videos, die erstellt wurden, um ihre wahre Identität zu verschleiern.
Der 22-jährige Student entdeckt den Deepfake, nachdem er eine erschreckende Facebook-Nachricht von einem Freund erhalten hat, in der er sagt: „Es tut mir wirklich leid, aber ich denke, das müssen Sie sehen.“ Es folgt ein PornHub-Link.
Taylor glaubt der Nachricht zunächst nicht und fragt sich, ob der Account ihrer Freundin gehackt wurde. Sie beschließt schließlich, auf den Link zu klicken, und ihr Gesicht, das sich mit gebundener Pornografie beschäftigt, starrt sie an. Taylor erfährt später, dass jemand Bilder ihres Gesichts aus ihren Social-Media-Konten entnommen und sie einem KI-Modell unterzogen hat, um sie in sechs gefälschten Sexvideos auftauchen zu lassen. Erschwerend kommt hinzu, dass die Täterin hinter den Videos sie auf einem PornHub-Profil gepostet hat, indem sie sich als ihr Name ausgibt und ihre echte Hochschule und Heimatstadt auflistet.
Der teilweise erschütternd schreckliche Film legt das Trauma und die Hilflosigkeit offen, die Opfer von Deepfakes ertragen müssen, wenn sie mit sexualisierten Darstellungen ihrer selbst konfrontiert werden. Während sich die meisten Gespräche und Medien, in denen es um Deepfakes geht, auf Berühmtheiten oder hochkarätige Personen in der Öffentlichkeit konzentrieren, Ein anderer Körper verdeutlicht eine beunruhigende Realität: Deepfake-Technologie, die auf immer leistungsfähigeren und leicht zugänglichen großen Sprachmodellen basiert, bedeutet, dass das Gesicht jedes Einzelnen zu gewinnen ist, unabhängig von seinem Ruhm.
Anstatt mit einer düsteren Note zu enden, verbringt der Film die meiste Zeit damit, Taylor zu folgen, während sie Hinweise auf ihre Deepfakes enträtselt. Schließlich erfährt sie von einem anderen Mädchen in ihrer Schule, das ohne ihre Zustimmung Opfer ähnlicher Deepfakes geworden ist. Anschließend tauchen die beiden tief in 4Chan und andere Brutstätten der Deepfake-Verderbtheit ein, um Hinweise zu finden, mit denen sie ihren Peiniger entlarven können. Während seines Abstiegs in die Tiefen des Deepfake-Untergrunds stößt Taylor auf gefälschte Bilder von Gibi, der Twitch-Streamerin.
Twitch-Streamer meldet sich zu Wort
Gibi sagte im Gespräch mit Gizmodo, dass sie zu diesem Zeitpunkt schon so viele Deepfake-Videos gesehen habe, dass sie sich nicht einmal daran erinnern könne, wann sie das erste gesehen habe.
„Es fügt sich einfach alles zusammen“, sagte sie.
Als Streamerin ist Gibi seit langem einer Reihe von Belästigungen ausgesetzt, angefangen bei sexualisierten Textnachrichten bis hin zu mehr als gelegentlichen Schwanzfotos. Deepfakes, sagte sie, seien mit der Weiterentwicklung der Technologie nach und nach in den Mix aufgenommen worden.
Am Anfang, sagt sie, seien die Fälschungen nicht besonders raffiniert gewesen, aber die Qualität habe sich schnell weiterentwickelt und „sah immer echter aus“.
Aber selbst offensichtlich gefälschte Videos schaffen es immer noch, einige zu täuschen. Gibi sagt, sie sei erstaunt gewesen, als sie von Leuten hörte, die sie kannte, die sich in die groben, hastig zusammengewürfelten frühen Bilder von ihr verliebten. In einigen Fällen, sagt die Streamerin, habe sie von Werbetreibenden gehört, die ihre Beziehungen zu anderen YouTubern ganz abgebrochen hätten, weil sie glaubten, sie würden sich mit Pornografie beschäftigen, obwohl das nicht der Fall war.
„Sie meinte: ‚Das bin nicht ich‘“, sagte Gibi über ihre Freundin, die aufgrund eines Deepfakes die Unterstützung der Werbetreibenden verloren hatte.
Gibi sagt, ihre Interaktionen mit Taylor hätten sie teilweise dazu inspiriert, ein YouTube-Video mit dem Titel „Speaking out against deep fakes“ zu veröffentlichen, in dem sie über ihre Erfahrungen auf der Empfängerseite von KI-generierten manipulierten Medien sprach. Das letztes Jahr veröffentlichte Video hat seitdem fast eine halbe Million Aufrufe angezogen.
„Darüber zu reden bedeutete nur, dass mehr Aufmerksamkeit darauf gelenkt und ein größeres Publikum erreicht werden würde“, sagte Gibi. „Ich wusste, dass meine Stärke mehr in der Öffentlichkeit liegt, online zu posten, über schwierige Themen zu sprechen und ehrlich zu sein, das ist viel Arbeit.“
Als Gibi beschloss, offen über das Thema zu sprechen, sagte sie, sie habe es zunächst vermieden, die Kommentare zu lesen, da sie nicht wusste, wie die Leute reagieren würden. Zum Glück waren die Reaktionen überwiegend positiv. Nun hofft sie, dass ihre Beteiligung an dem Dokumentarfilm noch mehr Aufmerksamkeit auf mögliche gesetzgeberische Lösungen zur Verhinderung oder Bestrafung sexueller Deepfakes lenken kann, ein Thema, das in den letzten Monaten in der politischen Deepfake-Gesetzgebung in den Hintergrund gerückt ist. Im Gespräch mit Gizmodo sagte Gibi, sie sei optimistisch, was das erneute Interesse der Öffentlichkeit an Deepfakes betreffe, äußerte sich jedoch etwas verärgert darüber, dass das Licht erst dann stärker ins Rampenlicht gerückt sei, als das Problem begonnen habe, zunehmend männerdominierte Bereiche zu beeinflussen.
„Männer sind sowohl die Täter als auch die Konsumenten und dann auch die Menschen, von denen wir das Gefühl haben, dass wir sie auffordern müssen, etwas zu ändern“, sagte Gibi. „Das ist also frustrierend.“
Diese Frustrationen wurden von EndTAB-Gründer Adam Dodge geteilt, der auch mehrfach in auftritt Ein anderer Körper. Dodge, ein Anwalt, der seit 15 Jahren im Bereich geschlechtsspezifischer Gewalt tätig ist, sagte, er habe EndTab gegründet, um Anbieter von Opferdiensten zu stärken und Führungskräfte über die Bedrohungen aufzuklären, die von der zur Ausübung von Belästigung eingesetzten Technologie ausgehen. Taylor, die Studentin im Film, bat Dodge um Rat, nachdem sie ihre eigenen Deepfakes entdeckt hatte.
Im Gespräch mit Gizmodo sagte Dodge, es sei wichtig anzuerkennen, dass Online-Belästigung nicht wirklich neu sei. KI und andere neue Technologien verstärken lediglich ein bestehendes Problem.
„Seit langem nutzen Menschen Nacktbilder von Opfern, um sie zu belästigen, Macht und Kontrolle über sie auszuüben oder sie zu demütigen“, sagte Dodge. „Das ist einfach eine neue Art und Weise, wie Menschen es tun können.“
Deepfakes haben die Gleichung in einer entscheidenden Weise verändert, stellt Dodge fest. Opfer müssen nicht mehr intime Bilder von sich online haben, um gezielt angegriffen zu werden. Es reicht aus, einfach öffentlich zugängliche Fotos auf Instagram oder einer College-Website zu haben.
„Wir sind jetzt alle potenzielle Opfer, denn alles, was sie brauchen, ist ein Bild unseres Gesichts“, sagte Dodge.
Obwohl seine Organisation in erster Linie für Schulungszwecke gedacht ist, würden die Opfer laut Dodge ihn aufsuchen und um Hilfe bitten, weil er einer der wenigen Menschen war, die frühzeitig versuchten, auf die Gefahren aufmerksam zu machen. So lernte er Taylor kennen.
Im Gespräch mit Gizmodo äußerte Dodge ähnliche Frustrationen über den Umfang einiger neuer Deepfake-Gesetze. Auch wenn es bei der überwältigenden Mehrheit der im Internet veröffentlichten Deepfakes um nicht einvernehmliche Pornografie von Frauen geht, geht Dodge davon aus, dass etwa die Hälfte der Gesetzesentwürfe, die er gesehen hat, sich stattdessen auf die Wahlintegrität konzentrieren
„Ich denke, das liegt daran, dass Gewalt gegen Frauen ein Thema ist, dem nie die gebührende Aufmerksamkeit geschenkt wird, das ständig zugunsten anderer Narrative unterwandert wird und Gesetzgeber und Politiker sich auf Deepfake-Fehlinformationen konzentriert haben, die auf die politische Sphäre abzielen würden, weil es ein Thema ist, das Auswirkungen hat.“ sie persönlich“, sagte er. „Eigentlich geht es hier um eine Privilegienfrage.“
Deepfakes verschlingen das Internet
Sexuelle Deepfakes nehmen in erstaunlicher Geschwindigkeit zu. Ein unabhängiger Forscher im Gespräch mit Wired Schätzungen zufolge wurden diese Woche in den letzten sieben Jahren etwa 244.625 Videos auf die 35 beliebtesten Deepfake-Porno-Websites hochgeladen. Fast die Hälfte (113.000) dieser Videos wurde in den ersten neun Monaten dieses Jahres hochgeladen. Um es auf den Punkt zu bringen: Der Forscher schätzt, dass bis Ende 2023 mehr Deepfake-Videos hochgeladen werden als in allen anderen Jahren zusammen. Dabei sind noch nicht einmal andere Deepfakes enthalten, die möglicherweise in sozialen Medien oder in den persönlichen Sammlungen eines Erstellers existieren.
„Die Verfügbarkeit von KI-Tools zur Erstellung von Deepfake-nichteinvernehmlichen pornografischen Bildern hat erheblich zugenommen und die Nachfrage nach dieser Art von Inhalten auf Pornografieplattformen und illegalen Online-Netzwerken ist gestiegen“, sagte Asher Flynn, außerordentlicher Professor der Monash University, in einem Interview mit Wired . „Mit neuen generativen KI-Tools dürfte dies noch zunehmen.“
So deprimierend das auch klingen mag, der Gesetzgeber arbeitet aktiv daran, mögliche Lösungen zu finden. Rund ein halbes Dutzend Staaten haben dies bereits getan verabschiedete Gesetze Kriminalisierung der Erstellung und Weitergabe sexualisierter Deepfakes ohne die Zustimmung einer Person. In New York wurde kürzlich ein Gesetz verabschiedet, das die Verbreitung oder Verbreitung sexuell eindeutiger Bilder von jemandem, die durch künstliche Intelligenz erzeugt wurden, illegal macht tritt im Dezember in Kraft. Gesetzesverstößen drohen bis zu einem Jahr Gefängnis.
„Mein Gesetzentwurf sendet ein starkes Signal, dass New York diese Form des Missbrauchs nicht tolerieren wird“, sagte die Senatorin des Bundesstaates Michelle Hinchey, die Verfasserin des Gesetzentwurfs. kürzlich erzählt Hudson Valley One: „Opfer werden zu Recht ihren Tag vor Gericht haben.“
Anderswo sind es Gesetzgeber auf Bundesebene Druck auf KI-Unternehmen ausüben digitale Wasserzeichen zu erstellen, die der Öffentlichkeit deutlich zeigen, wenn Medien mithilfe ihrer Programme verändert wurden. Einige große Unternehmen, die am KI-Wettbewerb beteiligt sind, wie OpenAI, Microsoft und Google, haben dies getan freiwillig vereinbart auf ein klares Wasserzeichensystem hinzuarbeiten. Dennoch sagt Dodge, dass Erkennungsbemühungen und Wasserzeichen nur einen begrenzten Umfang erreichen. Er stellt fest, dass pornografische Deepfakes verheerend schädlich sind und ein bleibendes Trauma verursachen, selbst wenn jeder weiß, dass es sich um Fälschungen handelt.
Auch wenn nicht einvernehmliche Deepfakes in naher Zukunft in die Höhe schnellen werden, bleibt Dodge schockierend und beruhigend optimistisch. Der Gesetzgeber, sagte er, scheine bereit zu sein, aus den Fehlern der Vergangenheit zu lernen.
„Ich denke immer noch, dass wir noch sehr früh sind und sehen, dass es gesetzlich verankert wird. Wir sehen, wie Leute darüber reden“, sagte Dodge. „Im Gegensatz zu den sozialen Medien, die es schon seit einem Jahrzehnt gibt [lawmakers] Wir tun nicht wirklich genug, um die Menschen auf ihrer Plattform vor Belästigung und Missbrauch zu schützen. Dies ist ein Bereich, in dem die Menschen sehr daran interessiert sind, das Problem auf allen Plattformen anzugehen, sei es bei der Gesetzgebung, der Strafverfolgung oder der Technologie in der Gesellschaft insgesamt.“