Jede Methode wird – fast immer gegen Frauen – als Waffe eingesetzt, um sie unter anderem zu erniedrigen, zu belästigen oder zu beschämen. Julie Inman Grant, Australiens E-Sicherheitsbeauftragte, sagt, dass in ihrem Büro immer mehr Deepfakes gemeldet werden Bildbasiertes Missbrauchsbeschwerdesystem, neben anderen KI-generierten Inhalten, wie „synthetischem“ sexuellem Kindesmissbrauch und Kindern, die Apps verwenden, um sexualisierte Videos ihrer Klassenkameraden zu erstellen. „Wir wissen, dass es sich um eine äußerst selten gemeldete Form des Missbrauchs handelt“, sagt Grant.
Da die Zahl der Videos auf Deepfake-Websites zugenommen hat, haben Inhaltsersteller – wie Streamer und Erwachsenenmodels – DMCA-Anfragen genutzt. Das DMCA ermöglicht es Personen, die das geistige Eigentum an bestimmten Inhalten besitzen, zu beantragen, dass diese direkt von den Websites oder aus den Suchergebnissen entfernt werden. Mehr als 8 Milliarden Deaktivierungsanfragendie alles von Spielen bis Musik abdecken, wurden an Google weitergeleitet.
„Der DMCA war in der Vergangenheit eine wichtige Möglichkeit für Opfer von bildbasiertem sexuellem Missbrauch, ihre Inhalte aus dem Internet zu entfernen“, sagt Carrie Goldberg, Anwältin für Opferrechte. Goldberg sagt, dass neuere Strafgesetze und zivilrechtliche Verfahren es einfacher machen, einige bildbasierte sexuelle Missbräuche zu beseitigen, Deepfakes erschweren die Situation jedoch. „Obwohl Plattformen in der Regel kein Mitgefühl für Opfer von Datenschutzverletzungen zeigen, respektieren sie doch Urheberrechte“, sagt Goldberg.
Die WIRED-Analyse von Deepfake-Websites, die 14 Websites umfasste, zeigt, dass Google in den letzten Jahren DMCA-Deaktivierungsanfragen für alle dieser Websites erhalten hat. Viele der Websites hosten nur Deepfake-Inhalte und konzentrieren sich häufig auf Prominente. Die Websites selbst enthalten DMCA-Kontaktformulare, über die Personen direkt die Entfernung von Inhalten beantragen können. Sie veröffentlichen jedoch keine Statistiken und es ist unklar, wie effektiv sie auf Beschwerden reagieren. Auf einer Website heißt es, dass sie Videos von „Schauspielerinnen, YouTubern, Streamern, TV-Persönlichkeiten und anderen Arten von Persönlichkeiten des öffentlichen Lebens und Prominenten“ enthält. Es beherbergt Hunderte von Videos mit „Taylor Swift“ im Videotitel.
Die überwiegende Mehrheit der DMCA-Deaktivierungsanfragen im Zusammenhang mit Deepfake-Websites, die in den Daten von Google aufgeführt sind, beziehen sich auf zwei der größten Websites. Keiner antwortete auf schriftliche Fragen von WIRED. Bei der Mehrheit der 14 Websites führten über 80 Prozent der Beschwerden dazu, dass Inhalte von Google entfernt wurden. Einige von Einzelpersonen gesendete Deaktivierungsanträge wegen Urheberrechtsverletzung zeigen, wie belastend die Videos sein können. „Es geschieht, um mich zu erniedrigen und zu schikanieren“, heißt es in einer Anfrage. „Ich nehme das sehr ernst und werde alles dafür tun, dass es beseitigt wird“, sagt ein anderer.
„Es hat enorme Auswirkungen auf das Leben eines Menschen“, sagt Yvette van Bekkum, CEO von Orange Warriors, einem Unternehmen, das Menschen dabei hilft, durchgesickerte, gestohlene oder nicht einvernehmlich geteilte Bilder online zu entfernen, auch über DMCA-Anfragen. Van Bekkum sagt, dass die Organisation einen Anstieg von Deepfake-Inhalten im Internet feststellt und dass es den Opfern schwerfällt, sich zu melden und die Entfernung ihrer Inhalte zu fordern. „Stellen Sie sich vor, Sie durchlaufen einen Einstellungsprozess und die Leute googeln Ihren Namen und finden diese Art von expliziten Inhalten“, sagt van Bekkum.
Google-Sprecher Ned Adriance sagt, sein DMCA-Prozess erlaube „Rechteinhabern“, ihre Arbeit online zu schützen, und das Unternehmen verfüge über separate Tools für den Umgang mit Deepfakes – darunter ein separater Formular- und Entfernungsprozess. „Wir haben Richtlinien für nicht einvernehmliche Deepfake-Pornografie, sodass Menschen diese Art von Inhalten, die ihr Abbild enthalten, aus den Suchergebnissen entfernen können“, sagt Adriance. „Und wir entwickeln aktiv zusätzliche Schutzmaßnahmen, um den betroffenen Menschen zu helfen.“ Google gibt an, dass eine große Anzahl gültiger urheberrechtlich geschützter Entfernungen zu einer Website als Hinweis darauf dient, dass die Website möglicherweise keine qualitativ hochwertigen Inhalte bereitstellt. Das Unternehmen gibt außerdem an, ein System zur Entfernung von Duplikaten nicht einvernehmlicher Deepfake-Pornos entwickelt zu haben, sobald eine Kopie davon entfernt wurde, und dass es kürzlich seine Suchergebnisse aktualisiert hat, um die Sichtbarkeit von Deepfakes einzuschränken, wenn die Leute nicht danach suchen.