Twitch hat das Livestreaming von expliziten Deepfake-Inhalten auf seiner Plattform in einem adressiert neuer Sicherheits-Blogbeitrag.
Es folgt einem Vorfall im Januar, bei dem explizit gefälschte Inhalte von weiblichen Streamern live auf Twitch gestreamt wurden.
„Dieser Moment verursachte bei denen, deren Bilder ohne ihre Zustimmung verwendet wurden, immenses Leid und löste eine Welle von Gesprächen über die Gefahren aus, die KI-generierte explizite Bilder darstellen können“, heißt es in dem Blogbeitrag von Twitch.
„Die Existenz dieser Inhalte und ihre Präsenz und Verbreitung auf verschiedenen Seiten ist eine persönliche Verletzung und mehr als beunruhigend. Deepfake-Pornos sind auf Twitch kein Problem, aber es ist ein schreckliches Problem, mit dem einige Streamer (fast ausschließlich Frauen) konfrontiert sein können Internet im Allgemeinen. Obwohl wir die größte Kontrolle darüber haben, was in unserem eigenen Dienst passiert, möchten wir Streamern dabei helfen, sich selbst zu schützen oder schnell auf diese Art von Situation zu reagieren, wo immer sie auftritt.“
Explizite „Deepfake“-Inhalte haben auf Twitch – oder anderswo – nichts zu suchen. Um Streamerinnen zu schützen, veranstalten wir am 14. März ein Creator Camp mit mehr Ressourcen und Schutzmaßnahmen. Lesen Sie hier unser Update für die Community mit weiteren Informationen: https://t.co/KAH4zUTSBp pic.twitter.com/Q01sLolGJP
– Twitch (@Twitch) 7. März 2023
Cookie-Einstellungen verwalten
Der Blogbeitrag geht zunächst auf die falsche Verwendung des Begriffs „Deepfake-Porno“ ein und entscheidet sich stattdessen für „synthetische nicht einvernehmliche ausbeuterische Bilder“ oder „synthetische NCEI“. Pornografie sollte einvernehmlich sein, während es mehrere Methoden gibt, die verwendet werden, um nicht einvernehmliche Inhalte zu erstellen, und Twitch gibt zu, dass sein Ansatz diese Bandbreite an Technologien widerspiegeln sollte.
Daher nimmt die Plattform eine Handvoll Änderungen vor.
Erstens aktualisiert es seine Richtlinien, um die Änderung der Sprache in „synthetische NCEI“ widerzuspiegeln. Dazu gehört die Aktualisierung sowohl der Richtlinie zu sexueller Gewalt und Ausbeutung bei Erwachsenen als auch der Richtlinie zu Nacktheit bei Erwachsenen, um klarzustellen, dass das Teilen solcher Inhalte zu einer unbefristeten Sperrung beim ersten Verstoß führt.
Zweitens arbeitet Twitch mit der Sicherheitsexpertin Danielle Keats Citron, Rechtsprofessorin und Vizepräsidentin der Cyber Civil Rights Initiative, und Experten der UK Revenge Porn Helpline zusammen, um Unterstützung bei den Bemühungen in diesem Bereich zu erhalten.
Schließlich findet am 14. März ein Creator Camp statt, das von Zara Ward, einer NCEI-Expertin und Managerin der Revenge Porn-Helpline, mit Ratschlägen zum Online-Schutz abgehalten wird.
„Der aufkommende Trend von ‚Deepfake‘-Inhalten (und verwandten Technologien) im Internet wird viele Fragen mit sich bringen und eine sorgfältige und durchdachte Überlegung bei unserer Planung, Reaktion und unseren Maßnahmen erfordern. Nicht alle synthetisch erstellten Inhalte sind sexueller Natur , noch ist das alles nicht einvernehmlich. Dieses Thema ist sehr auf unserem Radar, und wir beobachten ständig aufkommende Verhaltensweisen, um sicherzustellen, dass unsere Richtlinien für das, was in unserem Dienst passiert, relevant bleiben”, heißt es in dem Blogbeitrag.
„Aber eines ist klar: Wenn es zur Erstellung synthetischer NCEI verwendet wird, verschwindet diese Nuance. Die Erstellung, Bewerbung oder Anzeige dieser Inhalte ist auf Twitch nicht erwünscht.“