Die vorherrschende Modding-Szene von Skyrim ist in der Videospielbranche dafür berüchtigt, die Lebensdauer eines der größten Spiele von Bethesda zu verlängern. Aber derzeit ist die Modding-Landschaft von Kontroversen umgeben, da KI-generierte Sprachclips in Mods, die auf echten Skyrim-Synchronsprechern basieren, auf dem Vormarsch sind. Als ob das nicht schon genug ethische Fragen aufwirft, bieten einige der Mods pornografische KI-Sprachdarbietungen, was zu Gegenreaktionen und Aufschrei in der Synchronsprecher-Community führt.
Dieses Problem wurde erstmals von gemeldet GamesRadar, was die Aufmerksamkeit auf Nexus Mods lenkte, einen Mod-Distributor, der eine Reihe der fraglichen pornografischen Skyrim-Mods hostet. Als IGN Nexus Mods um einen Kommentar zu dieser Geschichte bat, verwies ein Sprecher lediglich auf die aktuelle Richtlinie der Website zu KI-Inhalten, in der es unter anderem heißt: „KI-generierte Mod-Inhalte verstoßen nicht gegen unsere Regeln, können aber entfernt werden, wenn wir etwas erhalten.“ eine glaubwürdige Beschwerde eines betroffenen Urhebers/Rechteinhabers.“
Der Twitter-Benutzer @Robbie92_ wies auf die Praxis des KI-Stimmenklonens in der Skyrim-Modding-Szene hin Ende letzten Monats, markiert eine Reihe betroffener Synchronsprecher. Robbie sagte, dass die Sprachdarbietungen der Schauspieler größtenteils in ein KI-Klon-Tool namens ElevenLabs eingespeist wurden, das die KI-Stimmen generierte, die in den expliziten Inhalten verwendet wurden.
Mit dem Aufkommen des KI-Stimmenklonens werden Synchronsprecher von den Modding-Communities missbraucht. Als Mitglied der Skyrim-Modding-Szene bin ich zutiefst besorgt über die Praxis, KI-Stimmenklonen einzusetzen, um nicht einvernehmliche Deepfake-pornografische Inhalte zu erstellen und zu verbreiten. pic.twitter.com/ySUFqrtjH0
— Robbie (@Robbie92_) 1. Juli 2023
„Ich bin ein langjähriges und zutiefst besorgtes Mitglied der Mod-Community für die Spielereihe The Elder Scrolls“, schrieb Robbie. „Ich glaube, dass die Schaffung und Verbreitung von Deepfake-Pornografie unverhohlen böse ist und dass wir als Gemeinschaft die Verantwortung haben, zu handeln.“
In den Antworten auf Robbies ursprünglichen Tweet reagieren einige der betroffenen Synchronsprecher darauf, dass sie erfahren haben, dass ihre Stimmen ohne ihre Zustimmung für pornografische KI-Inhalte verwendet wurden. Viele Synchronsprecher waren schockiert, als sie zum ersten Mal von diesem Problem erfuhren. Synchronsprecher Richard Epcar schrieb: „What the s**t?!“
Was zum Teufel?!
— Richard Epcar (@RichardEpcar) 4. Juli 2023
Robbie teilte auch eine Google Doc Das enthält eine Liste mit Namen und Links verschiedener Mods, die KI-Stimmenklonen verwenden. Robbie schrieb, dass die Links nur mit einem aktiven Nexus Mods-Konto zugänglich sind, da sie als NSFW gekennzeichnet sind.
Diese Liste ist zwar nicht erschöpfend, enthält aber etwa 100 Links zu NSFW-Mods, die auf Nexus Mods aufgeführt sind. Zum Zeitpunkt dieses Schreibens wurden viele der Mods bereits von den Erstellern mit der Meldung ausgeblendet: „Der Mod weist (mögliche) Berechtigungsprobleme auf, an deren Behebung der Autor arbeitet.“ Viele der Links sind jedoch weiterhin vollständig zugänglich.
Die „möglichen Berechtigungsprobleme“ werden deutlich, wenn man sich damit befasst Nutzungsbedingungen von ElevenLabsda jeder, der den Sprachgenerator zum Erstellen von NSFW Skyrim-Mods verwendet hat, gegen einen Teil der Benutzervereinbarung verstoßen hat.
„Durch das Hochladen von Dateien zu unseren Diensten bestätigen Sie, dass Sie entweder der Eigentümer dieser Dateien sind oder über die erforderlichen Rechte und Berechtigungen zur Nutzung dieser Dateien verfügen. Sie können Dateien nur hochladen, wenn Sie ein Kontrollkästchen zur Bestätigung ankreuzen“, heißt es auf der Website von ElevenLabs liest sich teilweise. „Wenn Sie beispielsweise die Sprachaufzeichnung einer Person in unsere Dienste hochladen, bestätigen Sie, dass Sie die Erlaubnis des Stimmbesitzers haben, seine Stimme zu klonen und zu synthetisieren. Nur Sie sind für die Sicherung dieser Rechte und Berechtigungen verantwortlich.“
IGN hat ElevenLabs um einen Kommentar gebeten.
Wie Skyrims Deepfake-Porno-Mods Synchronsprecher beeinflussen
Wenn ein Modder KI-generierte Zeilen eines echten Synchronsprechers verwendet, kann dies erhebliche Auswirkungen auf die Karrieresicherheit und die psychische Gesundheit des Schauspielers haben. IGN sprach mit zwei Synchronsprechern, die an The Elder Scrolls Online gearbeitet haben, darüber, wie sich Deepfakes (insbesondere solche expliziter Natur) auf ihre Kollegen auswirken. Obwohl keiner der Synchronsprecher, mit denen wir gesprochen haben, im Dokument der betroffenen Synchronsprecher ausdrücklich aufgeführt ist, verfügen beide über wertvolle Einblicke in die Bedeutung dieser Situation für die Branche.
Abbey Veffer war als Sprecherin für die jüngste Necrom-Erweiterung von ESO tätig und hat sich in den sozialen Medien sehr deutlich zur Skyrim-Modding-Kontroverse geäußert. In einer E-Mail an IGN teilte Veffer ihre Haltung zu den Mods mit.
„Ich glaube, dass der Einsatz von KI-Synthese für nicht einvernehmliches Stimmenklonen und NSFW-Mods/Deepfakes als der Verstoß angesehen werden sollte, der er ist“, schrieb Veffer. „Meiner Meinung nach sollte dies wie Rachepornos behandelt werden. Es handelt sich um ein schwerwiegendes Problem, das darauf zurückzuführen ist, dass die Täter mit Machtdynamiken spielen und einen Anschein von Kontrolle auf Kosten anderer anstreben – nämlich der Schauspieler, von denen sie angeblich Fans sind.“
Veffer äußerte sich frustriert darüber, dass die Leute, die die Mods erstellen, es nicht als schädlich ansehen und die Auswirkungen nicht verstehen. Sie wies schnell darauf hin, dass die Fans möglicherweise nicht erkennen, dass die Erstellung solcher Inhalte auf Kosten einer echten Person erfolgt und dass Synchronsprecher nicht so wohlhabend oder unantastbar sind, wie Fans vielleicht denken.
„Aufgrund häufiger Missverständnisse über die Gehälter von Schauspielern denken viele ungebildete Beobachter vielleicht, dass wir alle mit teuren Anwälten ausgestattet sind, die uns im Handumdrehen retten können. Sie gehen auch davon aus, dass diese KI-Imitationen unsere Arbeitsplätze nicht gefährden – aber das ist so.“ völlig unwahr. Die meisten Synchronsprecher sind nicht reich und es gibt in dieser Branche keine wirkliche Arbeitsplatzstabilität. Wir sitzen alle im selben Boot und wir alle verdienen Schutz vor KI-Missbrauch.“
IGN sprach auch mit Kyle McCarley, einem weiteren Synchronsprecher der ESO, der sich gegen den Missbrauch von Synchronsprechern in KI-generierten Projekten einsetzt. In einer Erklärung gegenüber IGN sagte McCarley: „Die Auswirkungen, wenn diese Technologie unkontrolliert bleibt, sind ehrlich gesagt erschreckend“, und er erläuterte weiterhin den Schaden für Synchronsprecher.
„Wenn Fans Memes erstellen, in denen unsere Stimmen Dinge sagen, die wir nicht gesagt haben, kann das unsere Beschäftigungschancen absolut beeinträchtigen, wenn diese Fälschungen gut genug sind, um unsere Arbeitgeber zu überzeugen“, sagte McCarley. „Wir besitzen nicht die Rechte an den Charakteren, die wir darstellen, sondern unsere Arbeitgeber. So viele von ihnen wollen verständlicherweise nicht, dass wir diese Charaktere ‚benutzen‘, um Dinge ohne ihre Erlaubnis zu sagen, genauso wenig wie wir wollen, dass die Leute sie benutzen.“ unsere Stimmen, diese Dinge zu sagen … Unser öffentliches Image könnte durch einen Troll getrübt werden, der uns zwingt, abscheuliche Dinge zu sagen, und es kann fast unmöglich sein, sich davon zu erholen, nicht nur finanziell, sondern auch mental und emotional.
McCarley und Veffer sind sich darin einig, was getan werden kann, dass die Gesetzgebung der einzig wahre Weg ist, um Akteure vor KI-Deepfakes zu schützen, und dass unabhängige Akteure dies auf lange Sicht nicht alleine stoppen können.
Auch McCarley wies auf den laufenden Stand hin Verhandlungen zwischen SAG-AFTRA und den Hollywood-Studioswo die Unterhaltungsgewerkschaft auf Schutzmaßnahmen gegen Arbeitgeber drängt, die KI-Technologie ohne Erlaubnis und/oder zusätzliche Bezahlung nutzen.
„Deshalb brauchen wir dringend Gesetze auf Bundesebene, um eine Aufsicht über die Unternehmen zu etablieren, die diese Technologie entwickeln, und Regeln dafür festzulegen, wie sie sowohl von den betreffenden Privatunternehmen als auch von der Öffentlichkeit insgesamt genutzt werden kann. Und dann müssen diese Regeln strikt durchgesetzt werden.“ Strafmaßnahmen für diejenigen, die gegen sie verstoßen … Alles, was ein einzelner Akteur jetzt tun kann, ist zu versuchen, die Person, die das Modell verwendet, zu kontaktieren und sie höflich zu bitten, damit aufzuhören, was offensichtlich zu gemischten Ergebnissen führen wird.“
Logan Plant ist freiberuflicher Autor bei IGN