Die Social-Media-Plattform
Die Deepfakes überschwemmten mehrere Social-Media-Seiten von Reddit bis Facebook. Dies hat erneut Forderungen nach einer Verschärfung der Gesetzgebung rund um KI laut werden lassen, insbesondere wenn diese zur sexuellen Belästigung missbraucht wird.
Hier erfahren Sie, was Sie über die Swift-Episode und die Legalität von Deepfakes wissen müssen.
Was ist mit Taylor Swift passiert?
Am Mittwoch begannen KI-generierte, sexuell eindeutige Bilder auf Social-Media-Seiten zu kursieren, die insbesondere auf
Die Deepfake-Erkennungsgruppe Reality Defender teilte der Nachrichtenagentur Associated Press mit, dass sie Dutzende einzigartiger Bilder aufgespürt habe, die sich über das Internet an Millionen von Menschen verbreiteten, bevor sie entfernt wurden.
X hat Suchanfragen nach Swift und Anfragen zu den Fotos verboten und stattdessen eine Fehlermeldung angezeigt.
Instagram und Threads ermöglichen zwar die Suche nach Swift, zeigen jedoch eine Warnmeldung an, wenn gezielt nach den Bildern gesucht wird.
Was sagen Plattformen wie X- und AI-Sites?
Am Freitag veröffentlichte das Sicherheitskonto von Es hieß, die Plattform entferne Bilder und ergreife Maßnahmen gegen Konten, die gegen die Richtlinie verstoßen.
Meta veröffentlichte außerdem eine Erklärung, in der es den Inhalt verurteilte und fügte hinzu, dass es „bei Bedarf geeignete Maßnahmen ergreifen“ werde.
„Wir beobachten die Situation genau, um sicherzustellen, dass weitere Verstöße sofort behoben und die Inhalte entfernt werden“, sagte das Unternehmen.
OpenAI sagte, es habe Sicherheitsvorkehrungen getroffen, um die Generierung schädlicher Inhalte auf seinen Plattformen wie ChatGPT einzuschränken, und lehne „Anfragen ab, in denen nach dem Namen einer Person des öffentlichen Lebens gefragt wird, darunter Taylor Swift“.
Microsoft, das einen Bildgenerator anbietet, der teilweise auf der Website DALL-E basiert, gab am Freitag bekannt, dass es derzeit untersucht, ob sein Tool missbräuchlich verwendet wurde.
Kate Vredenburgh, Assistenzprofessorin am Department of Philosophy, Logic and Scientific Method an der London School of Economics, wies darauf hin, dass Social-Media-Geschäftsmodelle häufig auf dem Teilen von Inhalten basieren und ihr Ansatz in der Regel darin besteht, nach einem solchen Ereignis aufzuräumen.
Zu den Bildern hat Swift keine Stellungnahme abgegeben. Der Popstar wurde am Sonntag bei einem NFL-Spiel in den USA gesehen, wie er ihren Freund Travis Kelce anfeuerte, als seine Kansas City Chiefs in den Super Bowl einzogen.
Das Posten von Bildern mit nicht einvernehmlicher Nacktheit (NCN) ist auf X strengstens untersagt und wir haben eine Null-Toleranz-Richtlinie gegenüber solchen Inhalten. Unsere Teams entfernen aktiv alle identifizierten Bilder und ergreifen entsprechende Maßnahmen gegen die Konten, die für die Veröffentlichung dieser Bilder verantwortlich sind. Wir sind eng miteinander verbunden …
– Sicherheit (@Safety) 26. Januar 2024
Was ist ein Deepfake und wie kann es missbraucht werden?
Swift ist nicht die erste Persönlichkeit des öffentlichen Lebens, die Ziel von Deepfakes ist, einer Form von „synthetischen Medien“ oder virtuellen Medien, die durch künstliche Intelligenz manipuliert und verändert werden.
Bilder und Videos können von Grund auf generiert werden, indem KI-Tools mit Eingabeaufforderungen versorgt werden, was angezeigt werden soll. Alternativ kann das Gesicht einer Person in einem Video oder Bild durch das einer anderen Person, beispielsweise einer Persönlichkeit des öffentlichen Lebens, ausgetauscht werden.
Auf diese Weise werden häufig gefälschte Videos erstellt, um Politiker zu zeigen, die bestimmte Aussagen unterstützen, oder um Personen zu zeigen, die sich an sexuellen Aktivitäten beteiligen, an denen sie nie beteiligt waren. Kürzlich gingen in Indien sexuell eindeutige Deepfakes der Schauspielerin Rashmika Mandanna in den sozialen Medien viral und lösten einen Aufruhr aus. Eine Gaming-App nutzte ein Deepfake der Cricket-Ikone Sachin Tendulkar, um für ihr Produkt zu werben. Und in den USA produzierte der Wahlkampf des ehemaligen republikanischen Präsidentschaftskandidaten Ron DeSantis Deepfakes, die den Ex-Präsidenten Donald Trump, der das Rennen um die Präsidentschaftskandidatur der Partei anführt, zeigen, wie er den Gesundheitsexperten Anthony Fauci küsst, eine verhasste Figur für viele Konservative wegen seines Eintretens für Masken und Impfstoffe während der COVID-19-Pandemie.
Während einige Deepfakes aufgrund ihrer schlechten Qualität leicht zu erkennen sind, kann es bei anderen deutlich schwieriger sein, sie von einem echten Video zu unterscheiden. Mehrere generative KI-Tools wie Midjourney, Deepfakes Web und DALL-E stehen den Nutzern kostenlos oder gegen eine geringe Gebühr zur Verfügung.
Laut einem Bericht von Sensity AI, einem Geheimdienstunternehmen, das sich auf die Erkennung von Deepfakes konzentriert, sind mehr als 96 Prozent der derzeit online verfügbaren Deepfake-Bilder pornografischer Natur und fast alle richten sich an Frauen.
Gibt es Gesetze, die Online-Benutzer schützen könnten?
Die Gesetze, die sich speziell mit Deepfakes befassen, variieren je nach Land und reichen in der Regel von der Pflicht zur Offenlegung von Deepfakes bis hin zum Verbot schädlicher oder böswilliger Inhalte.
Zehn US-Bundesstaaten, darunter Texas, Kalifornien und Illinois, haben Strafgesetze gegen Deepfakes. Der Gesetzgeber drängt auf einen ähnlichen Bundesgesetzentwurf oder weitere Einschränkungen für das Tool. Die US-Repräsentantin Yvette Clarke, eine Demokratin aus New York, hat ein Gesetz eingeführt, das Urheber dazu verpflichten würde, Deepfake-Inhalte mit einem digitalen Wasserzeichen zu versehen.
Sexuell explizite Deepfakes könnten, wenn sie nicht einvernehmlich erfolgen, einen Verstoß gegen die umfassenderen Gesetze des Landes darstellen. Die USA kriminalisieren solche Deepfakes nicht, verfügen jedoch über Landes- und Bundesgesetze, die auf Privatsphäre, Betrug und Belästigung abzielen.
Im Jahr 2019 hat China Gesetze erlassen, die die Offenlegung der Verwendung von Deepfakes in Videos und Medien vorschreiben. Im Jahr 2023 hat das Vereinigte Königreich im Rahmen seines Online Safety Act das Teilen von Deepfake-Pornografie für illegal erklärt.
Südkorea hat im Jahr 2020 ein Gesetz erlassen, das die Verbreitung von Deepfakes, die dem öffentlichen Interesse schaden, unter Strafe stellt und Strafen von bis zu fünf Jahren Gefängnis oder Geldstrafen von etwa 50 Millionen Won (43.000 US-Dollar) vorsieht, um Missbrauch zu verhindern.
In Indien hat die Bundesregierung im Dezember eine Warnung an soziale Medien und Internetplattformen herausgegeben, um sich vor Deepfakes zu schützen, die gegen die IT-Vorschriften Indiens verstoßen. Deepfakes an sich sind nicht illegal, können jedoch je nach Inhalt gegen einige der indischen Regeln zur Informationstechnologie verstoßen.
Die Zurückhaltung gegenüber einer strengeren Regulierung ist oft auf die Sorge zurückzuführen, dass sie den technologischen Fortschritt bremsen könnte.
„Es geht einfach davon aus, dass wir diese regulatorischen oder Designänderungen nicht vornehmen konnten, um dies zumindest deutlich zu reduzieren“, sagte Vredenburgh. Manchmal kann die gesellschaftliche Einstellung auch darin bestehen, dass solche Vorfälle ein Preis für solche Werkzeuge sind, was laut Vredenburgh die Perspektive der Opfer marginalisiert.
„Es stellt sie als eine kleine Minderheit der Gesellschaft dar, die zum Wohle von uns allen betroffen sein könnte“, sagte sie. „Und das ist gesellschaftlich eine sehr unangenehme Situation für uns alle.“
Wie reagiert die Welt?
Das Weiße Haus sagte, es sei „beunruhigt“ über die Bilder, während Swifts Fangemeinde – Swifties genannt – mobilisierte, um gegen sie vorzugehen.
„Während Social-Media-Unternehmen ihre eigenen, unabhängigen Entscheidungen über das Content-Management treffen, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen müssen, um die Verbreitung von Fehlinformationen und nicht einvernehmlichen, intimen Bildern realer Menschen zu verhindern“, sagte Karine Jean, Pressesprecherin des Weißen Hauses -Pierre sagte bei einer Pressekonferenz.
Auch der US-Gesetzgeber äußerte die Notwendigkeit, Schutzmaßnahmen einzuführen.
Seit Mittwoch haben die Fans des Sängers schnell Accounts gemeldet und mit dem Hashtag #ProtectTaylorSwift eine Gegenoffensive auf X gestartet, um es mit weiteren positiven Bildern von Swift zu überfluten.
„Wir verlassen uns oft auf Nutzer und Betroffene oder Menschen, die mit ihnen solidarisch sind, um die harte Arbeit zu leisten, Druck auf Unternehmen auszuüben“, sagte Vredenburgh und fügte hinzu, dass nicht jeder den gleichen Druck ausüben könne und deshalb auf Empörung setze Die Umsetzung in eine dauerhafte Veränderung ist immer noch etwas, worüber man sich Sorgen machen muss.