Eine Analyse hat ergeben, dass die überwiegende Mehrheit der im Internet gefundenen Deepfake-Videos pornografische Inhalte sind.
WERBUNGLaut einer Analyse ist die Zahl der online gefundenen Deepfake-Videos in diesem Jahr im Vergleich zu 2019 um 550 Prozent gestiegen, wobei es sich bei der überwiegenden Mehrheit davon um Deepfake-Pornografievideos handelt.
Der Aufstieg neuer Technologien wie der generativen künstlichen Intelligenz (KI) hat zu einem enormen Anstieg der Erstellung von Deepfake-Inhalten geführt, bei denen es sich um digital veränderte oder generierte Inhalte handelt, die vorgeben, eine reale Person oder ein Szenario darzustellen, sei es durch Video, Bild oder Audio.
Opfer von Deepfake-Pornografie haben beschrieben, wie die Darstellung ihrer Person in diesen fiktiven Szenarien Leben zerstören kann, und einer spricht von einer „lebenslangen Haftstrafe“.
Deepfake-Inhalte werden mithilfe maschineller Lernalgorithmen erstellt, die hyperrealistische Inhalte erzeugen können. Kriminelle können dies nutzen, um Opfer ins Visier zu nehmen, Menschen zu erpressen oder als eine Form der kriminellen oder politischen Manipulation.
Ein umfassender Bericht über Deepfakes aus dem Jahr 2023 ergab, dass Deepfake-Pornografie 98 Prozent aller online gefundenen Deepfake-Videos ausmacht, während 99 Prozent der Opfer von Deepfake-Pornografie Frauen sind.
Analysten einer Website namens homesecurityheroes.com, die sich zum Ziel gesetzt hat, Menschen vor Online-Identitätsbetrug zu schützen, haben 95.820 Deepfake-Videos, 85 spezielle Online-Kanäle und mehr als 100 mit dem Deepfake-Ökosystem verknüpfte Websites untersucht und daraus Ergebnisse erstellt Bericht zum Stand von Deepfakes 2023.
Eines der wichtigsten Ergebnisse des Berichts ist, dass es jetzt weniger als 25 Minuten dauern und nichts kosten kann, ein minutenlanges Deepfake-Pornografievideo von jemandem zu erstellen, der ein einziges klares Gesichtsbild des Opfers verwendet.
Die meisten von der Website analysierten Deepfake-Pornografievideos stammten von südkoreanischen Frauen. Nach Südkorea waren die USA, Japan und das Vereinigte Königreich die Nationalitäten, die bei den Opfern von Deepfake-Pornografie am stärksten vertreten waren.
Epidemie von Deepfake-Pornos in Südkorea
Südkorea ist die Nationalität mit den mit Abstand meisten Opfern von Deepfake-Pornos, was die Analysten des Berichts auf die weltweite Popularität von K-Pop zurückführen. Drei der vier Mitglieder von Blackpink, die als Koreas größte Girl-Pop-Gruppe gilt, gehören zu den zehn am häufigsten angegriffenen Personen.
„K-Pop-Idole sind sowohl in Südkorea als auch international für ihre weitreichende Sichtbarkeit und Fangemeinde bekannt“, erklärte Chris Nguyen, Leiter der Forschungsanalyse für den Bericht. „Ihre öffentlichen Profile und ihre große Fangemeinde bedeuten, dass die Erstellung und Verbreitung von Deepfake-Pornografie, an der sie beteiligt sind, mit größerer Wahrscheinlichkeit ein größeres Publikum erreicht.
Neben ihrer hohen Sichtbarkeit gebe es auch eine „außergewöhnlich große“ Nachfrage nach Inhalten mit K-Pop-Idolen, sagte Nguyen. „Einige nutzen diese Nachfrage aus, indem sie explizite Deepfake-Inhalte erstellen, insbesondere auf speziellen Websites für Erwachsene, mit dem Ziel, Aufmerksamkeit zu erregen und mehr Verkehr zu generieren.“
Er wies auch darauf hin, dass die strengen Vorschriften Südkoreas zu Pornografie wahrscheinlich eine Rolle dabei spielten, die Erstellung und Verbreitung solcher Inhalte voranzutreiben.
„Dies könnte mit dem ‚Streisand-Effekt‘ zusammenhängen, einem unbeabsichtigten Ergebnis des Versuchs, Informationen zu verbergen, zu löschen oder zu zensieren. In solchen Fällen ist das Ergebnis ein Fehlschlag, da dadurch das Bewusstsein und Interesse an diesen Informationen tatsächlich gestärkt wird.“
Deepfakes verbreiten sich im Internet
Bei der Betrachtung der Verbreitung von Deepfake-Pornografie stellten die Analysten fest, dass sieben der zehn meistbesuchten pornografischen Websites Deepfake-Inhalte hosteten.
Auf den Top-Ten-Websites für Deepfake-Pornografie gab es mehr als 303 Millionen Videoaufrufe, was laut Analysten zeigt, wie weit verbreitet und beliebt solche Inhalte werden.
Sie fordern Gespräche über die Einstellung zu solchen Inhalten, wobei der Schwerpunkt auf den ethischen Überlegungen bei der Erstellung dieser Inhalte liegen muss.
Die Forscher führen den plötzlichen Anstieg von Deepfake-Inhalten auf zwei Dinge zurück. Erstens hat die Entstehung einer Art maschinellem Lern-Framework für generative KI, genannt „Generative Adversarial Network“ (GAN), die technischen Mittel für die Erstellung von Deepfake-Inhalten bereitgestellt.
Zweitens bedeutet der einfache Zugriff auf Tools, die auf GANs basieren, dass fast jeder schnell und kostengünstig Deepfake-Inhalte erstellen kann.
WERBUNG„Diese Plattformen bieten eine Reihe von Funktionen, vom einfachen Gesichtsaustausch bis hin zu komplexeren Videomanipulationen“, erklärt der Bericht. Die Autoren fügen hinzu, dass das Wachstum von Online-Communities, die sich der Erstellung von Deepfakes widmen, „die Zusammenarbeit, den Wissensaustausch und die Entwicklung von Open-Source-Projekten gefördert hat“.