Der VERRÜCKTE Putin könnte KI-generierte Deep-Fake-Pornografie nutzen, um westliche Demokratien zu zerstören und zu zerstören, warnte ein Geheimdienstanalyst.
Nina Jankowicz, ehemalige Geschäftsführerin der Desinformations-Task Force des US-Heimatschutzministeriums, sagte gegenüber The Sun, sie sei „wirklich besorgt“ über das Risiko von KI in den Händen Russlands.
4
4
Professor Jankowicz, der in Russland studiert und für das Außenministerium der Ukraine gearbeitet hat, analysiert russische Operationen, die darauf abzielen, Demokratien rund um den Globus zu schwächen.
Sie erzählte The Sun, dass Russland bereits Deep-Fake-Pornos verwendet habe, um seine Feinde anzugreifen – und dass nur ein einziges echtes Bild nötig sei, um die allgegenwärtigen KI-Aktfotos zu erzeugen.
Und der KI-Experte glaubt, dass der „kranke“ Fake-Porno definitiv Teil von Russlands „sexualisiertem Spielplan“ ist, wenn es darum geht, weitere Länder im Westen zu schwächen.
Sie sagte sogar, dass einige der russischen Cyberkriminellen, die die allgegenwärtigen Bilder produzierten, auf direkten Befehl Putins handelten.
Jankowicz erklärte, dass KI zwar eine „transformative Technologie“ sein kann, in den falschen Händen jedoch unglaublich gefährlich sein kann.
Der rasante Aufstieg dieser Technologie habe „ein völlig neues Maß an Bedrohung“ geschaffen und sei eine „großartige Möglichkeit, das Kräftegleichgewicht durcheinander zu bringen“.
„Bei der überwiegenden Mehrheit der Deep Fakes im Internet handelt es sich um nicht einvernehmliche Deep Fake-Pornografie von Frauen“, sagte sie gegenüber The Sun.
Und Russland hat diese schreckliche Methode bereits in der Ukraine und in Georgien genutzt, um „Frauen anzugreifen, die Teil der Demokratien sind“.
„Wenn ich Russland wäre, würde ich versuchen, Fake-Pornografie zu verwenden, um Demokratien zu untergraben … um das Kräftegleichgewicht zu stören.“
„Die gezielte Ansprache von Frauen ist eine großartige Möglichkeit, dies zu erreichen“, warnte sie.
Jankowicz sagte gegenüber The Sun, dass 96 % der Deepfake-Bilder im Internet pornografische Inhalte seien.
„Wir befinden uns in einem Zeitalter, in dem ein einziges Foto einer Frau verwendet werden kann, um ein realistisches Deepfake zu erstellen.
„Russland setzt diese auf sehr strategische Weise ein. Sie zerreißen das Gefüge, die Verletzlichkeit der Gesellschaft, die frauenfeindlichen Tendenzen.“
Es ist krank… Ich möchte nicht, dass die Bösen gewinnen
Nina Jankowicz
„Das sexualisierte Spielbuch ist seit sehr langer Zeit Teil ihrer Werkzeuge und Taktiken“, erklärte sie.
„Wenn Sie einen Kandidaten für ein Amt oder einen hochrangigen Militärbeamten verärgern wollen, ist dies eine gute Möglichkeit, ihrer Glaubwürdigkeit zu schaden.“
„Es ist wirklich allgegenwärtig.“
Das Ergebnis ist, dass andere Frauen eher zurückhaltend sind, öffentlich zugängliche oder hochrangige Positionen in der Regierung, den Streitkräften usw. einzunehmen – was das Gleichgewicht einer modernen und demokratischen Gesellschaft stört.
Jankowicz, die auch zwei Bücher über Desinformation und Frauen im Internet geschrieben hat, wurde sogar selbst ins Visier genommen.
In „How to be a Woman Online: Surviving Abuse and Harassment, and How to Fight Back“ spricht sie über ihre eigenen Erfahrungen mit Deep-Fake-Pornos.
Nina sagte gegenüber The Sun: „Die Deepfakes von mir wurden in den Wochen nach meinem Rücktritt aus der Regierung im Jahr 2022 erstellt.“
„Eigentlich habe ich sie eine Weile später nicht entdeckt, es war ein Google-Alarm, der mich auf sie aufmerksam gemacht hat.“
„Natürlich war es Teil eines umfassenderen Eingriffs in das öffentliche Leben und deshalb spreche ich mich weiterhin darüber aus.“
„Es ist krank“, sagte sie, „ich möchte nicht, dass die Bösen gewinnen.“
Handeln russische Cyber-Gruppen auf Befehl des Kremls?
Nina sagte gegenüber The Sun, dass die russischen Cyber-Gruppen, die diese perversen Bilder und Clips produzieren, dies möglicherweise auf direkten Befehl Putins tun.
„Wir haben schon früher erlebt, dass die russischen Sicherheitsdienste in solche Dinge verwickelt waren, insbesondere bei russischen Oppositionellen.
„Der Kreml beschäftigt diese Gruppen entweder direkt über die Sicherheitsdienste oder hat kriminelle Pakte mit ihnen geschlossen.“
„Die Kriminellen werden es als Gefallen nutzen, um sie vor dem Gefängnis zu bewahren.“
Die Idee besteht darin, die Glaubwürdigkeit einer Frau zu untergraben… sie ein paar Mal aus der Fassung zu bringen. Sie betrachten es als Strafe für die Frauen, die sie darstellen
Nina Jankowicz
Das russische Regime habe in der Vergangenheit gesehen, dass Sicherheitsdienste viel Zeit und Geld in die Ausspionierung seiner Feinde investiert hätten, und nun könne es die Informationen, die sie nutzen wollten, künstlich generieren, warnte sie.
Und wenn sie auf diese Weise direkt mit westlichen Regierungen spielen würden, würden sie hochrangige Personen ins Visier nehmen.
„Wenn sie sich auf diese Weise einmischen würden, müsste es sich um ein ziemlich hochwertiges Ziel handeln.
„Ich halte es für möglich, dass sie es mit Regierungsbeamten zu tun haben … einem Kabinettssekretär oder einem hochrangigen Beamten.“
Während das Jahr der Wahlen in den USA, Großbritannien und Dutzenden anderen Ländern immer näher rückt, sagte Nina, sie sei „absolut besorgt“ über die Aussicht auf KI-generierte Pornos.
„Wenn man sich die Art und Weise anschaut, wie dies in der Politik demokratischer Länder bereits in der Vergangenheit gegen Frauen eingesetzt wurde, stellt es bereits seit etwa acht Jahren ein großes Problem dar.“
Ich halte es für möglich, dass sie es mit Regierungsbeamten zu tun haben … einem Kabinettssekretär oder einem hochrangigen Beamten
Nina Jankowicz
„Es wurde zugelassen, dass es ohne große Intervention seitens der Technologieunternehmen oder der Regierung weiterbesteht.
„Wenn ich mir die Schwachstellen ansehe, die wir in der westlichen Gesellschaft haben, ist Frauenfeindlichkeit sicherlich eine davon, und das wissen wir.“ [Russia] hat schon früher frauenfeindliche Rhetorik und frauenfeindliche Desinformation verwendet.“
4
Deepfake-Pornos in der Ukraine und Georgien
Nina nennt als Beispiel die ukrainische Abgeordnete Svitlana Zalishchuk, die vor sieben Jahren Opfer von Deepfake-Pornos wurde.
Im Jahr 2017 wurde in gefälschten KI-Posts online ein Tweet veröffentlicht, der offenbar von Zalishchuk verfasst worden war und in dem sie versprach, in Kiew nackt über die Straße zu rennen, falls die Ukraine eine entscheidende Schlacht verlieren sollte.
Es war wirklich beunruhigend, dass ein Journalist aus einem europäischen Land dies so ernst nahm, dass er es als Thema der Vereinten Nationen ansprach
Nina Jankowicz
Neben dem Beitrag befanden sich falsche Bilder von ihr, die völlig nackt waren.
Jankowicz sagte gegenüber The Sun, dass der scheinbar echte Beitrag so viral ging, dass „ein Reporter sie dann bei einem UN-Treffen für Frauen danach fragte“.
„Es war wirklich beunruhigend, dass ein Journalist aus einem europäischen Land dies so ernst nahm, dass er es als die Vereinten Nationen zur Sprache brachte“, sagte Nina.
„Auch in Georgien gab es Sexvideoskandale“, ein Land, in dem laut Nina kriminelle Gruppen leben, die „mit dem Kreml unter einer Decke stecken“.
„Russland konnte entweder Sexvideos verwenden, die bestimmten Frauen zugeschrieben wurden, aber nicht von ihnen stammten, oder sie tatsächlich ausspionieren, weil sie entweder in außereheliche Affären verwickelt waren oder sich in ihren eigenen Schlafzimmern befanden.“
Nina sagte gegenüber The Sun, dass es in Russland ein Muster gebe, Oppositionellen so etwas anzutun, und dass die Idee dahinter darin bestehe, sie „aus dem öffentlichen Leben zu verbannen“.
Sie fügte hinzu: „Sie zu sexualisieren, insbesondere in einem Land wie Georgien, das sehr traditionell ist, kann für sie wirklich schädlich sein.“
„Es gab mehrere Frauen, denen das passiert ist und die sich komplett aus dem öffentlichen Leben zurückgezogen haben.“
Der Aufstieg von Deepfakes
DEEPFAKE-Pornos sind nichts Neues – aber in den letzten Jahren hat sie immer mehr Aufmerksamkeit erregt, da immer mehr berühmte Zielpersonen ihr zum Opfer fallen.
Der Begriff wurde erstmals im Jahr 2017 geprägt, als die Gesichter hochkarätiger Persönlichkeiten mit Photoshop bearbeitet oder zu pornografischen Inhalten bearbeitet wurden.
In ihrer frühen Form wurde zu ihrer Herstellung eine Kombination aus maschinellen Lernalgorithmen und KI-Software verwendet.
Da die KI jedoch immer ausgefeilter wird, können äußerst realistische Bilder ganz einfach von Grund auf erstellt werden – unter Verwendung der unscheinbarsten Fotos.
Erst vor wenigen Wochen war Megastar Taylor Swift Opfer expliziter Deepfake-Bilder, die online verbreitet wurden.
Die wohl berühmteste Person, die jemals Opfer der gefährlichen Technologie wurde – eines der Bilder wurde rund 45 Millionen Mal angesehen.
Zu den weiteren berühmten Frauen, die im Laufe der Jahre ins Visier genommen wurden, gehören Gal Gadot, Emma Watson, Natalie Portman und Scarlett Johansson.
Professor Jankowicz ist sich der vier großen Websites bewusst, die sich auf Bilder spezialisiert haben – es gibt jedoch noch viele weitere Unterthreads, Kopien und Websites im Internet, und die Regulierung hat sich als schwierig erwiesen.
Regierungen, Wissenschaftler und Geheimdienstanalysten wie Jankowicz suchen zunehmend nach Möglichkeiten, die verdrehte Technologie zu bekämpfen.
Beispiele aus Großbritannien
Cara Hunter, eine nordirische Politikerin, sah während ihrer Kandidatur im April 2022 ein gefälschtes Pornovideo, das ihr Konterfei im Internet veröffentlichte.
Zehntausende Male online geteilt, führte dies dazu, dass sie selbst beim Gehen auf der Straße sexuell belästigt wurde.
Einer der ersten „deep fake“ politischen Vorfälle in Großbritannien – und der erste mit einer so prominenten Persönlichkeit – richtete sich gegen Labour-Chef Keir Starmer.
Im Oktober 2023 kursierte im Internet ein Audioclip von Starmer, der offenbar zeigt, wie er seine Mitarbeiter beschimpft.
Es tauchte ein weiterer gefälschter Kommentar des Londoner Bürgermeisters Sadiq Khan auf, der andeutete, dass er gegen Gedenkfeiern zum Gedenktag sei und stattdessen einen pro-palästinensischen Marsch befürworte.
Obwohl keines von beiden pornographisch war, überzeugten sie die Menschen im Internet und verbreiteten sich schnell.
Auch der britische Vorsitzende der Wahlkommission warnte kürzlich, dass weibliche Abgeordnete direkt zum Ziel von Deepfake-Pornos werden könnten – insbesondere im Vorfeld der diesjährigen Parlamentswahlen.
John Pullinger sagte der Financial Times vor wenigen Wochen, dass KI „die eigentliche Kampagne blockieren“ könne.
Und er warnte, dass jede falsche, von KI erzeugte Pornografie „viel stärker auf weibliche Kandidaten abzielen“ würde.
2024 ist ein entscheidendes Jahr für KI
Eine Studie aus dem Universität von Oxford kam erst vor wenigen Wochen zu dem Schluss, dass KI „in einer Zeit intensiver politischer und wirtschaftlicher Volatilität auf der ganzen Welt in diesem Jahr den Informationsraum durchdringen wird“.
Dies sei besonders gefährlich in einem Jahr mit Wahlen in über 40 Demokratien auf der ganzen Welt und Kriegen auf verschiedenen Kontinenten.
Die Studie warnte vor „schlechten Akteuren“, die Technologien wie KI nutzen könnten, um die Ergebnisse der Wahlen im Jahr 2024 zu beeinflussen.
Big Tech arbeitet hart und schnell daran, der Bedrohung durch solch realistische Desinformation im Internet entgegenzuwirken – aber es ist zum jetzigen Zeitpunkt schwer zu beurteilen, ob ihnen dies effektiv und konsequent gelingen wird.