Zu den prominenten Accounts, die das Video teilten, gehörte Russian Market, der 330.000 Follower hat und von der Schweizer Social-Media-Persönlichkeit betrieben wird. Wadim Loskutowdie dafür bekannt ist, Russland zu loben und den Westen zu kritisieren. Das Video wurde auch von Tara Reade geteilt, die 2023 nach Russland floh, um die russische Staatsbürgerschaft zu erlangen. Reid beschuldigte Biden auch, sie 1993 sexuell belästigt zu haben.
Das Video, so die Forscher gegenüber WIRED, wurde außerdem manipuliert, um einer Online-Erkennung zu entgehen. „Die Betreiber der Doppelgänger haben das Video an beliebigen Stellen gekürzt, sodass es sich technisch gesehen um Millisekunden unterscheidet und daher von Missbrauchsschutzsystemen wahrscheinlich als eindeutige Videos angesehen werden“, so die Forscher von Antibot4Navalny gegenüber WIRED.
„Dieses Video ist in seiner Mehrdeutigkeit einzigartig“, sagte Fink. „Es ist vielleicht eine bekannte russische Band, aber vielleicht auch nicht, vielleicht ein Deepfake, aber vielleicht auch nicht, vielleicht gibt es Hinweise auf andere Politiker, aber vielleicht auch nicht. Mit anderen Worten, es ist ein eindeutig sowjetisches Propagandavideo. Die Mehrdeutigkeit ermöglicht mehrere konkurrierende Versionen, was bedeutet, dass es Hunderte von Artikeln und Argumenten online gibt, was dazu führt, dass es letztendlich mehr Leute sehen.“
Während der Kreml seine Bemühungen verstärkt, die US-Wahlen im November zu manipulieren, wird immer deutlicher, dass Russland bereit ist, neue KI-Technologien zu nutzen. Ein neuer Bericht, der diese Woche veröffentlicht wurde vom Bedrohungsaufklärungsunternehmen Recorded Future Dieser Trend wurde durch die Enthüllung unterstrichen, dass eine mit dem Kreml in Verbindung stehende Kampagne mithilfe generativer KI-Tools pro-Trump-Inhalte auf einem Netzwerk von Fake-Websites verbreitet.
Der Bericht beschreibt im Detail, wie die Kampagne mit dem Namen CopyCop KI-Tools nutzte, um Inhalte von echten Nachrichten-Websites zu extrahieren, diese mit einer rechtsgerichteten Tendenz aufzupeppen und sie dann auf einem Netzwerk gefälschter Websites mit Namen wie Red State Report und Patriotic Review erneut zu veröffentlichen. Diese Websites sollen angeblich über 1.000 Journalisten beschäftigen – die alle gefälscht sind und ebenfalls von der KI erfunden wurden.
Zu den Themen, die das Wahlkampfteam vorantreibt, gehören unter anderem Fehler Bidens bei Reden, Bidens Alter, Umfrageergebnisse, die einen Vorsprung Trumps zeigen, und Behauptungen, dass Trumps jüngste Verurteilung und sein Prozess „wirkungslos“ und „ein totales Chaos“ gewesen seien.
Es ist noch unklar, wie groß der Einfluss dieser Seiten tatsächlich ist, und eine Überprüfung der sozialen Medien durch WIRED ergab, dass es nur sehr wenige Links zu dem von CopyCop erstellten Netzwerk gefälschter Websites gibt. Die CopyCop-Kampagne hat jedoch bewiesen, dass KI die Verbreitung von Desinformation beschleunigen kann. Und Experten sagen, dass dies wahrscheinlich nur der erste Schritt einer umfassenderen Strategie ist, die wahrscheinlich auch Netzwerke wie Doppelganger einschließen wird.
„Die Einschätzung des Engagements mit den Websites selbst bleibt eine schwierige Aufgabe“, sagt Clément Briens, Analyst bei Recorded Future, gegenüber WIRED. „Die von der KI generierten Inhalte erregen wahrscheinlich überhaupt keine Aufmerksamkeit. Sie dienen jedoch dazu, diese Websites als glaubwürdige Vermögenswerte zu etablieren, wenn sie gezielte Inhalte wie Deepfakes veröffentlichen. [which are] verstärkt durch etablierte russische oder pro-russische Einflussakteure mit bestehender Anhängerschaft und Publikum.“