Die Schlagzeilen klangen schlimm. „China wird KI nutzen, um Wahlen in den USA, Südkorea und Indien zu stören, warnt Microsoft“, hieß es in einem. „China nutzt KI, um Desinformation zu säen und Zwietracht in ganz Asien und den USA zu schüren“, behauptete ein anderer.
Die Schlagzeilen basierten auf einem Anfang des Monats veröffentlichten Bericht von Das Threat Analysis Center von Microsoft Darin wurde dargelegt, wie eine chinesische Desinformationskampagne nun künstliche Technologie einsetzte, um Spaltungen zu schüren und Wahlen in den USA und auf der ganzen Welt zu stören. Die Kampagne, die sich bereits auf die Wahlen in Taiwan konzentriert, nutzt KI-generierte Audio- und Memes, um die Aufmerksamkeit der Nutzer zu erregen und das Engagement zu steigern.
Aber was diese Schlagzeilen und Microsoft selbst nicht angemessen vermitteln konnten, ist, dass die mit der chinesischen Regierung verbundene Desinformationskampagne, bekannt als Spamouflage-Drache oder Drachenbrückewar bisher praktisch wirkungslos.
„Ich würde Chinas Desinformationskampagnen als Russland 2014 bezeichnen. Sie liegen also zehn Jahre zurück“, sagt Clint Watts, der General Manager des Threat Analysis Center von Microsoft. „Sie probieren viele verschiedene Dinge aus, aber ihre Raffinesse ist immer noch sehr schwach.“
In den letzten 24 Monaten hat sich die Kampagne von vorwiegend pro-chinesischen Inhalten zu mehr entwickelt aggressiv gegen die US-Politik gerichtet. Obwohl diese Bemühungen groß angelegt waren und sich über Dutzende von Plattformen erstreckten, hatten sie größtenteils keine Auswirkungen auf die reale Welt. Dennoch warnen Experten, dass bereits ein einziger Beitrag, der von einem einflussreichen Account verstärkt wird, all das ändern kann.
„Spamouflage ist, als würde man Spaghetti an die Wand werfen, und sie werfen eine Menge Spaghetti“, sagt Jack Stubbs, Chief Information Officer bei Graphika, einem Social-Media-Analyseunternehmen, das zu den ersten gehörte, die die Spamouflage-Kampagne identifizierten. „Das Volumen und der Umfang dieser Sache sind riesig. Sie veröffentlichen jeden Tag zahlreiche Videos und Cartoons, die auf verschiedenen Plattformen weltweit verbreitet werden. Der überwiegende Teil davon scheint vorerst etwas zu sein, das nicht Bestand hat, aber das bedeutet nicht, dass es auch in Zukunft nicht Bestand haben wird.“
Spätestens seit 2017 verbreitet Spamouflage unaufhörlich Inhalte, die darauf abzielen, wichtige globale Ereignisse zu stören, darunter so unterschiedliche Themen wie die prodemokratischen Proteste in Hongkong, die US-Präsidentschaftswahlen und der Krieg zwischen Israel und der Hamas. Teil eines umfassendere Multimilliarden-Dollar-Influencer-Kampagne Die von der chinesischen Regierung durchgeführte Kampagne hat Millionen von Konten auf Dutzenden von Internetplattformen genutzt, von X und YouTube bis hin zu Randplattformen wie Gab, wo die Kampagne versucht hat, pro-chinesische Inhalte zu verbreiten. Es war auch eines der ersten Unternehmen, das modernste Techniken einführte, wie z KI-generierte Profilbilder.
Trotz all dieser Investitionen ist die Kampagne laut Experten aufgrund einer Reihe von Faktoren weitgehend gescheitert, darunter Fragen des kulturellen Kontexts, Chinas Online-Abschottung von der Außenwelt durch die Große Firewall, ein Mangel an vernetztem Denken zwischen den staatlichen Medien und dem Desinformationskampagne und der Einsatz von Taktiken, die speziell für Chinas stark kontrollierte Online-Umgebung entwickelt wurden.
„Das ist die Geschichte von Spamouflage seit 2017: Sie sind riesig, sie sind überall und niemand außer Forschern schaut sie an“, sagt Elise Thomas, eine leitende Open-Source-Analystin am Institute for Strategic Dialogue, die Spamouflage verfolgt hat Kampagne seit Jahren.