Facebook schließt Tausende gefälschter chinesischer Konten, die sich als Amerikaner ausgeben

Das Netzwerk aus fast 4.800 gefälschten Konten versuchte, ein Publikum aufzubauen, als es vom Technologieunternehmen, dem Facebook und Instagram gehören, identifiziert und eliminiert wurde. Die Konten enthielten gefälschte Fotos, Namen und Standorte, um den Eindruck zu erwecken, dass sie sich wie gewöhnliche amerikanische Facebook-Nutzer zu politischen Themen äußern.

Anstatt gefälschte Inhalte zu verbreiten, wie es andere Netzwerke getan haben, wurden die Konten dazu verwendet, Beiträge von X, der früher als Twitter bekannten Plattform, erneut zu teilen, die von Politikern, Nachrichtenagenturen und anderen erstellt wurden. Die miteinander verbundenen Berichte bezogen Inhalte sowohl aus liberalen als auch aus konservativen Quellen, ein Hinweis darauf, dass ihr Ziel nicht darin bestand, die eine oder andere Seite zu unterstützen, sondern die parteipolitischen Spaltungen zu übertreiben und die Polarisierung weiter anzuheizen.

Das neu identifizierte Netzwerk zeigt, wie ausländische Gegner Amerikas in den USA ansässige Technologieplattformen ausnutzen, um Zwietracht und Misstrauen zu säen, und es weist auf die ernsthaften Bedrohungen hin, die von Online-Desinformation im nächsten Jahr ausgehen, wenn in den USA, Indien, Mexiko, der Ukraine nationale Wahlen stattfinden. Pakistan, Taiwan und andere Nationen.

„Diese Netzwerke haben immer noch Schwierigkeiten, ein Publikum zu gewinnen, aber sie sind eine Warnung“, sagte Ben Nimmo, der Untersuchungen zu unauthentischem Verhalten auf Metas Plattformen leitet. „Ausländische Bedrohungsakteure versuchen, vor den Wahlen im nächsten Jahr Menschen über das Internet zu erreichen wir müssen wachsam bleiben.“

Meta Platforms Inc. mit Sitz in Menlo Park, Kalifornien, hat das chinesische Netzwerk nicht öffentlich mit der chinesischen Regierung in Verbindung gebracht, stellte jedoch fest, dass das Netzwerk aus diesem Land stammt. Der durch die Berichte verbreitete Inhalt ergänzt weitgehend andere Propaganda- und Desinformationsmaßnahmen der chinesischen Regierung, die darauf abzielen, parteipolitische und ideologische Spaltungen innerhalb der USA zu verschärfen

Um mehr wie normale Facebook-Konten zu wirken, postete das Netzwerk manchmal über Mode oder Haustiere. Anfang des Jahres ersetzten einige der Konten plötzlich ihre amerikanisch klingenden Benutzernamen und Profilbilder durch neue, die darauf hindeuteten, dass sie in Indien lebten. Anschließend begannen die Konten, pro-chinesische Inhalte über Tibet und Indien zu verbreiten, was zeigt, wie gefälschte Netzwerke umgeleitet werden können, um sich auf neue Ziele zu konzentrieren.

Meta verweist oft auf seine Bemühungen, gefälschte Social-Media-Netzwerke zu schließen, als Beweis für sein Engagement für den Schutz der Wahlintegrität und der Demokratie. Kritiker sagen jedoch, dass die Fokussierung der Plattform auf Fake-Accounts davon ablenke, dass sie sich nicht ihrer Verantwortung für die Fehlinformationen auf ihrer Website bewusst sei, die zu Polarisierung und Misstrauen beigetragen hätten.

Beispielsweise akzeptiert Meta auf seiner Website bezahlte Anzeigen mit der Behauptung, die US-Wahlen im Jahr 2020 seien manipuliert oder gestohlen worden, was die Lügen des ehemaligen Präsidenten Donald Trump und anderer Republikaner verstärkt, deren Behauptungen über Wahlunregelmäßigkeiten wiederholt widerlegt wurden. Wahlbeamte auf Bundes- und Landesebene sowie Trumps eigener Generalstaatsanwalt sagten, es gebe keine glaubwürdigen Beweise dafür, dass die Präsidentschaftswahl, die Trump gegen den Demokraten Joe Biden verlor, verdorben sei.

Auf die Frage nach seinen Werberichtlinien antwortete das Unternehmen, dass es sich auf künftige Wahlen konzentriere und nicht auf Wahlen aus der Vergangenheit, und Anzeigen ablehnen werde, die unbegründete Zweifel an bevorstehenden Wahlen aufkommen lassen.

Und während Meta eine neue Richtlinie zur künstlichen Intelligenz angekündigt hat, die vorschreibt, dass politische Anzeigen einen Haftungsausschluss tragen müssen, wenn sie KI-generierte Inhalte enthalten, hat das Unternehmen zugelassen, dass andere veränderte Videos, die mit konventionelleren Programmen erstellt wurden, auf seiner Plattform verbleiben, darunter auch digitale bearbeitetes Video von Biden, in dem behauptet wird, er sei ein Pädophiler.

„Dies ist ein Unternehmen, das nicht ernst genommen werden kann und dem man nicht vertrauen kann“, sagte Zamaan Qureshi, ein politischer Berater beim Real Facebook Oversight Board, einer Organisation von Bürgerrechtlern und Technologieexperten, die Metas Ansatz zur Desinformation kritisiert haben Hassrede. „Achten Sie darauf, was Meta tut, nicht darauf, was sie sagen.“

Meta-Führungskräfte diskutierten die Aktivitäten des Netzwerks während einer Telefonkonferenz mit Reportern am Mittwoch, einen Tag nachdem der Technologieriese seine Richtlinien für das kommende Wahljahr bekannt gegeben hatte – die meisten davon wurden für frühere Wahlen eingeführt.

Laut Experten, die den Zusammenhang zwischen sozialen Medien und Desinformation untersuchen, stellt das Jahr 2024 jedoch neue Herausforderungen dar. In vielen großen Ländern werden nicht nur nationale Wahlen abgehalten, sondern das Aufkommen hochentwickelter KI-Programme macht es auch einfacher denn je, lebensechte Audio- und Videoaufnahmen zu erstellen, die Wähler irreführen könnten.

„Plattformen nehmen ihre Rolle im öffentlichen Raum immer noch nicht ernst“, sagte Jennifer Stromer-Galley, Professorin an der Syracuse University, die digitale Medien studiert.

Stromer-Galley bezeichnete Metas Wahlpläne als „bescheiden“, stellte jedoch fest, dass sie in krassem Gegensatz zum „Wilden Westen“ von zuvor wegen Hassrede gesperrt und nutzte die Website zur Verbreitung von Verschwörungstheorien.

Demokraten und Republikaner haben Gesetze gegen algorithmische Empfehlungen, Fehlinformationen, Deepfakes und Hassreden gefordert, aber es besteht kaum eine Chance, dass vor den Wahlen 2024 nennenswerte Vorschriften verabschiedet werden. Das bedeutet, dass es den Plattformen obliegt, sich freiwillig selbst zu überwachen.

Laut Kyle Morse, stellvertretender Geschäftsführer des Tech Oversight Project, einer gemeinnützigen Organisation, die neue Bundesvorschriften für soziale Medien unterstützt, sind Metas bisherige Bemühungen, die Wahl zu schützen, „eine schreckliche Vorschau auf das, was wir im Jahr 2024 erwarten können“. „Der Kongress und die Regierung müssen jetzt handeln, um sicherzustellen, dass Meta, TikTok, Google, X, Rumble und andere Social-Media-Plattformen nicht aktiv ausländische und inländische Akteure unterstützen und begünstigen, die unsere Demokratie offen untergraben.“

Viele der von Meta diese Woche identifizierten gefälschten Konten hatten auch nahezu identische Konten auf X, wo einige von ihnen regelmäßig Musks Beiträge retweeteten.

Diese Konten bleiben auf X aktiv. Eine Nachricht mit der Bitte um einen Kommentar von der Plattform wurde nicht zurückgegeben.

Meta veröffentlichte am Mittwoch außerdem einen Bericht, in dem das Risiko bewertet wurde, dass ausländische Gegner wie Iran, China und Russland soziale Medien nutzen würden, um sich in Wahlen einzumischen. In dem Bericht wurde darauf hingewiesen, dass Russlands jüngste Desinformationsbemühungen sich nicht auf die USA, sondern auf deren Krieg gegen die Ukraine konzentrierten und dabei staatliche Medienpropaganda und Fehlinformationen einsetzten, um die Unterstützung für das überfallene Land zu untergraben.

Nimmo, der Chefermittler von Meta, sagte, dass eine Meinungsveränderung gegen die Ukraine wahrscheinlich im Mittelpunkt aller Desinformationen stehen werde, die Russland vor den Wahlen im nächsten Jahr in die politische Debatte Amerikas einbringen möchte.

„Das ist wichtig für die Zeit vor 2024“, sagte Nimmo. „Da der Krieg weitergeht, müssen wir vor allem damit rechnen, dass Russland versucht, wahlbezogene Debatten und Kandidaten ins Visier zu nehmen, die sich auf die Unterstützung der Ukraine konzentrieren.“

(AP)