Soziale Medien ermöglichen Desinformationsoperationen. Was kann die EU dagegen tun?

Am 26. Januar wurde bekannt, dass Experten für digitale Forensik eine große Desinformationsoperation Russlands aufgedeckt hatten, die sich gegen die deutsche Regierung richtete.

Die Operation nutzte 50.000 gefälschte Konten und Bots auf X (ehemals Twitter). Sie haben ab dem 10. Dezember innerhalb eines Monats mehr als eine Million Beiträge verschickt und damit bewährte Desinformationsnarrative verbreitet.

Das deutsche Außenministerium, das die Untersuchung in Auftrag gegeben hatte, kam zu dem Schluss, dass Regierungen den zunehmenden Desinformationskampagnen entgegenwirken und sich ihrer Auswirkungen auf Wahlen bewusst sein müssen.

Während die Regierungen sicherlich ihre Abwehrmaßnahmen gegen ausländische Desinformation und Wahleinmischung verstärken müssen, scheint das deutsche Außenministerium einen entscheidenden Punkt zu übersehen.

Es ist kein Zufall, dass soziale Medien und insbesondere X zu einem Überträger ausländischer Desinformation wurden.

Social-Media-Unternehmen haben, angetrieben von ihrem persönlichen finanziellen Interesse an der Verbreitung von Desinformation, eine unheilige Allianz mit autoritären Staaten und bösartigen Akteuren geschlossen, die sich in die internen Prozesse demokratischer Länder einmischen wollen.

Während die Europäische Union damit begonnen hat, damit zu rechnen, muss sie sicherstellen, dass ihre erste Salve nicht zu kurz kommt.

Die Farbe des Geldes

Der natürliche Kampf des Menschen um Anerkennung hat schon immer zu Kuriositäten geführt – je weiter ein Ausdruck vom Median entfernt ist, desto reaktiver wird er angesprochen.

Mit dem Aufkommen der digitalen Sozialisierung sind jedoch die Hemmnisse beseitigt, die den Diskurs davon abhalten, sich den Extremen zuzuwenden.

Soziale Medien fördern schnelle Interaktion, Anonymität und mangelnde Verantwortung. Die Hürde bei der Erstellung von Inhalten ist niedrig und es besteht ein Trend zur Informationsüberflutung.

Zusammengenommen haben diese einen Kontext geschaffen, in dem hetzerische und sensationelle Inhalte in einer noch nie dagewesenen Weise wuchern.

Da Desinformation tendenziell parteiisch, provokativ und spaltend ist, gedeiht sie in diesem Umfeld. Mark Zuckerberg selbst gab zu, dass Lügen mehr Aufmerksamkeit erregen als sachlich korrekte Inhalte.

Die Natur der sozialen Medien als fruchtbarer Boden für Desinformation hat jedoch noch mehr zu bieten als nur die inhärenten Bedingungen der digitalen Interaktion.

Das Geschäftsmodell der sozialen Medien von Unternehmen belohnt und profitiert von Desinformation. Da Social-Media-Unternehmen Geld verdienen, indem sie ihre Nutzer binden, haben sie ein begründetes Interesse daran, Algorithmen auf die Förderung von Inhalten auszurichten, die bösartige Unterstützung und tiefe Empörung hervorrufen, die Vorurteile der Nutzer bestätigen und Menschen in Echokammern sperren, in denen hetzerische Beiträge eher viral gehen .

Nichts erreicht dies besser als Desinformation. Tatsächlich haben Studien gezeigt, dass die Algorithmen jedes Social-Media-Unternehmens Desinformation gegenüber sachlichen Inhalten bevorzugen.

Überwachungswerbung bleibt schädlich

Dieser Mechanismus, der aus Profitgründen entsteht, ist neben vielen ähnlichen Fällen auch für die jüngste Desinformationskampagne Russlands gegen die deutsche Regierung verantwortlich.

Es sind nicht nur Empfehlungsalgorithmen, die Benutzer auf der Grundlage früherer Online-Aktivitäten und Schlussfolgerungen aus Big Data zu bestimmten Inhalten leiten, mit denen soziale Medien die Anbieter von Desinformation in die Lage versetzen, Gewinne zu erzielen.

Ihr Überwachungswerbemodell – die Praxis der gezielten Werbung auf der Grundlage riesiger Mengen an Informationen, die über Einzelpersonen aus ihren Online-Aktivitäten und persönlichen Daten gesammelt werden – ermöglicht es autoritären Regierungen, sehr spezifische Zielgruppen zu erreichen.

Beispielsweise verdiente Meta mehr als 100.000 US-Dollar, indem es russischen staatsnahen Akteuren erlaubte, im Vorfeld der US-Wahlen 2016 unter anderem afroamerikanische Bevölkerungsgruppen mit Desinformationswerbung ins Visier zu nehmen.

Die Bekämpfung von Desinformation ist grundsätzlich nicht mit dem Geschäftsmodell der sozialen Medien vereinbar. Das Versäumnis der sozialen Medien, Desinformation zu bekämpfen, ist nicht nur ein Ausdruck der technologischen Herausforderung.

Es gibt Lösungen, die jedoch in internen Berichten als „wachstumsfeindlich“ bezeichnet und aufgegeben wurden. In der Tat, wie die Whistleblowerin Frances Haugen enthüllte: „Facebook hat sich wiederholt dafür entschieden, das Online-Engagement zu maximieren, anstatt den Schaden für die Nutzer zu minimieren.“

X ist eine „Jackgrube der Desinformation“

Obwohl es sich hierbei um ein Social-Media-Problem handelt, handelt es sich um ein noch größeres X-Problem.

Schon vor der Machtübernahme durch Elon Musk stellten Wissenschaftler fest, dass Twitter unter allen Social-Media-Plattformen Fehlinformationen und Desinformationen gegenüber sachlichen Inhalten am stärksten verstärkte.

Seit der Übernahme ist X zu einem sicheren Hafen für Desinformation und autoritäre Propaganda geworden.

X hat sich aus dem EU-Verhaltenskodex zur Desinformation zurückgezogen, der darauf abzielt, Profit durch Desinformation zu verhindern. Es wurden Berichte über Desinformationsverbreiter wieder eingeführt und die Moderation reduziert.

Die Plattform hat Verifizierungsausweise an Terroristen und Falschinformations-Superverbreiter verkauft und Labels von staatlich kontrollierten Medien entfernt. Außerdem wurde der Trust and Safety Council aufgelöst.

Musk selbst nutzte sein Konto, um Benutzer auf Profile zu leiten, die Desinformationen verbreiteten und russische Diskussionsthemen verbreiteten.

Wir haben einen kritischen Moment erreicht

Die EU erkennt endlich die Schwere des Problems. Im Dezember eröffnete die Europäische Kommission ein Vertragsverletzungsverfahren gegen X gemäß dem Digital Services Act im Zusammenhang mit der Verbreitung von Hamas-bezogener Propaganda und Desinformation.

Das Verfahren könnte zu Geldstrafen von bis zu 6 % des Jahresumsatzes von X führen.

Der Jungfernflug der DSA ist ein kritischer Moment. Obwohl die EU auf dem richtigen Weg ist, muss sie sicherstellen, dass ihre Maßnahmen kein isolierter Akt politischer Inszenierung bleiben, die auf ein offensichtliches Ziel abzielt, sondern systematisch und rigoros angewendet werden – bei jedem Übertreter und bei jedem Verstoß.

Die Kommission muss sicherstellen, dass das Fehlen einer gesetzlichen Frist für das Verfahren die Durchsetzung nicht auf unbestimmte Zeit verzögert. Sie muss zügig Strafen verhängen und darf nicht zulassen, dass Fälle vor Gericht blockiert werden.

Solange Social-Media-Unternehmen durch die Förderung von Desinformationsoperationen Gewinne erzielen können, werden technische Lösungen nicht ausreichen.

Die EU sollte die Verhängung von Geldstrafen gegen Verstöße entschieden vorantreiben, soweit die Unterstützung von Desinformationsoperationen zu einer verlustbringenden Tätigkeit wird.

Die EU hat begonnen zu erkennen, dass Social-Media-Plattformen nicht nur digitale Stadtplätze, sondern profitorientierte Verbündete der Feinde der Demokratie sind. Es ist höchste Zeit, entsprechend zu handeln.

Domonkos D Kovacs ist akademischer Forscher an der Central European University in Wien und konzentriert sich auf das Zusammenspiel zwischen russischer Informationskriegsführung und rechtsradikalen populistischen Parteien im Westen.

Bei Euronews glauben wir, dass jede Meinung zählt. Kontaktieren Sie uns unter [email protected], um Pitches oder Einsendungen zu senden und an der Diskussion teilzunehmen.