Doughty schrieb: „Die Beklagten haben die Social-Media-Unternehmen in einem Ausmaß ‚erheblich ermutigt‘, dass die Entscheidungen (der Unternehmen) als Entscheidungen der Regierung angesehen werden sollten.“
Doughtys Verbot, das nun auf Eis gelegt wird, da das Weiße Haus Berufung einlegt, versucht, die Grenzen akzeptablen Verhaltens für staatliche IRUs festzulegen. Es sieht eine Ausnahme für Beamte vor, die Social-Media-Unternehmen weiterhin über illegale Aktivitäten oder nationale Sicherheitsprobleme informieren dürfen. Emma Llansó, Direktorin des Free Expression Project am Center for Democracy & Technology in Washington, D.C., sagt, dass dies vieles ungeklärt lässt, da die Grenze zwischen durchdachtem Schutz der öffentlichen Sicherheit und unfairer Unterdrückung von Kritikern schmal sein kann.
Auch der neue Ansatz der EU gegenüber IRUs erscheint einigen Aktivisten kompromittiert. Der Digital Services Act (DSA) verlangt von jedem EU-Mitglied, bis Februar eine nationale Regulierungsbehörde zu benennen, die Anträge von Regierungsbehörden, gemeinnützigen Organisationen, Branchenverbänden oder Unternehmen entgegennimmt, die vertrauenswürdige Melder werden möchten, die illegale Inhalte direkt an Meta und andere mittlere bis große Plattformen melden können. Berichte von vertrauenswürdigen Hinweisgebern müssen „unverzüglich“ überprüft werden, andernfalls drohen Geldstrafen von bis zu 6 Prozent des weltweiten Jahresumsatzes eines Unternehmens.
Das Gesetz soll IRU-Anfragen genauer machen, indem eine begrenzte Anzahl vertrauenswürdiger Meldeorganisationen ernannt wird, die über Fachkenntnisse in verschiedenen Bereichen illegaler Inhalte wie rassistischer Hassrede, gefälschter Waren oder Urheberrechtsverletzungen verfügen. Und Organisationen müssen jährlich offenlegen, wie viele Berichte sie an wen eingereicht haben und welche Ergebnisse sie erzielt haben.
Die Offenlegungen werden jedoch erhebliche Lücken aufweisen, da sie nur Anfragen umfassen, die sich auf Inhalte beziehen, die in einem EU-Staat illegal sind. Dadurch können Meldungen über Inhalte, die ausschließlich wegen Verstoßes gegen die Nutzungsbedingungen gemeldet wurden, unentdeckt bleiben. Obwohl Technologieunternehmen nicht dazu verpflichtet sind, Meldungen über Inhalte, die als Regelverstöße gekennzeichnet sind, Vorrang einzuräumen, hindert sie nichts daran, dies zu tun. Und Plattformen können weiterhin mit nicht registrierten vertrauenswürdigen Hinweisgebern zusammenarbeiten und so die obskuren Praktiken von heute beibehalten. Der DSA verlangt von Unternehmen, alle ihre Entscheidungen zur Inhaltsmoderation zu veröffentlichen eine EU-Datenbank ohne „unangemessene Verzögerung“ aber die Identität des Hinweisgebers kann weggelassen werden.
„Die DSA schafft eine neue, parallele Struktur für vertrauenswürdige Flagger, ohne direkt auf die anhaltenden Bedenken tatsächlich bestehender Flagger wie IRUs einzugehen“, sagt Paddy Leerssen, ein Postdoktorand an der Universität Amsterdam, der an einem beteiligt ist Projekt zur fortlaufenden Analyse der DSA.
Zwei EU-Beamte, die an der Durchsetzung des DSA arbeiten, sagen unter der Bedingung, anonym zu bleiben, da sie nicht befugt waren, mit den Medien zu sprechen, und sagen, dass das neue Gesetz sicherstellen soll, dass alle 450 Millionen EU-Bürger von der Möglichkeit vertrauenswürdiger Hinweisgeber profitieren, Schnellmitteilungen an Unternehmen zu senden, die andernfalls möglicherweise nicht mit ihnen zusammenarbeiten würden. Obwohl die neue Bezeichnung „Trusted Flager“ nicht für Regierungsbehörden und Strafverfolgungsbehörden konzipiert wurde, steht der Bewerbung nichts im Wege, und die DSA nennt ausdrücklich Internet-Referral-Einheiten als mögliche Kandidaten.
Menschenrechtsgruppen befürchten, dass eine Beteiligung von Regierungen am Programm „Trusted Flagger“ dazu genutzt werden könnte, legitime Meinungsäußerungen im Rahmen einiger der drakonischeren Gesetze der Union zu unterdrücken, wie etwa Ungarns (derzeit gerichtlich angefochtenes) Verbot der Förderung gleichgeschlechtlicher Beziehungen in Bildungsmaterialien. Eliška Pírková, globale Leiterin für Meinungsfreiheit bei Access Now, sagt, dass es für Technologieunternehmen schwierig sein wird, dem Druck standzuhalten, auch wenn die Koordinatoren der Bundesstaaten vertrauenswürdige Hinweisgeber suspendieren können, die sich als unangemessen verhalten. „Es ist das völlige Fehlen unabhängiger Schutzmaßnahmen“, sagt sie. „Es ist ziemlich besorgniserregend.“
Twitter habe vor ein paar Jahren mindestens einer Menschenrechtsorganisation die Aufnahme in die Meldewarteschlange höchster Priorität verweigert, weil sie zu viele fehlerhafte Meldungen eingereicht habe, sagt der ehemalige Twitter-Mitarbeiter. Aber eine Regierung zu stürzen, könnte sicherlich schwieriger sein. Die ungarische Botschaft in Washington, D.C. reagierte nicht auf eine Bitte um Stellungnahme.
Tamás Berecz, General Manager von INACH, einer globalen Koalition von Nichtregierungsgruppen, die Hass im Internet bekämpfen, sagt, dass einige ihrer 24 EU-Mitgliedstaaten darüber nachdenken, den Status eines offiziellen vertrauenswürdigen Flaggers zu beantragen. Sie haben jedoch Bedenken, unter anderem, ob Koordinatoren in einigen Ländern Anträge von Organisationen genehmigen werden, deren Werte nicht mit denen der Regierung übereinstimmen, wie etwa einer Gruppe, die Hassreden gegen Homosexuelle in einem Land wie Ungarn überwacht, wo gleichgeschlechtliche Ehen verboten sind. „Wir wissen nicht wirklich, was passieren wird“, sagt Berecz und lässt Raum für etwas Optimismus. „Im Moment sind sie glücklich, an einem inoffiziellen, vertrauenswürdigen Programm teilzunehmen.“