Die Facebook-Muttergesellschaft Meta sagt, dass ihre Regeln darüber, welche Inhalte auf ihrer Plattform erlaubt sind und welche nicht, wie Hassreden und Belästigung, für alle gelten.
Aber ein Gremium, das mit der Überprüfung einiger der schwierigsten Entscheidungen zur Inhaltsmoderation von Meta beauftragt war, sagte am Dienstag, dass die Behauptung des Social-Media-Giganten „irreführend“ sei.
Im Jahr 2021 bat Meta das Oversight Board, ein Programm namens Cross Check zu prüfen, das es Prominenten, Politikern und anderen hochkarätigen Nutzern auf Facebook und Instagram ermöglicht, eine zusätzliche Überprüfung zu erhalten, wenn ihre Inhalte wegen Verstoßes gegen die Regeln der Plattform gemeldet werden. Das Wall Street Journal enthüllte letztes Jahr weitere Details über das Programm und stellte fest, dass das System Millionen von hochkarätigen Benutzern davon abschirmt, wie Facebook normalerweise seine Regeln durchsetzt. Der brasilianische Fußballstar Neymar zum Beispiel konnte Nacktfotos einer Frau, die ihn der Vergewaltigung beschuldigte, mit zig Millionen seiner Fans teilen, bevor Facebook den Inhalt zurückzog.
In einem 57-seitiges Grundsatzgutachten In Bezug auf das Programm identifizierte das Oversight Board mehrere Fehler im Cross-Check-Programm von Meta, darunter, dass es einigen hochkarätigen Benutzern mehr Schutz bietet. Die Stellungnahme wirft auch Fragen darüber auf, ob das Programm von Meta wie beabsichtigt funktioniert.
„Das Gutachten beschreibt detailliert, wie das Cross-Check-Programm von Meta einflussreichen und mächtigen Benutzern mit kommerziellem Wert für Meta Priorität einräumt und in seiner Struktur Metas menschenrechtlichen Verantwortlichkeiten und Unternehmenswerten nicht gerecht wird, mit tiefgreifenden Auswirkungen auf Benutzer und die globale Zivilgesellschaft“, Thomas Hughes, Direktor des Aufsichtsbehörde, sagte in einer Erklärung.
Folgendes müssen Sie über das Cross-Check-Programm von Meta wissen:
Warum hat Meta dieses Programm erstellt?
Laut Meta soll das Cross-Check-Programm verhindern, dass das Unternehmen fälschlicherweise gegen Inhalte vorgeht, die nicht gegen seine Regeln verstoßen, insbesondere in Fällen, in denen ein höheres Fehlerrisiko besteht.
Das Gesellschaft hat gesagt, dass es dieses Programm auf Beiträge von Medien, Prominenten oder Regierungen angewendet hat. „Zum Beispiel haben wir das Konto eines amerikanischen Bürgerrechtlers gegengeprüft, um zu vermeiden, dass er versehentlich Fälle löscht, in denen er auf Hassreden aufmerksam macht, denen er begegnet ist“, sagte Meta in a Blogeintrag im Jahr 2018.
Das Unternehmen stellt auch weitere Einzelheiten darüber bereit, wie das Programm in seinem funktioniert Transparenzzentrum.
Welche Probleme hat der Vorstand festgestellt?
Der Vorstand kam zu dem Schluss, dass das Programm zu einer „Ungleichbehandlung von Nutzern“ führt, da Inhalte, die für eine zusätzliche Überprüfung durch einen Menschen gekennzeichnet sind, länger auf der Plattform verbleiben. Meta sagte dem Vorstand, dass das Unternehmen mehr als fünf Tage brauchen kann, um eine Entscheidung über Inhalte von Benutzern zu treffen, die Teil der Gegenprüfung sind.
„Das bedeutet, dass Inhalte, die als gegen Metas Regeln verstoßend identifiziert wurden, aufgrund von Cross-Checks auf Facebook und Instagram zurückgelassen werden, wenn sie am viralsten sind und Schaden anrichten könnten“, heißt es in der Stellungnahme.
Laut dem Gutachten scheint das Programm auch den Geschäftsinteressen von Meta mehr zu nützen als seinem Engagement für die Menschenrechte. Der Vorstand wies auf Transparenzprobleme mit dem Programm hin. Meta teilt der Öffentlichkeit nicht mit, wer auf seiner Gegenprüfliste steht, und verfolgt keine Daten darüber, ob das Programm dem Unternehmen tatsächlich hilft, genauere Entscheidungen zur Moderation von Inhalten zu treffen.
Der Vorstand stellte Meta 74 Fragen zum Programm. Meta beantwortete 58 der Fragen vollständig und 11 teilweise. Fünf Fragen beantwortete das Unternehmen nicht.
Welche Änderungen hat der Vorstand Meta empfohlen?
Der Vorstand gab 32 Empfehlungen an Meta ab und stellte fest, dass es Inhalte priorisieren sollte, die für die Menschenrechte wichtig sind, und diese Benutzer in einem separaten Arbeitsablauf von seinen Geschäftspartnern überprüfen sollte. Die Follower-Zahlen oder der Prominentenstatus eines Benutzers sollten nicht der einzige Faktor für den Erhalt von zusätzlichem Schutz sein.
Meta sollte auch sehr schwerwiegende Inhalte entfernen oder verbergen, die während der ersten Überprüfung wegen Verstoßes gegen ihre Regeln gekennzeichnet wurden, während Moderatoren einen zweiten Blick auf den Beitrag werfen.
„Solche Inhalte sollten nicht auf der Plattform verbleiben und Aufrufe generieren, nur weil die Person, die sie gepostet hat, ein Geschäftspartner oder eine Berühmtheit ist“, heißt es in der Stellungnahme.
Der Vorstand möchte auch, dass Meta transparenter in Bezug auf das Programm ist, indem einige Konten, die durch Gegenprüfungen geschützt sind, wie staatliche Akteure, politische Kandidaten und Geschäftspartner, öffentlich gekennzeichnet werden, damit die Öffentlichkeit sie dafür zur Rechenschaft ziehen kann, ob sie die Regeln der Plattform befolgen. Benutzer sollten auch in der Lage sein, gegen überprüfte Inhalte beim Board Einspruch einzulegen.
Wie hat Meta auf die Meinung des Vorstands reagiert?
Das Unternehmen sagte, es prüfe die Stellungnahme des Vorstands und werde innerhalb von 90 Tagen antworten.
Meta sagte, dass es im vergangenen Jahr daran gearbeitet hat, das Programm zu verbessern, wie z. B. die Ausweitung von Gegenprüfungen auf alle 3 Milliarden Benutzer. Das Unternehmen sagte, es verwende einen Algorithmus, um festzustellen, ob Inhalte ein höheres Risiko haben, versehentlich heruntergezogen zu werden. Meta bemerkte auch, dass es jährliche Überprüfungen eingeführt hat, um zu prüfen, wer eine zusätzliche Überprüfungsebene erhält.