NBC-Nachrichten hat entdeckt dass die Empfehlungsalgorithmen von Pinterest es Pädophilen erleichtern, Boards voller Bilder von minderjährigen Mädchen zu erstellen. Nach einer ersten Suche schlägt Pinterest verwandte Suchen vor, die leicht missbraucht werden können. Die Bilder selbst erhalten manchmal sexuelle Kommentare.
ABC stellt fest, dass es während seiner Untersuchung kein Material zum sexuellen Missbrauch von Kindern (CSAM) gefunden hat. Die Leute, die die gruseligen Boards erstellten, hatten jedoch manchmal Sammlungen mit Pornos, obwohl Pinterest diese Inhalte verboten hatte. Die soziale Seite hatte auch keine direkten Möglichkeiten, Versuche zu melden, Inhalte mit Minderjährigen zu sexualisieren. Obwohl die Richtlinien von Pinterest diese Praxis verbieten, mussten sich die Benutzer auf schlecht passende Meldekategorien (wie „Nacktheit oder Pornografie“) verlassen und hatten nicht die Möglichkeit, ganze Boards zu melden.
Pinterest teilt Engadget mit, dass es diesen Inhalt „sehr ernst“ nimmt und mehrere Maßnahmen ergreift, die helfen könnten. Es wird nächste Woche mit der Einführung einer Board-Berichtsoption beginnen und bald erweiterte Profil-Berichtstools anbieten, die Inhalte im Zusammenhang mit Minderjährigen enthalten. Als Antwort auf ABCLaut Sprecherin Crystal Espinosa plant das Unternehmen auch, seine KI-Moderation (es verwendet auch menschliche Moderatoren) zu verstärken, um einige Straftäter automatisch zu fangen, und wird neue Altersüberprüfungssysteme hinzufügen.
Die Enthüllungen sind zum Teil wegen der aggressiven Haltung von Pinterest zur Moderation im Vergleich zu anderen Plattformen von Bedeutung – es ist eine der wenigen, die Fehlinformationen vollständig verbietet. Gleichzeitig unterstreichen die Ergebnisse Mängel in den Berichtstools und der Empfehlungsmaschine des Unternehmens. Facebook, Instagram und TikTok haben alle Möglichkeiten, Inhalte mit Kindern direkt zu melden.
Es gibt auch politischen Handlungsdruck. Präsident Biden forderte kürzlich den Kongress und Technologiegiganten auf, die Online-Sicherheit von Kindern zu verbessern. Der Justizausschuss des Senats hielt unterdessen eine Anhörung ab, in der diese Aufrufe wiederholt wurden. Pinterest ist nicht in unmittelbarer Gefahr eines behördlichen Durchgreifens (es ist legal, diese Sammlungen zu erstellen), aber es ist auch nicht garantiert, dass es einer Überprüfung entgeht.