New Mexico ist die jüngste Gerichtsbarkeit, die vorwirft, es versäumt zu haben, jüngere Benutzer zu schützen. Die Generalstaatsanwaltschaft des Bundesstaats reichte diese Woche Klage gegen das Unternehmen ein, nachdem Ermittler Testkonten eingerichtet hatten, auf denen sie behaupteten, Jugendliche oder Teenager zu sein. Für die Konten nutzten sie KI-generierte Profilfotos. Das Büro des AG behauptet, dass die Konten durch explizite Nachrichten und Bilder sowie sexuelle Vorschläge von Benutzern blockiert wurden. Es wurde auch behauptet, dass die Algorithmen von Meta den Testkonten sexuelle Inhalte empfohlen hätten.
In der Klage wird behauptet, dass „Meta es Facebook und Instagram ermöglicht hat, zu einem Marktplatz für Raubtiere auf der Suche nach Kindern zu werden, die sie ausbeuten können“, heißt es . Darüber hinaus wird behauptet, Meta habe es versäumt, Maßnahmen zu ergreifen, um Personen unter 13 Jahren von der Nutzung seiner Plattformen abzuhalten, und CEO Mark Zuckerberg sei persönlich für Produktentscheidungen verantwortlich, die das Risiko für Kinder erhöht hätten.
Um die Altersbeschränkungen von Meta zu umgehen, stellten die Ermittler dem Unternehmen Geburtsdaten von Erwachsenen zur Verfügung und richteten gleichzeitig gefälschte Konten für vier Kinder ein (Kinder erhalten häufig Zugang zu Online-Diensten, die ihnen eigentlich nicht zugänglich sind). Sie deuteten jedoch an, dass die Konten von Kindern genutzt wurden – einer postete über den Verlust eines Milchzahns und den Beginn der siebten Klasse. Gemäß der Klage haben die Ermittler das Konto auch so eingerichtet, dass es den Anschein erweckt, als würde die Mutter des fiktiven Kindes möglicherweise mit ihr handeln.
In der Klage wird unter anderem behauptet, dass den Konten unter anderem Bilder von Kindersex und Angebote zur Bezahlung von Sex zugesandt worden seien. Zwei Tage nachdem die Ermittler ein Konto für ein gefälschtes 13-jähriges Mädchen eingerichtet hatten, deuteten die Algorithmen von Meta darauf hin, dass es einem Facebook-Konto mit über 119.000 Followern folgte, das Pornos für Erwachsene postete.
Die Ermittler meldeten über die Meldesysteme von Meta unangemessenes Material (einschließlich einiger Bilder, die offenbar nackte und minderjährige Mädchen zeigten). Der Klage zufolge befanden die Systeme von Meta diese Bilder häufig auf ihren Plattformen für zulässig.
In einer Stellungnahme zum Tagebuch, Meta gab an, dass es der Sicherheit von Kindern Priorität einräumt und stark in Sicherheitsteams investiert. „Wir nutzen hochentwickelte Technologie, stellen Kindersicherheitsexperten ein, melden Inhalte an das National Center for Missing and Exploited Children und teilen Informationen und Tools mit anderen Unternehmen und Strafverfolgungsbehörden, einschließlich der Generalstaatsanwälte, um bei der Ausrottung von Raubtieren zu helfen“, sagte das Unternehmen . Meta hat außerdem behauptet, dass es daran arbeitet, böswillige Erwachsene daran zu hindern, Kinder auf seinen Plattformen zu kontaktieren.
Anfang dieses Jahres ging Meta gegen Kindersicherheitsprobleme vor, nachdem Berichten zufolge die Algorithmen von Instagram Konten dabei geholfen hatten, einander zu finden, die minderjähriges Sexmaterial in Auftrag gegeben und gekauft hatten. Erst letzte Woche, die Tagebuch die angebliche Verbreitung von Material zur Ausbeutung von Kindern auf Instagram und Facebook. Nach Angaben des kanadischen Zentrums für Kinderschutz hat ein „Netzwerk von Instagram-Konten mit jeweils bis zu 10 Millionen Followern auch Monate, nachdem sie dem Unternehmen gemeldet wurden, weiterhin Videos von sexuellem Kindesmissbrauch per Livestream übertragen.“ Meta sagt, es habe dagegen Maßnahmen ergriffen Probleme.
Die Klage in New Mexico folgt auf Klagen einer Gruppe von 41 Bundesstaaten und des District of Columbia. Sie behaupteten unter anderem, dass das Unternehmen wisse, dass seine „süchtig machenden“ Aspekte für junge Nutzer schädlich seien, und dass es die Menschen über die Sicherheit auf seinen Plattformen in die Irre geführt habe.