Instagram ist alles andere als ein glänzendes Beispiel für den Schutz junger Menschen im Internet, da es seinem Algorithmus nicht gelungen ist, Material über sexuellen Kindesmissbrauch zu bewerben. Aber neue Features wecken (zumindest ein wenig?) Hoffnung, dass die Plattform etwas sicherer werden könnte. Meta kündigte die Einführung neuer Tools an soll Benutzer vor dem Missbrauch intimer Bilder und Sextortion schützen – wenn eine Person unter der Androhung, vertrauliche Medien weiterzugeben, digital erpresst wird.
Eine der wichtigsten Neuerungen ist die Einführung des Nacktheitsschutzes für private Nachrichten. Meta bestätigte erstmals, dass es diese Technologie im Jahr 2022 entwickelt, und wird das Tool automatisch für Benutzer unter 18 Jahren aktivieren. Sobald es aktiviert ist, erkennt und verwischt ein maschinelles Lerntool Bilder, von denen es vermutet, dass sie Nacktheit für den Empfänger enthalten. Die Analyse erfolgt auf dem Gerät des Benutzers, daher sollten Nachrichten Ende-zu-Ende-verschlüsselt bleiben, ohne dass Meta jemals Zugriff darauf hat. Benutzer haben die Möglichkeit, das Bild zusammen mit einer Pop-up-Nachricht von Meta anzuzeigen, die darauf hinweist, dass sie sich nicht unter Druck gesetzt fühlen sollten, zu antworten, zusammen mit einer Sicherheitstipps-Schaltfläche und einer Option zum Blockieren des Absenders.
Das neue Tool von Meta, das „bald“ getestet wird, erkennt auch, ob eine Person ein Nacktbild sendet, warnt sie, „bei der Weitergabe sensibler Fotos vorsichtig zu sein“ und weist auf potenzielle Risiken hin. Außerdem werden Benutzer daran erinnert, dass sie eine Nachricht löschen können, bevor sie jemand sieht. Dann gibt es noch die letzte Warnung: Eine Erinnerung an verantwortungsvolles und respektvolles Verhalten erscheint, wenn jemand versucht, eine Nachricht mit erkannter Nacktheit weiterzuleiten (obwohl das Bild trotzdem weitergeleitet werden kann).
Dann gibt es noch die Tools, die darauf ausgelegt sind, potenzielle Betrüger oder Sextortionisten zu erkennen und ihnen den Zugang zu Teenagern zu erschweren. Nachrichtenanfragen dieser möglichen böswilligen Akteure sollten nun an versteckte Anfragen weitergeleitet werden, und jeder, der bereits an einer Konversation beteiligt ist, erhält eine Warnung mit Grenzerinnerungen und Schritten zum Melden von Benutzern. Was junge Menschen anbelangt, hat Meta zuvor Personen unter 16 Jahren den Nachrichtenaustausch mit Benutzern untersagt, die nicht miteinander verbunden waren – selbst wenn das andere Konto angab, gleich alt zu sein. Nun sehen diese potenziellen Betrüger keine Möglichkeit, einem Teenager eine Nachricht zu senden, selbst wenn sie einander folgen.