„Sobald Sie dieses Foto gesendet haben, können Sie es nicht mehr zurücknehmen“, lautet die Warnung an Teenager, die oft die Realität ignoriert, dass viele Teenager unter Zwang explizite Bilder von sich selbst senden, oder ohne die Konsequenzen zu verstehen.
Ein neues Online-Tool zielt darauf ab, Teenagern oder Menschen, die einst Teenager waren, eine gewisse Kontrolle zurückzugeben und explizite Bilder und Videos von sich selbst aus dem Internet zu entfernen.
Genannt Nimm es runterwird das Tool vom National Center for Missing and Exploited Children betrieben und teilweise von Meta Platforms, dem Eigentümer von Facebook und Instagram, finanziert.
Auf der Website kann jeder anonym – und ohne tatsächliche Bilder hochzuladen – einen digitalen Fingerabdruck des Bildes erstellen. Dieser Fingerabdruck (ein eindeutiger Zahlensatz, der als „Hash“ bezeichnet wird) geht dann in eine Datenbank und die Technologieunternehmen, die sich bereit erklärt haben, an dem Projekt teilzunehmen, entfernen die Bilder aus ihren Diensten.
Nun, die Vorbehalte. Die teilnehmenden Plattformen sind seit Montag Metas Facebook und Instagram, Yubo, OnlyFans und Pornhub, die Mindgeek gehören. Wenn sich das Bild auf einer anderen Website befindet oder auf einer verschlüsselten Plattform wie WhatsApp gesendet wird, wird es nicht entfernt.
Wenn jemand das Originalbild verändert – zum Beispiel zuschneidet, ein Emoji hinzufügt oder es in ein Meme verwandelt – wird es zu einem neuen Bild und benötigt daher einen neuen Hash. Bilder, die optisch ähnlich sind – wie das gleiche Foto mit und ohne Instagram-Filter – haben ähnliche Hashes, die sich nur in einem Zeichen unterscheiden.
„Take It Down ist speziell für Leute gemacht, die ein Bild haben, von dem sie Grund zu der Annahme haben, dass es bereits irgendwo im Internet verbreitet ist oder sein könnte“, sagte Gavin Portnoy, ein Sprecher des NCMEC. „Du bist ein Teenager, gehst mit jemandem aus und teilst das Bild. Oder jemand hat Sie erpresst und gesagt: ‚Wenn Sie mir kein Bild oder ein anderes Bild von Ihnen geben, mache ich X, Y, Z.’“
Portnoy sagte, Teenager könnten sich wohler fühlen, wenn sie eine Website besuchen, als die Strafverfolgungsbehörden einzubeziehen, die nicht anonym wären.
„Für einen Teenager, der dieses Maß an Beteiligung nicht will, will er nur wissen, dass es heruntergefahren ist, das ist eine große Sache für ihn“, sagte er. NCMEC verzeichnet eine Zunahme von Berichten über die Online-Ausbeutung von Kindern. Die gemeinnützigen Cyber-Tippline erhielt 29,3 Millionen Meldungen im Jahr 2021, 35 % mehr als 2020.
Meta, als es noch Facebook war, versuchte 2017, ein ähnliches Tool zu entwickeln, allerdings für Erwachsene. Es kam nicht gut an, weil die Seite die Leute aufforderte, ihre (verschlüsselten) Akte an Facebook zu senden – nicht sogar 2017 das vertrauenswürdigste Unternehmen. Das Unternehmen testete den Service für kurze Zeit in Australien, weitete ihn aber nicht auf andere Länder aus.
Aber in dieser Zeit ist die sexuelle Erpressung und Ausbeutung im Internet nur noch schlimmer geworden, sowohl für Kinder und Jugendliche als auch für Erwachsene. Viele Technologieunternehmen verwenden dieses Hash-System bereits, um Bilder von sexuellem Missbrauch von Kindern zu teilen, zu entfernen und den Strafverfolgungsbehörden zu melden. Portnoy sagte, das Ziel sei es, mehr Unternehmen dazu zu bringen, sich anzumelden.
„Bei uns hat noch nie jemand nein gesagt“, sagt er.
Twitter und TikTok haben sich bisher nicht zu dem Projekt verpflichtet. Keines der beiden Unternehmen reagiert am Sonntag sofort auf eine Nachricht zur Stellungnahme.
Antigone Davis, Global Head of Safety bei Meta, sagte, Take It Down sei eines von vielen Tools, die das Unternehmen einsetze, um Kindesmissbrauch und -ausbeutung auf seinen Plattformen zu bekämpfen.
„Neben der Unterstützung der Entwicklung dieses Tools und dem Melden und Blockieren von Systemen auf unserer Plattform unternehmen wir auch eine Reihe verschiedener Dinge, um zu verhindern, dass solche Situationen überhaupt auftreten. So erlauben wir zum Beispiel nicht verbundenen Erwachsenen, Minderjährigen Nachrichten zu senden“, sagte sie.
Die Seite arbeitet sowohl mit echten als auch mit künstlicher Intelligenz generierten Bildern und „Deepfakes“, sagte Davis. Deepfakes werden erstellt, um wie echte, tatsächliche Menschen auszusehen, die Dinge sagen oder tun, die sie nicht wirklich getan haben.