Paulita Paupel, die den europäischen Zweig der Free Speech Coalition leitet, sagt, dass die Razzien besorgniserregende Auswirkungen auf die Menschen und ihre Fähigkeit haben, Inhalte online zu teilen. „Menschen fliehen aus dem Land“, sagt Paupel. „Die meisten großen Ersteller von Inhalten haben ihren Wohnsitz bereits in andere europäische Länder verlegt, hauptsächlich nach Österreich, in die Schweiz und nach Zypern.“ Andere haben ihre Marketingstrategien geändert, um Twitter zu vermeiden (was sich darauf auswirkt, wie viel Geld sie verdienen können), und Menschen, die neu in der Branche sind, könnten davon abgehalten werden, eine Karriere zu beginnen, sagt Paupel. „Dies betrifft vor allem LGBTQI+- und BIPOC-Ersteller.“
Das Internet ist natürlich voll von Pornos – von Reddit, Snapchat und Twitter bis OnlyFans, PornHub und xVideos – mit Millionen von Menschen auf der ganzen Welt, die in der Branche tätig sind. Weltweit ist es ein großes Geschäft, das jedes Jahr Milliarden von Dollar erwirtschaftet. Während überall auf der Welt hart gegen Pornografie vorgegangen wird, scheint Deutschland in der westlichen Welt eine besonders starke Marke der Durchsetzung zu haben, obwohl es so ist einer der größten Konsumenten von Pornografie.
„Deutschland war am aggressivsten bei der Unterdrückung von Reden“, sagt Mike Stabile, ein Sprecher der in den USA ansässigen Free Speech Coalition. „Ich denke, dass Deutschland in seiner Verfolgung am aggressivsten war, sowohl in Bezug auf den Geltungsbereich seiner Gesetze als auch in Bezug auf die Durchsetzung.“
KI-Überwachung
Seit 2019 entwickeln und nutzen die deutschen Medienaufsichtsbehörden ein KI-System, um Online-Inhalte zu erkennen, die möglicherweise gegen die Gesetze des Landes verstoßen. Das System der künstlichen Intelligenz namens KIVI wurde von der Landesanstalt für Medien Nordrhein-Westfalen zusammen mit a entwickelt Berliner Privatunternehmenund wird mittlerweile von allen Medienanstalten deutschlandweit genutzt.
KIVI soll in der Lage sein, öffentliche Posts in sieben sozialen Medien und Messaging-Apps – darunter Twitter, YouTube, TikTok, Telegram und VK (Russlands Version von Facebook) – sowie Websites im offenen Internet zu scannen. Metas Facebook und Instagram, die Nacktheit verbieten, werden derzeit nicht gescannt. Nach Angaben des Landes Nordrhein-Westfalen Beschreibung des Werkzeugs, kann es 10.000 Seiten pro Tag prüfen. Kurz nachdem die Behörde mit der Verwendung von KIVI begonnen hatte, hieß es, die Erkennungen der Behörde seien „in die Höhe geschossen“.
Der Sprecher der Landesmedienanstalt Nordrhein-Westfalen sagt, dass die Behörde seit 2021 fast 5.000 „Verstöße“ festgestellt habe. Das System sucht nach problematischen Inhalten, indem es nach vorgegebenen deutschen Schlüsselwörtern und Links sucht, und verwendet nach Angaben der Behörde eine Kombination aus Bilderkennung und Texterkennung, um „positive“ Ergebnisse zu erkennen.
Ella Jakubowska, leitende Politikberaterin bei der gemeinnützigen Bürgerrechtsorganisation European Digital Rights (EDRi), sagt, dass die Menschenrechte der Menschen gefährdet sind, wenn Big-Tech-Unternehmen oder Regierungen die Moderation von Inhalten übernehmen. „Aber die Idee, dass staatliche Stellen kontrollieren, was wir online sehen und was nicht, scheint an sich schon sehr besorgniserregend“, sagt Jakubowska.
KIVI sucht nach mehreren Arten von Inhalten, darunter politischer Extremismus und Holocaustleugnung, Gewalt und Pornografie. Ganz oben auf der Liste stehen jedoch Porno-„Verstöße“, mit 1.944 gemeldeten Vorfällen in den vergangenen zwei Jahren, so die Zahlen der Landesmedienanstalt Nordrhein-Westfalen. Der Sprecher sagt, das System kennzeichne mögliche Gesetzesverstöße, und menschliche Ermittler prüfen dann die Ergebnisse und entscheiden, ob Maßnahmen ergriffen werden sollten. „KIVI schützt Mitarbeiter davor, plötzlich und unerwartet belastenden Inhalten ausgesetzt zu werden“, sagt Plass von der Berliner Behörde.