Von Prof. Carmela Troncoso, SPRING Lab, und Prof. Bart Preneel, COSIC
Das Versäumnis der Kommissarin, auf die von uns angesprochenen Fragen eine Antwort zu geben, zeigt, dass sie weiß, dass die Verordnung der Europäischen Kommission zu Material über sexuellen Missbrauch von Kindern keinen Erfolg haben kann. Stattdessen antwortet der Beitrag auf Aussagen, die wir nie gemacht haben, schreiben Carmela Troncoso und Bart Preneel.
Am 4. Juli haben wir einen offenen Brief veröffentlicht, in dem wir die vorgeschlagene Verordnung der Europäischen Kommission zur Erkennung von Material über sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) kritisieren.
Dieser Brief wurde ursprünglich von mehr als 300 führenden Wissenschaftlern aus 32 Ländern unterzeichnet; Mittlerweile hat es mehr als 450 Unterzeichner.
Letzte Woche: EU-Innenkommissarin Ylva Johansson eine Antwort herausgegeben.
Diese Antwort geht nicht auf die in dem Brief aufgeworfenen Probleme ein, sondern greift stattdessen Strohmänner an.
Die Technologie ist einfach noch nicht da
In der Antwort wird darauf hingewiesen, dass der Vorschlag selbstverständlich keine konkrete Technologie vorschreibt.
Um den Anforderungen der Verordnung gerecht zu werden, ist jedoch eine spezifische technologische Lösung erforderlich.
Derzeit gibt es jedoch keine Technologie, die neue CSAM-Inhalte oder -Grooming zuverlässig erkennen kann. Darüber hinaus gehen Wissenschaftler davon aus, dass eine solche Technologie in den nächsten Jahrzehnten nicht realisierbar sein wird.
KI-basierte Erkennungstechniken werden immer zu einer großen Anzahl falsch positiver Ergebnisse führen, mit schwerwiegenden Folgen für Online-Dienste und für unschuldige Bürger, die in diese Falle geraten.
Im Wettrüsten um die Entwicklung solcher Erkennungstechnologien werden die Bösen gewinnen: Wissenschaftler haben wiederholt gezeigt, dass es leicht ist, sich der Entdeckung zu entziehen und unschuldigen Bürgern etwas anzuhängen. Die Antwort von Kommissar Johansson ignoriert dieses Problem.
In der Antwort heißt es, dass wir die Erkennung von CSAM als „eine neue Situation“ bezeichnen. Dabei wird in der Antwort außer Acht gelassen, dass aktuelle Erkennungstechnologien bekannter CSAM-Inhalte nur aufgrund der fehlenden Ende-zu-Ende-Verschlüsselung einiger Dienste funktionieren.
Somit würde der Verordnungsvorschlag tatsächlich eine neue Situation schaffen, in der Diensteanbieter entweder die Ende-zu-Ende-Verschlüsselung deaktivieren oder eine obligatorische clientseitige Überprüfung aktivieren müssten.
Jede dieser Lösungen würde die Gesellschaft als Ganzes anfälliger für organisierte Kriminalität und feindselige Nationalstaaten machen und die Sicherheit erheblich gefährden.
Wir machen uns dem Missbrauch aus
In der Antwort von Kommissar Johansson heißt es, dass das Scannen nur zur Identifizierung von CSAM eingesetzt wird.
Doch obwohl wir bereit sind, ihren guten Absichten zu glauben, gibt es in der Geschichte zahlreiche Beispiele dafür, dass solche Befugnisse unweigerlich ausgeweitet werden.
Es ist klar, dass die Strafverfolgungsbehörden nach der Genehmigung dieses Vorschlags verlangen werden, die Aufdeckung von Terrorismus und organisierter Kriminalität hinzuzufügen.
In der Zwischenzeit werden weniger demokratische Regierungen sofort darauf bestehen, dass dieselbe Technologie eingesetzt wird, um kritische Inhalte gegenüber ihren Regimen zu erkennen.
Aus Gründen der Verhältnismäßigkeit muss die Europäische Kommission bei der Einführung solcher Überwachungstechnologien Funktionsausweitung und Missbrauch sowohl innerhalb als auch außerhalb der EU berücksichtigen – bisher hat sie dies jedoch nicht getan.
In der Antwort von Kommissar Johansson wird auch fälschlicherweise behauptet, dass sich unser Brief nur auf den Missbrauch von Teenagern konzentriert und den Missbrauch jüngerer Kinder außer Acht lässt.
Das ist nicht wahr, aber unser Brief weist darauf hin, dass experimentierfreudige Teenager einem hohen Risiko ausgesetzt sind, als unschuldige Zuschauer in die CSAM-Fahndungsnetze zu geraten, die die Kommission einzuführen plant. Kommissar Johansson ignoriert dieses Problem.
Scheintechnologien sind kein Ersatz für harte Arbeit
Abschließend heißt es in der Antwort der Europäischen Kommission, dass „Anbieter sexuellen Missbrauch von Kindern in ihren Diensten verhindern müssen“.
Entweder versteht die Kommissarin nicht, wie Technologie funktioniert, oder sie stellt eine Behauptung auf, von der sie weiß, dass sie falsch ist.
Sexueller Kindesmissbrauch kommt in der realen Welt vor; Online-Dienste dienen lediglich der Verbreitung des Materials.
Wir fordern, wirksame Maßnahmen zu ergreifen, um den Missbrauch von Kindern von vornherein zu verhindern – eine Lösung, die harte Arbeit und Investitionen in soziale Dienste und eine widerstandsfähige Gesellschaft erfordert.
Stattdessen wiederholt die Europäische Kommission ihre Forderung nach einer Verordnung, die illusorische Technologien postuliert, die stattdessen schädlich für die Gesellschaft sind – einschließlich der Kinder, die wir alle schützen wollen.
Das Versäumnis von Kommissar Johansson, auf die von uns angesprochenen Fragen eine Antwort zu geben, zeigt, dass der Kommissar weiß, dass die Verordnung der Europäischen Kommission keinen Erfolg haben kann. Stattdessen reagiert der Beitrag auf Aussagen, die wir nie gemacht haben.
Es ist an der Zeit, diesen Vorsatz aufzugeben.
Carmela Troncoso ist außerordentliche Professorin an der EPFL und Leiterin des SPRING Lab, und Bart Preneel ist ordentliche Professorin an der Universität Leuven und Leiter der COSIC-Gruppe.
Bei Euronews glauben wir, dass jede Meinung zählt. Kontaktieren Sie uns unter [email protected], um Pitches oder Einsendungen zu senden und an der Diskussion teilzunehmen.