Um unsere Rechte zu schützen, muss das EU-KI-Gesetz rechtsstaatliche Garantien enthalten

Das EU-Gesetz über künstliche Intelligenz – der weltweit erste umfassende Rechtsrahmen für KI – befindet sich in der Endphase der Verhandlungen, bevor es in Kraft tritt.

Jetzt, wo die letzten Details geklärt werden, muss der europäische Gesetzgeber die Chance nutzen, die Menschenrechte zu schützen und den Einsatz künstlicher Intelligenz streng zu regeln.

Entscheidend ist jedoch, dass in der Debatte um das KI-Gesetz ein zentrales Merkmal nicht ausreichend berücksichtigt wurde: Das Gesetz muss eine klar definierte Verbindung zwischen künstlicher Intelligenz und Rechtsstaatlichkeit herstellen.

Während die Aufnahme von Menschenrechtsgarantien in das Gesetz ausführlich diskutiert wurde, ist die Herstellung einer Verbindung zur Rechtsstaatlichkeit ebenso wichtig.

Demokratie, Menschenrechte und Rechtsstaatlichkeit sind miteinander verbundene, aber dennoch individuelle Konzepte, die voneinander abhängig sind und nicht getrennt werden können, ohne der Gesellschaft Schaden zuzufügen.

Eine Chance, den Rechtsstaat in Europa zu stärken

Der Grundsatz der Rechtsstaatlichkeit ist für die EU von grundlegender Bedeutung. Sie ist eine Voraussetzung für die Verwirklichung anderer Grundwerte und für die Wahrnehmung der Menschenrechte.

Obwohl die Rechtsstaatlichkeit bekanntermaßen schwer zu definieren ist, umfasst sie dennoch eine Reihe von Werten, die für eine demokratische Gesellschaft unverzichtbar sind: ein transparenter und pluralistischer Gesetzgebungsprozess; die Gewaltenteilung und Checks and Balances; unabhängige, unparteiische Gerichte und die Möglichkeit, darauf zuzugreifen; und Nichtdiskriminierung und Gleichheit vor dem Gesetz.

Angesichts der zunehmenden Integration von KI sowohl in den privaten als auch in den öffentlichen Sektor brauchen wir robuste Schutzmaßnahmen, um das Fundament zu schützen, auf dem unsere Union steht: Der Missbrauch von KI-Systemen stellt eine erhebliche Bedrohung für Rechtsstaatlichkeit und Demokratie dar.

In Mitgliedsstaaten, in denen diese ins Wanken geraten, könnten Regulierungslücken ausgenutzt werden, um demokratische Institutionen und Prozesse sowie die Rechtsstaatlichkeit zu schwächen.

Das KI-Gesetz ist eine Gelegenheit, ein robustes, sicheres Regulierungsumfeld zu schaffen, das auf Grundrechten – und rechtsstaatlichen Standards und Schutzmaßnahmen – basiert.

Angemessene Aufsicht über die in Justizsystemen eingesetzte KI

Im Mittelpunkt dieser Schutzmaßnahmen steht die Einbeziehung verbindlicher Folgenabschätzungen zu Grundrechten.

Sie sind in der Fassung des KI-Gesetzes des Europäischen Parlaments enthalten und müssen unbedingt in den endgültigen Text des Gesetzes aufgenommen werden.

Diese Folgenabschätzungen zu Grundrechten sind von entscheidender Bedeutung, um sicherzustellen, dass KI-Technologien und ihr Einsatz die Grundsätze der Gerechtigkeit, Rechenschaftspflicht und Fairness wahren.

Aber darüber hinaus sollten den Folgenabschätzungen auch rechtsstaatliche Standards hinzugefügt werden, mit einem strukturierten Rahmen zur Bewertung der potenziellen Risiken, Vorurteile und unbeabsichtigten Folgen des KI-Einsatzes.

Sie können über die bloße Identifizierung potenzieller Risiken hinaus Abhilfestrategien, regelmäßige Überprüfungen und Aktualisierungen umfassen.

Dies ermöglicht es auch, Rechtsstaatsverstöße, die sich aus dem Einsatz von KI ergeben, mit allen der EU zur Verfügung stehenden Mitteln anzugehen – beispielsweise wenn sie in Strafjustizsystemen auftreten, in denen viele KI verwenden, um automatisierte Entscheidungsprozesse einzudämmen die Belastung und der Zeitdruck der Richter.

Um jedoch die Unabhängigkeit der Justiz, das Recht auf ein faires Verfahren und Transparenz zu gewährleisten, muss die in Justizsystemen eingesetzte KI einer ordnungsgemäßen Aufsicht unterliegen und im Einklang mit der Rechtsstaatlichkeit stehen.

Risiken von Profiling und rechtswidriger Überwachung

Wichtig ist, dass der Gesetzgeber im KI-Gesetz den Grundstein für einen angemessenen Schutz der Rechtsstaatlichkeit legt, indem er eine pauschale Ausnahmeregelung für die nationale Sicherheit weglässt.

KI-Systeme, die für Zwecke der nationalen Sicherheit entwickelt oder genutzt werden, müssen in den Geltungsbereich des Gesetzes fallen; andernfalls könnte ein Mitgliedsstaat sie ohne Weiteres nutzen – beispielsweise zur öffentlichen Überwachung oder zur Analyse menschlichen Verhaltens –, indem er sich einfach auf die Ausnahmeregelung für die nationale Sicherheit beruft.

Der Pegasus-Spyware-Skandal, bei dem Journalisten, Menschenrechtsaktivisten und Politiker von ihren eigenen Regierungen überwacht wurden, zeigt die eindeutige Notwendigkeit, sicherzustellen, dass Systeme, die für Zwecke der nationalen Sicherheit entwickelt oder verwendet werden, nicht vom Anwendungsbereich des KI-Gesetzes ausgenommen sind.

Darüber hinaus kann nationale Sicherheit je nach den Gesetzen der Mitgliedstaaten in der gesamten EU unterschiedliche Bedeutungen haben.

Eine Profilierung der Bürger auf der Grundlage der Interessen nationaler Regierungen würde zu Ungleichheit in der gesamten EU führen und eine gleichermaßen große Gefahr für die Rechtsstaatlichkeit und die Grundrechte darstellen.

Keine pauschalen Ausnahmen

Angesichts der bevorstehenden Wahlen zum polnischen und zum Europäischen Parlament besteht kein Zweifel daran, dass KI eingesetzt werden kann und wird, um Einzelpersonen mit personalisierten Nachrichten anzusprechen, einschließlich der Verbreitung von Desinformation, mit dem Potenzial, ansonsten faire Wahlen zu verzerren.

Andererseits werden KI-Tools zur Faktenprüfung, zum Blockieren von Bots und Inhalten sowie zur Identifizierung von Trollfarmen eingesetzt. Diese Techniken müssen transparent sein, um Missbrauch oder Machtmissbrauch zu verhindern.

Die Notwendigkeit, die Rechtsstaatlichkeit ausdrücklich im KI-Gesetz zu verknüpfen, ist klar, ebenso wie die Bedeutung der Vorschrift von Folgenabschätzungen, die sowohl die Grundrechte als auch die Rechtsstaatlichkeit berücksichtigen – ohne eine pauschale Ausnahme für Zwecke der nationalen Sicherheit.

Künstliche Intelligenz ist in vielfältiger Weise Teil des täglichen Lebens und die Art und Weise, wie wir sie regulieren, wird unsere Gesellschaften prägen.

Die EU-Gesetzgeber müssen diese Gelegenheit nutzen, um ein Gesetz zu erarbeiten, das die Möglichkeiten der KI nutzt, ohne den Schutz unserer Rechte oder die Rechtsstaatlichkeit zu untergraben.

Eva Simon fungiert als Advocacy Lead für Tech & Rights und Jonathan Day ist Kommunikationsmanager bei der Civil Liberties Union For Europe, einem in Berlin ansässigen Kampagnennetzwerk zur Stärkung der Rechtsstaatlichkeit in der Europäischen Union.

Bei Euronews glauben wir, dass jede Meinung zählt. Kontaktieren Sie uns unter [email protected], um Pitches oder Einsendungen zu senden und an der Diskussion teilzunehmen.