Nach langwierigen, intensiven Gesprächen einigen sich Mitgliedstaaten und Europaabgeordnete auf eine Einigung über das EU-KI-Gesetz

Die Einigung wurde am Freitagabend nach Verhandlungen, die den ganzen Tag in Anspruch nahmen und im Anschluss daran stattfanden, auf politischer Ebene getroffen erfolgloser Marathon zwischen Mittwoch und Donnerstagnachmittag. Insgesamt dauerte der gesamte Vorstoß mehr als 35 Stunden.

Der Durchbruch gelang inmitten aggressiver Lobbyarbeit von Technologieunternehmen aller Größen, scharfen Warnungen der Zivilgesellschaft und intensiver Medienbeobachtung, da die Gesetzgebung aus Brüssel sehr wohl ähnliche Regulierungsbemühungen auf der ganzen Welt beeinflussen könnte.

„Historisch! Die EU ist der erste Kontinent überhaupt, der klare Regeln für den Einsatz von KI festlegt“, sagte Thierry Breton, EU-Kommissar für den Binnenmarkt, der an der Debatte teilnahm. „Das KI-Gesetz ist viel mehr als ein Regelwerk – es ist eine Startrampe für EU-Startups und Forscher, um im globalen KI-Wettlauf die Führung zu übernehmen.“

Die Verhandlungen waren ein hart umkämpftes Hin und Her zwischen Regierungen und Gesetzgebern über eine Reihe äußerst komplexer und technischer Fragen.

Nachdem am Donnerstag ein vorläufiger Kompromiss zur Eindämmung der Grundmodelle besiegelt wurde, die Chatbots wie ChatGPT von OpenAI antreiben, lag der Schwerpunkt der Gespräche am Freitag stark auf der Verwendung von Echtzeit-Biometrie, einschließlich Gesichtserkennung, im öffentlichen Raum.

Im Mittelpunkt der Debatte stand die Frage, ob es staatlichen Behörden erlaubt sein sollte, KI-gestützte biometrische Systeme einzusetzen, die Menschen anhand sensibler Merkmale wie Geschlecht, Rasse, ethnische Zugehörigkeit, Religion und politische Zugehörigkeit sowie Systeme identifizieren und kategorisieren können der Emotionserkennung und prädiktiven Politik.

In ihrem gemeinsamen MandatDie Abgeordneten sagten, diese Praktiken seien „aufdringlich und diskriminierend“ und sollten daher im gesamten EU-Gebiet verboten werden. Die Mitgliedstaaten vertraten jedoch eine ganz andere Meinung und argumentierten, Ausnahmen für die Strafverfolgung seien notwendig, um Kriminelle aufzuspüren und Bedrohungen der nationalen Sicherheit abzuwehren. Frankreich hat Anfang des Jahres ein Gesetz verabschiedet, das den Einsatz biometrischer Überwachung während des Jahres ermöglicht Olympische Spiele 2024 in Paris und Paralympics, eine Premiere für ein EU-Land.

Der Konflikt zwischen nationaler Sicherheit und Grundrechten nahm am Freitag die meiste Energie in Anspruch. Spanien, das derzeit die rotierende Ratspräsidentschaft innehat, hatte die schwierige Aufgabe, die 27 Mitgliedsstaaten zu vertreten und eine einheitliche Front zu bewahren.

Die Gespräche wurden durch eine längere Pause unterbrochen, in der die Abgeordneten untereinander die Forderungen der spanischen Präsidentschaft diskutierten. Inzwischen Wissenschaftler und Aktivisten ging in die sozialen Medien die Abgeordneten aufzufordern, sich den Ausnahmen für die Strafverfolgung zu widersetzen.

Am Ende gab das Parlament nach und angemeldet an eine Reihe „strenger Bedingungen“, die es den Behörden ermöglichen, mithilfe biometrischer Daten in Echtzeit nach Opfern von Entführung, Menschenhandel und sexueller Ausbeutung zu suchen; terroristische Bedrohungen verhindern; und Personen ausfindig zu machen, die im Verdacht stehen, schwere Verbrechen wie Terrorismus, Mord, Vergewaltigung und bewaffneten Raubüberfall begangen zu haben.

Im Gegensatz dazu sind biometrische Kategorisierung auf der Grundlage sensibler Merkmale, soziale Bewertung, vorausschauende Polizeiarbeit, die Ausnutzung von Schwachstellen und Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen verboten.

„Wir haben hart für das Verbot der biometrischen Identifizierung gekämpft“, sagte Brando Benifei, ein sozialistischer Europaabgeordneter und Mitberichterstatter. „Es war wichtig, all diese Teile zusammenzubringen.“

„All diese Dinge sind ein sehr starkes Regime, das festlegt, welche Art von KI-Anwendungen wir in unserer Union und auf unserem Markt nicht wollen“, sagte Dragoș Tudorache, der andere Mitberichterstatter.

Angesichts der Komplexität des vorliegenden Themas dürfte der Kompromiss, der aus den langwierigen Gesprächen hervorgegangen ist, in den kommenden Tagen einer weiteren Feinabstimmung bedürfen. Carme Artigas, Spaniens Staatssekretärin für Digitalisierung und KI, betonte, dass „jeder Artikel“ vereinbart worden sei und keine „Schlupflöcher“ zur Umgehung der Achtung der Menschenrechte gelassen worden seien.

Sobald der Gesetzestext, der Hunderte von Seiten in Artikeln und Anhängen umfasst, umgeschrieben ist, wird er dem Europäischen Parlament zur erneuten Abstimmung im Plenarsaal vorgelegt, woraufhin die Länder im Rat grünes Licht geben.

„Wir hoffen, dass alle (Mitgliedstaaten) den Kompromiss bestätigen“, sagte Artigas auf die Frage nach den Bedenken Deutschlands und Frankreichs.

Die endgültigen Abstimmungen werden voraussichtlich Anfang 2024 stattfinden. Das Gesetz wird dann eine schrittweise Phase durchlaufen, bevor es vollständig anwendbar wird.

Eine sich ständig weiterentwickelnde Technologie

Erstmals vorgestellt im April 2021ist das KI-Gesetz ein bahnbrechender Versuch, sicherzustellen, dass die radikalste transformative Technologie des 21. Jahrhunderts auf menschenzentrierte und ethisch verantwortungsvolle Weise entwickelt wird, die ihre schädlichsten Folgen verhindert und eindämmt.

Bei dem Gesetz handelt es sich im Wesentlichen um eine Produktsicherheitsverordnung, die eine Reihe gestaffelter Regeln vorschreibt, die Unternehmen befolgen müssen, bevor sie ihre Dienstleistungen Verbrauchern im gesamten Binnenmarkt der Union anbieten.

Das Gesetz schlägt eine pyramidenartige Struktur vor, die KI-gestützte Produkte entsprechend dem potenziellen Risiko, das sie für die Sicherheit der Bürger und ihre Grundrechte darstellen, in vier Hauptkategorien einteilt: minimal, begrenzt, hoch und inakzeptabel.

Diejenigen, die in die Kategorie des minimalen Risikos fallen, werden von zusätzlichen Regeln befreit, während diejenigen, die als begrenztes Risiko eingestuft sind, grundlegende Transparenzpflichten erfüllen müssen.

Die als risikoreich eingestuften Systeme unterliegen strengen Regeln, die vor ihrer Markteinführung in der EU und während ihrer gesamten Lebensdauer gelten, einschließlich umfangreicher Aktualisierungen. Diese Gruppe umfasst Anwendungen, die einen direkten und möglicherweise lebensverändernden Einfluss auf Privatpersonen haben, wie etwa Software zum Sortieren von Lebensläufen für Vorstellungsgespräche, robotergestützte Chirurgie und Prüfungsbewertungsprogramme an Universitäten.

KI-Produkte mit hohem Risiko müssen sich einer Konformitätsbewertung unterziehen, in einer EU-Datenbank registriert werden, eine Konformitätserklärung unterzeichnen und die CE-Kennzeichnung tragen – und das alles, bevor sie zum Verbraucher gelangen. Sobald sie verfügbar sind, stehen sie unter der Aufsicht nationaler Behörden, unterstützt von einem speziellen KI-Büro innerhalb der Europäischen Kommission.

KI-Systeme mit einem inakzeptablen Risiko für die Gesellschaft, einschließlich Social-Scoring zur Kontrolle der Bürger und Anwendungen, die sozioökonomische Schwachstellen ausnutzen, werden im gesamten EU-Gebiet gänzlich verboten.

Im Rahmen der vorläufigen Vereinbarung drohen Unternehmen, die gegen die Regeln verstoßen, Geldstrafen in Höhe von mehreren Millionen Euro bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes.

Obwohl dieser risikobasierte Ansatz bereits im Jahr 2021 großen Anklang fand, geriet er Ende 2022 außerordentlich unter Druck. als OpenAI ChatGPT startete und löste weltweiten Aufruhr über Chatbots aus. Auf ChatGPT folgten bald Bard von Google, Bing Chat von Microsoft und zuletzt Q von Amazon.

Chatbots basieren auf Basismodellen, die mit riesigen Datenbeständen wie Text, Bildern, Musik, Sprache und Code trainiert werden, um eine breite und fließende Reihe von Aufgaben zu erfüllen, die sich im Laufe der Zeit ändern können, anstatt eine bestimmte, nicht veränderbare Aufgabe zu haben Zweck.

Der ursprüngliche Vorschlag der Kommission enthielt keine Bestimmungen für Stiftungsmodelle und zwang den Gesetzgeber, einen völlig neuen Artikel mit einer umfangreichen Liste von Verpflichtungen hinzuzufügen, um sicherzustellen, dass diese Systeme die Grundrechte achten, energieeffizient sind und Transparenzanforderungen erfüllen, indem sie ihren Inhalt offenlegen. generiert.

Dieser Vorstoß des Parlaments stieß bei den Mitgliedstaaten auf Skepsis, die bei der Gesetzgebung eher einen sanften Ansatz bevorzugen. Deutschland, Frankreich und Italien, die drei größten Volkswirtschaften der Union, meldeten sich mit einem Gegenvorschlag die eine „verbindliche Selbstregulierung durch Verhaltenskodizes“ für Stiftungsmodelle befürwortete. Der Schritt löste eine verärgerte Reaktion der Gesetzgeber aus und drohte, den Gesetzgebungsprozess zum Scheitern zu bringen.

Aber die beängstigende Aussicht, das bahnbrechende Gesetz im Vorfeld der Europawahlen im nächsten Jahr ins Wanken zu bringen, diente als Motivation, die Lücken zu schließen und eine vorläufige Vereinbarung zu schließen, die nun Transparenzanforderungen für Chatbots vorsieht, um sicherzustellen, dass Benutzer wissen, dass sie mit ihnen interagieren ein KI-gestütztes System.

„Das KI-Gesetz ist eine weltweite Premiere“, sagte Ursula von der Leyen, die Präsidentin der Europäischen Kommission. „Ein einzigartiger rechtlicher Rahmen für die Entwicklung von KI, dem Sie vertrauen können. Und für die Sicherheit und Grundrechte von Menschen und Unternehmen. Eine Verpflichtung, die wir in unseren politischen Leitlinien eingegangen sind – und die wir erfüllt haben.“

Dieser Artikel wurde mit weiteren Informationen zum politischen Deal aktualisiert.