Die tschechische EU-Ratspräsidentschaft teilte den anderen EU-Ländern am Donnerstag (3. November) die endgültige Fassung des KI-Gesetzes mit, einer Flaggschiff-EU-Gesetzgebungsinitiative, die bis Mitte November auf Botschafterebene gebilligt werden soll.
Das KI-Gesetz zielt darauf ab, das erste umfassende Regelwerk für Künstliche Intelligenz auf der Grundlage des Schadenspotenzials einzuführen. Die tschechische Ratspräsidentschaft hat das Dossier ganz oben auf ihre digitale Agenda gesetzt und ist auf dem besten Weg, die Position des EU-Rates fertigzustellen.
Wie von EURACTIV erwartet, wurden mit dem neuesten Text nur geringfügige Änderungen gegenüber einer Version von vor zwei Wochen eingeführt. Das KI-Gesetz soll am 18. November vom Ausschuss der Ständigen Vertreter gebilligt und am 6. Dezember von den EU-Ministern auf der Tagung des Telekommunikationsrates endgültig verabschiedet werden.
Allzweck-KI
Der endgültige Text bestätigt die Lösung der tschechischen Ratspräsidentschaft, das KI-Regelwerk auf Allzweck-KI anzuwenden, große Modelle, die angepasst werden können, um verschiedene Aufgaben auszuführen. Die meisten EU-Länder einigten sich darauf, die Europäische Kommission zu beauftragen, die Verpflichtungen für diese Systeme über einen Durchführungsrechtsakt maßzuschneidern.
Der neue Kompromiss stellt klar, dass die Bestimmungen in Bezug auf die Pflichten für KI-Anbieter mit hohem Risiko, die Bestellung eines gesetzlichen Vertreters in der Union, die Konformitätserklärung mit dem EU-Recht und die Überwachung nach dem Inverkehrbringen nur für Allzweck-KI-Anbieter gelten sobald der Durchführungsrechtsakt in Kraft tritt.
Strafverfolgung
Auf Bitten der Mitgliedstaaten führte die tschechische Ratspräsidentschaft umfangreiche Sonderregelungen für Strafverfolgungsbehörden ein.
Eine der wichtigsten ermächtigt die Polizeikräfte, die zuständige nationale Behörde zu ersuchen, ein System mit hohem Risiko in Betrieb zu nehmen, das das Konformitätsbewertungsverfahren nicht bestanden hat.
Diese Genehmigung kann unter außergewöhnlichen Umständen umgangen werden, beispielsweise bei einer unmittelbar drohenden Gefahr für das Leben einer Person.
Für den Fall, dass die Behörde den Antrag ablehnt, wurde jedoch ein neuer Wortlaut hinzugefügt, der die Strafverfolgungsbehörde dazu verpflichtet, alle Ergebnisse und Ausgaben, die sich aus diesem System ergeben, zu verwerfen.
Sozialhilfeleistungen
Die Präambel der Verordnung wurde geändert, um klarzustellen, dass das System zur Feststellung der Legitimität des Anspruchs auf Sozialhilfeleistungen und Leistungen der öffentlichen Hand als hochgefährdet anzusehen ist.
Diese Formulierung erinnert an einen massiven Skandal in den Niederlanden, wo Steuerbehörden aufgrund eines fehlerhaften Algorithmus fälschlicherweise Tausende von Bürgern des Leistungsbetrugs verdächtigten.
Der Text wurde auch an die Aufnahme bestimmter Versicherungsdienstleistungen wie Lebens- und Krankenversicherungen in die Liste der Hochrisikosysteme angepasst.
Kritische Infrastruktur
Bei kritischen Infrastrukturen wurden die rein der Cybersicherheit gewidmeten Elemente von der Hochrisikoeinstufung ausgenommen.
In die Hochrisikokategorie wurden nur Sicherheitskomponenten aufgenommen, die „unmittelbar zu Risiken für die physische Unversehrtheit kritischer Infrastrukturen und damit zu Risiken für die Gesundheit und Sicherheit von Personen und Sachwerten führen können“.
Transparenz
Das KI-Gesetz verlangt von bestimmten KI-Systemen wie Deepfakes die Einhaltung von Transparenzpflichten, es sei denn, es handelt sich hinreichend offensichtlich um manipulierte Inhalte.
In diesem Zusammenhang legt der neue Text fest, dass Personen, die in Bezug auf Alter oder Behinderung einer schutzbedürftigen Gruppe angehören, bei der Einhaltung dieser Bestimmungen berücksichtigt werden sollten, um Diskriminierung zu vermeiden.
[Edited by Zoran Radosavljevic]