Die am KI-Gesetz beteiligten Mitglieder des Europäischen Parlaments werden am Dienstag (21. November) den Governance-Aspekt der Gesetzgebung im Lichte der jüngsten Diskussionen über die leistungsstärksten KI-Modelle diskutieren.
Das KI-Gesetz ist ein bahnbrechendes Gesetz, das künstliche Intelligenz auf der Grundlage ihrer Fähigkeit, Risiken zu verursachen, reguliert und sich derzeit in der letzten Phase des Gesetzgebungsverfahrens befindet, in der sich das EU-Parlament und der Rat, die Mitgesetzgeber, auf die endgültigen Bestimmungen und die Rechtsakte der Kommission einigen als „ehrlicher Vermittler“ zwischen den beiden.
Die Kommission hat den am Sonntag mit den Ko-Berichterstattern des Europäischen Parlaments geteilten Kompromisstext ausgearbeitet, einschließlich der Festlegung eines neuen Vorschlags zur Regulierung universeller KI-Modelle, über den Euractiv am Montag berichtete. Der Text enthält einige Vorschläge der führenden Europaabgeordneten.
Wie die Ko-Berichterstatter in einer Anmerkung am Rande des Textes feststellten, ist ein entscheidender Artikel in einer früheren Fassung des Textes, der es der Europäischen Kommission ermöglichte, im Falle weit verbreiteter Verstöße Maßnahmen zu ergreifen, verschwunden.
KI-Büro
Dem neuen Text zufolge überwacht das Amt die Durchsetzung von GPAI-Modellen (General Purpose AI), während die EU-Länder seine Aufgaben erleichtern sollen.
Das AI-Büro muss insbesondere alle relevanten Informationen für die Anwendung der Bestimmungen des AI Act auf GPAI-Modellanbieter überwachen und anfordern, einschließlich deren Einhaltung genehmigter Verhaltenskodizes.
Nachgelagerte Wirtschaftsteilnehmer, die ein System auf der Grundlage eines GPAI-Modells aufgebaut haben, haben das Recht, eine begründete Beschwerde wegen angeblicher Verstöße gegen das KI-Gesetz einzureichen.
Darüber hinaus ist das KI-Büro befugt, nach Rücksprache mit dem Vorstand Ex-post-Bewertungen von GPAI-Modellen durchzuführen, um deren Einhaltung der KI-Verordnung zu bewerten, wenn die gesammelten Informationen nicht schlüssig sind, oder um systemische Risiken auf EU-Ebene zu untersuchen.
Das Amt könnte unabhängige Experten aus dem wissenschaftlichen Gremium beauftragen, in seinem Namen eine Bewertung vorzunehmen. In diesen Fällen kann das Amt den Zugriff auf die Modelle über eine Anwendungsprogrammierschnittstelle (API) oder andere technische Mittel anfordern.
Für die führenden Gesetzgeber sollte dem Zugriffsantrag ein strukturierter Dialog zwischen dem KI-Büro und dem Modellanbieter vorausgehen.
Darüber hinaus kann das KI-Büro Anbieter von GPAI-Modellen auffordern, geeignete Maßnahmen zu ergreifen, um ihren Verpflichtungen nachzukommen, oder Abhilfemaßnahmen umzusetzen, wenn auf EU-Ebene begründete Bedenken hinsichtlich eines Systemrisikos bestehen, einschließlich der Einschränkung seiner Verfügbarkeit oder der Rücknahme vom Markt.
Wenn der Anbieter des GPAI-Modells im Rahmen eines strukturierten Dialogs Zusagen zur Umsetzung relevanter Abhilfemaßnahmen macht, könnte das AI Office diese Zusagen verbindlich machen und von weiteren Maßnahmen absehen.
Ein Sanktionsregime für Verstöße gegen das KI-Gesetz und mangelnde Zusammenarbeit mit dem KI-Büro wird erwähnt, jedoch ohne Bezug auf den maximalen Prozentsatz des weltweiten Umsatzes des Unternehmens. Die Modalitäten für den Erlass der Bußgelder sind im Sekundärrecht festzulegen.
Die Ko-Berichterstatter wünschen sich außerdem, dass das KI-Büro koordinierende Unterstützung bei gemeinsamen Ermittlungen leistet.
Europäisches Gremium für künstliche Intelligenz
Für den Kompromiss wird der Vorstand aus einem Vertreter pro EU-Land bestehen, der für drei Jahre ernannt wird und einmal verlängert werden kann. Die führenden Europaabgeordneten wollen, dass der Europäische Datenschutzbeauftragte, die Grundrechteagentur und die EU-Cybersicherheitsagentur ENISA als Beobachter teilnehmen.
Der Ausschuss muss seine internen Regeln mit Zweidrittelmehrheit verabschieden und über zwei ständige Untergruppen mit Marktüberwachungs- und Meldebehörden verfügen. Das AI-Büro stellt das Sekretariat des Vorstands.
Dem Beispiel des Europäischen Datenschutzausschusses folgend, würde der KI-Ausschuss die Aufgabe haben, eine einheitliche Anwendung des KI-Regelwerks in der gesamten Union sicherzustellen und gleichzeitig Beratung zu sekundären Rechtsvorschriften, Verhaltenskodizes und technischen Standards zu leisten.
Die Ko-Berichterstatter schlagen vor, die Aufgaben des Büros zu erweitern, indem es nationale Behörden bei der Einrichtung von Regulierungs-Sandboxen unterstützt und regelmäßige Konsultationen mit dem Beratungsforum organisiert.
Wissenschaftliches Gremium
Auch die Einsetzung eines wissenschaftlichen Gremiums unabhängiger Experten fand Eingang in den Text. Die Kommission soll die Experten auf der Grundlage ihres Fachwissens, ihrer Unabhängigkeit von KI-Unternehmen und der Genauigkeit ihrer Arbeit ernennen.
Für die Ko-Berichterstatter sollte die Zusammensetzung des Vorstands eine Geschlechter- und geografische Vertretung gewährleisten.
Das Gremium berät das AI Office insbesondere zu General Purpose AI (GPAI)-Modellen, trägt zur Entwicklung von Methoden zur Bewertung der Fähigkeiten der Modelle bei und berät bei der Klassifizierung von Modellen mit systemischen Risiken.
Darüber hinaus sollten die Experten des Gremiums das AI Office benachrichtigen, wenn sie der Ansicht sind, dass ein GPAI-Modell ein konkretes Risiko auf EU-Ebene darstellt oder die Anforderungen erfüllt, um es als Modell mit systemischen Risiken einzustufen.
Die führenden Europaabgeordneten schlagen außerdem vor, dass die wissenschaftlichen Experten über die relevanten Benchmarks für GPAI-Modelle und die Unterscheidung zwischen GPAI-Modell- und Systemkategorien beraten.
Im Hinblick auf nationale Behörden würden die Experten auf Anfrage ihre Arbeit und grenzüberschreitende Untersuchungen unterstützen. Das AI-Büro müsste potenzielle Interessenkonflikte für die Panelmitglieder verwalten.
Beratungsforum
Der Text der Kommission greift die Idee des Europäischen Parlaments auf, ein Beratungsforum für Interessenvertreter wie Industrievertreter, KMU, Start-ups, Zivilgesellschaft und Wissenschaft einzurichten, um dem Vorstand und dem KI-Büro technisches Fachwissen zur Verfügung zu stellen.
[Edited by Alice Taylor]
