Das KI-Gesetz der EU: Könnte Europas wegweisender Versuch, die KI zu regulieren, an der letzten Hürde scheitern?

Der Vorschlag der Europäischen Union wird als Weltneuheit gefeiert Künstliche Intelligenz (KI) Die Regeln stehen vor einem entscheidenden Moment, da die Verhandlungsführer diese Woche versuchen, die letzten Details auszuarbeiten – die Gespräche werden durch den plötzlichen Aufstieg der generativen KI, die menschenähnliche Arbeit hervorbringt, erschwert.

Erstmals 2019 vorgeschlagen, das KI-Gesetz der EU Es wurde erwartet, dass es sich um die weltweit ersten umfassenden KI-Vorschriften handeln würde, die die Position des 27-Nationen-Blocks als globaler Trendsetter bei der Eindämmung der Technologiebranche weiter festigen würden.

Doch der Prozess ist durch einen Last-Minute-Kampf um die Steuerung von Systemen, die allgemeinen KI-Diensten wie ChatGPT von OpenAI und dem Chatbot Bard von Google zugrunde liegen, ins Stocken geraten.

Große Technologieunternehmen setzen sich gegen das ein, was sie als Überregulierung betrachten, die Innovationen unterdrückt, während europäische Gesetzgeber zusätzliche Schutzmaßnahmen für die hochmodernen KI-Systeme wünschen, die diese Unternehmen entwickeln.

In der Zwischenzeit haben sich die USA, Großbritannien, China und globale Koalitionen wie die Gruppe der 7 großen Demokratien dem Wettlauf angeschlossen, Leitplanken für die sich schnell entwickelnde Technologie aufzustellen, was durch Warnungen von Forschern und Menschenrechtsgruppen vor den existenziellen Gefahren, die generative KI mit sich bringt, unterstrichen wird Menschlichkeit sowie die Risiken für den Alltag.

Ängste rund um generative KI

„Anstatt dass das KI-Gesetz zum globalen Goldstandard für die KI-Regulierung wird, besteht eine geringe, aber wachsende Chance, dass es nicht vor den Wahlen zum Europäischen Parlament im nächsten Jahr vereinbart wird“, sagte Nick Reiners, Analyst für Technologiepolitik bei der Eurasia Group. ein Beratungsunternehmen für politische Risiken.

Er sagte, „es gibt einfach so viel zu klären“, und die Beamten hoffen, dass es am Mittwoch zu einer abschließenden Gesprächsrunde kommt. Selbst wenn sie wie erwartet bis spät in die Nacht arbeiten würden, müssten sie sich möglicherweise anstrengen, um im neuen Jahr fertig zu werden, sagte Reiners.

Als die Europäische Kommission, die Exekutive der EU, den Entwurf im Jahr 2021 vorstellte, erwähnte er ihn kaum Allzweck-KI-Systeme wie Chatbots. Der Vorschlag, KI-Systeme nach vier Risikostufen zu klassifizieren – von minimal bis inakzeptabel – war im Wesentlichen als Produktsicherheitsgesetzgebung gedacht.

Brüssel wollte die Informationen testen und zertifizieren, die von den Algorithmen der KI verwendet werden, ähnlich wie Verbrauchersicherheitskontrollen bei Kosmetika, Autos und Spielzeug.

Das änderte sich mit dem Boom der generativen KI, die durch das Komponieren von Musik, das Erstellen von Bildern und das Verfassen von Essays, die menschlicher Arbeit ähnelten, Wunder auslöste.

Es schürte auch Befürchtungen, dass die Technologie für massive Cyberangriffe oder die Entwicklung neuer Biowaffen genutzt werden könnte.

Die Risiken veranlassten die EU-Gesetzgeber, das KI-Gesetz zu verschärfen, indem sie es auf Stiftungsmodelle ausdehnten. Diese Systeme werden auch als Large Language Models (LLMs) bezeichnet und basieren auf riesigen Beständen an schriftlichen Werken und Bildern, die aus dem Internet stammen.

Foundation-Modelle geben generativen KI-Systemen wie ChatGPT die Möglichkeit, etwas Neues zu schaffen, im Gegensatz zu herkömmlicher KI, die Daten verarbeitet und Aufgaben anhand vorgegebener Regeln erledigt.

Das Chaos im letzten Monat bei dem von Microsoft unterstützten Unternehmen OpenAI, das eines der bekanntesten Basismodelle, GPT-4, entwickelte, hat für einige europäische Führungskräfte die Gefahr verstärkt, einigen wenigen dominanten KI-Unternehmen zu erlauben, sich selbst zu überwachen.

Während CEO Sam Altman wurde entlassen und umgehend wieder eingestelltEinige Vorstandsmitglieder mit großen Vorbehalten gegenüber den von KI ausgehenden Sicherheitsrisiken verließen das Unternehmen und signalisierten, dass die KI-Unternehmensführung der Dynamik in den Vorstandsetagen zum Opfer fallen könnte.

Der Widerstand Frankreichs, Italiens und Deutschlands

„Zumindest ist jetzt klar“, dass Unternehmen wie OpenAI ihre Geschäfte und nicht das öffentliche Interesse verteidigen, sagte EU-Kommissar Thierry Breton wenige Tage nach dem Tumult auf einer KI-Konferenz in Frankreich.

Der Widerstand gegen staatliche Vorschriften für diese KI-Systeme kam von unerwarteter Seite: Frankreich, Deutschland und Italien. Die drei größten Volkswirtschaften der EU wehrten sich mit einem Positionspapier, das sich für Selbstregulierung aussprach.

Der Sinneswandel wurde als Schritt gesehen, um einheimischen generativen KI-Akteuren wie dem französischen Startup Mistral AI und dem deutschen Unternehmen Aleph Alpha zu helfen.

Dahinter steckt „die Entschlossenheit, US-Unternehmen das KI-Ökosystem nicht so dominieren zu lassen, wie sie es in früheren Technologiewellen wie Cloud (Computing), E-Commerce und sozialen Medien getan haben“, sagte Reiners.

Eine Gruppe einflussreicher Informatiker veröffentlichte einen offenen Brief Er warnte davor, dass eine solche Schwächung des KI-Gesetzes „ein historischer Misserfolg“ wäre.

Führungskräfte von Mistral stritten unterdessen online mit einem Forscher einer von Elon Musk unterstützten gemeinnützigen Organisation, die sich zum Ziel gesetzt hat, „existentielle Risiken“ durch KI zu verhindern.

KI sei „zu wichtig, um sie nicht zu regulieren, und zu wichtig, um sie nicht gut zu regulieren“, sagte Googles oberster Rechtsreferent Kent Walker letzte Woche in einer Rede in Brüssel. „Das Rennen sollte um die besten KI-Vorschriften gehen, nicht um die ersten KI-Vorschriften.“

Stiftungsmodelle, die für ein breites Spektrum von Aufgaben eingesetzt werden, erweisen sich für EU-Verhandlungsführer als heikelstes Thema, da ihre Regulierung „der Logik des gesamten Gesetzes widerspricht“, das auf Risiken basiert, die durch bestimmte Verwendungszwecke entstehen, sagte Iverna McGowan, Direktorin der Stiftung Europa-Büro im gemeinnützigen Zentrum für Demokratie und Technologie für digitale Rechte.

Es liegt in der Natur von Allzweck-KI-Systemen, dass „man nicht weiß, wie sie angewendet werden“, sagte sie.

Gleichzeitig seien Vorschriften erforderlich, „weil es sonst in der Lebensmittelkette keine Verantwortung gibt“, wenn andere Unternehmen mit ihnen Dienstleistungen aufbauen, sagte McGowan.

Altman hat eine US-amerikanische oder globale Agentur vorgeschlagen das würde die leistungsstärksten KI-Systeme lizenzieren. Er schlug dieses Jahr vor, dass OpenAI Europa verlassen könnte, wenn es die EU-Vorschriften nicht einhalten könne, nahm diese Kommentare jedoch schnell zurück.

Letzte Chance, einen KI-Konsens zu erzielen

Aleph Alpha sagte, ein „ausgewogener Ansatz sei erforderlich“ und unterstützte den risikobasierten Ansatz der EU. Aber es sei „nicht anwendbar“ auf Stiftungsmodelle, die „flexiblere und dynamischere“ Regelungen benötigen, sagte das deutsche KI-Unternehmen.

Einige andere umstrittene Punkte müssen die EU-Verhandlungsführer noch klären, darunter einen Vorschlag, die öffentliche Gesichtserkennung in Echtzeit vollständig zu verbieten.

Die Länder wollen eine Ausnahmeregelung, damit die Strafverfolgungsbehörden sie nutzen können, um vermisste Kinder oder Terroristen zu finden, aber Menschenrechtsgruppen befürchten, dass dadurch effektiv eine Rechtsgrundlage für die Überwachung geschaffen wird.

Die drei Regierungszweige der EU stehen am Mittwoch vor einer ihrer letzten Chancen, eine Einigung zu erzielen.

Selbst wenn dies der Fall wäre, müssten die 705 Abgeordneten des Blocks der endgültigen Fassung noch zustimmen. Diese Abstimmung muss bis April stattfinden, bevor sie im Juni mit dem Wahlkampf für EU-weite Wahlen beginnen.

Das Gesetz würde nicht vor einer Übergangsfrist von normalerweise zwei Jahren in Kraft treten.

Wenn sie es nicht rechtzeitig schaffen, wird die Gesetzgebung auf später im nächsten Jahr verschoben – nach dem Amtsantritt neuer EU-Staats- und Regierungschefs, die möglicherweise andere Ansichten zu KI haben.

„Es besteht eine gute Chance, dass es tatsächlich die letzte ist, aber es besteht auch die Möglichkeit, dass wir noch mehr Zeit für die Verhandlungen benötigen“, sagte Dragos Tudorache, ein rumänischer Gesetzgeber, der die Verhandlungen zum KI-Gesetz des Europäischen Parlaments mitleitet, in einer Diskussionsrunde Diskussion letzte Woche.

Sein Büro sagte, er sei für ein Interview nicht verfügbar.

„Es ist immer noch ein sehr fließendes Gespräch“, sagte er bei der Veranstaltung in Brüssel. „Wir werden Sie bis zum allerletzten Moment im Ungewissen lassen.“