„Potenziell katastrophal“ für Innovation: Der Technologiesektor reagiert auf das EU-KI-Gesetz und sagt, es gehe zu weit

Nach einer 36-stündigen Marathon-Verhandlung in diesem Monat wurde vereinbart, dass EU-KI-Gesetz wird als historisch gefeiert, doch die Reaktionen aus dem Technologiesektor des Kontinents, Menschenrechtsgruppen und Politikern sind gemischt.

Die Europäische Union hat sich am vergangenen Freitag auf die weltweit ersten vorläufigen Regeln zur Regulierung der künstlichen Intelligenz (KI) geeinigt, die Einzelheiten des Gesetzestextes werden jedoch noch ausgearbeitet, bevor sie in Stein gemeißelt werden.

Die Regeln kategorisieren KI-Anwendungen in vier Risikostufen und legen die strengsten Regeln für hochriskante und verbotene KI fest.

Einer der Klebepunkte Was zu Verhandlungen führte, war die Art und Weise der Grundmodelle und die zugrunde liegende Technologie OpenAIs ChatGPT würde reguliert werden.

„Nie eine gute Idee“

Frankreich und Deutschland warnten vor einer Überregulierung, da sie ihre führenden KI-Start-ups schützen wollten.

„Wir können beschließen, viel schneller und stärker zu regulieren als unsere Hauptkonkurrenten. Aber wir werden Dinge regulieren, die wir nicht mehr produzieren oder erfinden werden. „Das ist nie eine gute Idee“, sagte der französische Präsident Emmanuel Macron am Montag (11. Dezember).

„Wenn ich mir Frankreich ansehe, ist es wahrscheinlich das erste Land in Kontinentaleuropa, was künstliche Intelligenz angeht. Wir liegen Kopf an Kopf mit den Briten. Sie werden diese Regelung für grundlegende Modelle nicht haben. Aber vor allem sind wir alle sehr weit.“ hinter den Chinesen und den Amerikanern“, fügte er hinzu und bezog sich dabei auf die Französisches KI-Start-up Mistral.

Die EU plant, Foundation-Modelle zu regulieren, indem sie sicherstellt, dass Entwickler eine Dokumentation bereitstellen, die Trainingsmethoden und -daten umfasst. Sie werden auch dadurch geregelt, dass den Nutzern ein Beschwerderecht eingeräumt und Diskriminierungen verboten werden.

Unternehmen, die sich nicht an die Regeln halten, müssen mit Geldstrafen in Höhe von 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes rechnen. Manche sagen, das gehe zu weit.

„Potenziell katastrophale Folgen“

Der Verband der Computer- und Kommunikationsindustrie sagte, der Text weicht weitgehend von dem von der Kommission vorgeschlagenen „vernünftigen risikobasierten Ansatz“ ab, der Innovation Vorrang vor übermäßig präskriptiver Regulierung einräumte.

Die Organisation sagte, dass das Gesetz den Entwicklern von Spitzentechnologien, die vielen nachgelagerten Systemen zugrunde liegen, „strenge Verpflichtungen“ auferlege und daher wahrscheinlich Innovationen in Europa behindere. Dies könnte zu einer Abwanderung von KI-Talenten führen, warnte sie.

„Bedauerlicherweise scheint Schnelligkeit Vorrang vor Qualität zu haben, mit möglicherweise katastrophalen Folgen für die europäische Wirtschaft. Die negativen Auswirkungen könnten weit über den KI-Sektor hinaus spürbar sein“, sagte Daniel Friedlaender, Senior Vice President und Leiter von CCIA Europe.

„Unterstützt Europas Champions nicht“

France Digitale, eine unabhängige Organisation, die europäische Start-ups und Investoren vertritt, sagte, dass KI in der Hochrisikokategorie eine CE-Kennzeichnung erhalten müsse, was ein langer und kostspieliger Prozess sei, der Start-ups schaden könnte.

Die Gruppe begrüßte jedoch die Tatsache, dass Start-ups, die in Hochrisikosektoren tätig sind, eine Petition gegen den Status einreichen und nachweisen können, dass ihre KI kein Hochrisiko darstellt und neu kategorisiert werden sollte.

In Bezug auf generative KI und Stiftungsmodelle sagte France Digitale, die Regulierung sei „sehr streng“ und könne auch Unternehmen schaden, da sie ihre privaten Geschäftsmodelle offenlegen müssten, die andere Unternehmen dann kopieren könnten.

„Wir forderten, nicht die Technologie als solche zu regulieren, sondern die Nutzung der Technologie. Die Lösung, die Europa heute annimmt, läuft darauf hinaus, die Mathematik zu regulieren, was wenig Sinn macht“, sagte die Gruppe.

France Digitale warnte außerdem davor, dass die Kommission durch delegierte Rechtsakte weitere Kriterien hinzufügen könne, was für Start-ups riskant sein könne, die „Sichtbarkeit und Vorhersehbarkeit für die Entwicklung ihrer Geschäftsmodelle benötigen“.

„Wir können die Spielregeln zu keinem Zeitpunkt ändern“, sagte die Gruppe.

Urheberrechtsbestimmungen „annehmen“.

Die meisten KI-Modelle werden anhand von Online-Material trainiert, was zu einer Reihe von Urheberrechtsklagen von Künstlern und den Unternehmen, die sie vertreten, gegen die KI-Firmen geführt hat.

Das Gesetz unterliegt strengen Urheberrechtsbestimmungen, zu denen auch die Einhaltung des geltenden Urheberrechtsgesetzes der EU gehört. Unternehmen müssen außerdem eine Zusammenfassung der Inhalte veröffentlichen, die sie zum Training allgemeiner KI-Modelle verwenden.

Diese Transparenzanforderung und -politik zur Einhaltung der aktuellen EU-Regeln wurde von den European Authors’ Societies (GESAC) begrüßt, die 32 europäische Autorengesellschaften und mehr als eine Million Autoren vertritt.

„Eine solide Umsetzung, die es den Rechteinhabern ermöglicht, ihre Rechte nach EU-Recht ordnungsgemäß auszuüben, ist von entscheidender Bedeutung, um sicherzustellen, dass die vereinbarten Grundsätze in der Praxis tatsächlich Wirkung zeigen“, sagte Véronique Desbrosse, die Geschäftsführerin des Verbandes.

„Die Autorenverbände freuen sich darauf, diesen neuen Markt zu erobern und Mehrwert für Urheber und Unternehmen gleichermaßen zu schaffen und gleichzeitig sowohl zur Innovation als auch zum Schaffen in Europa beizutragen.“

Cybersicherheit und Gesichtserkennung

Das EU-KI-Gesetz führt strenge Beschränkungen für Gesichtserkennungstechnologie und andere Verhaltenssignale ein, mit Ausnahme von Ausnahmen für die Strafverfolgung.

Die Beschränkungen der Technologie zur Gesichtserkennung wurden ebenso begrüßt wie Datenschutzbestimmungen.

Zwar gibt es keine spezifischen Rechtsvorschriften zum Schutz von Daten, das Gesetz soll jedoch mit den DSGVO-Vorschriften der EU, der EU-Datenschutzverordnung, zusammenarbeiten.

Allerdings sagte Valmiki Mukherjee, Geschäftsführerin der Cybersicherheitsbranche, gegenüber Euronews Next, dass das Gesetz mit ähnlichen Herausforderungen konfrontiert sein könnte wie die DSGVO.

„Es könnte eine Herausforderung sein, das Gesetz auf Allzweck-KI-Systeme anzuwenden, ohne ihre Verwendung einzuschränken, indem man sie alle als hochriskant einstuft“, sagte er.

„Es besteht auch die potenzielle Herausforderung, ein großes internationales Überwachungssystem zu schaffen, um überwachungsbasierte KI zu verhindern. Es ist unklar, wie dies angesichts der noch in der Entwicklung befindlichen Cybersicherheitsstandards funktionieren wird.“

„Eine leistungsstarke Technologie zukunftssicher machen“

Während der ursprüngliche Textentwurf noch fertiggestellt wird, ein Prozess, der laut einigen Kommentatoren bis Januar 2024 oder sogar darüber hinaus andauern könnte, gibt es einen weiteren Zeitdruck, die Neuwahlen zum Europäischen Parlament im Juni, der die Dinge in den noch offenen Punkten durcheinander bringen könnte müssen vereinbart werden.

„Bis zu den Parlamentswahlen scheint derzeit nicht genügend Zeit zu sein, um die KI-Haftungsrichtlinie durch den Gesetzgebungsprozess zu bringen, sodass das neue Parlament und die neue Kommission, die es ernennen wird, dies aufgreifen müssen“, sagte Benjamin Docquir, Leiter IT und Daten, bei der internationalen Anwaltskanzlei Osborne Clarke.

Das neue EU-Parlament muss möglicherweise auch über Gesetze zu KI am Arbeitsplatz entscheiden.

Ein weiterer Entscheidungsfaktor wird die Regulierung von Open-Source-KI-Software sein, die es ermöglicht, den Computercode frei zu kopieren und wiederzuverwenden, was jedem die Erlaubnis gibt, seinen eigenen Chatbot zu erstellen.

OpenAI und Google haben gewarnt, dass Open-Source-Software gefährlich sein kann, da die Technologie zur Verbreitung von Desinformation genutzt werden kann.

Da sich die KI-Technologie rasant weiterentwickelt und das EU-KI-Gesetz voraussichtlich erst in den nächsten zwei Jahren von den EU-Mitgliedstaaten durchgesetzt wird, könnte die Verordnung trotz der Bemühungen um eine Flexibilisierung bereits überholt sein.

„Was die möglichen Änderungen am KI-Gesetz betrifft, haben sich die Gesetzgeber bemüht, das KI-Gesetz flexibel zu gestalten, aber das Aufkommen der generativen KI hat gezeigt, wie schwierig es ist, eine so leistungsstarke Technologie zukunftssicher zu machen“, sagte Docquir.