Reaktion auf das EU-KI-Gesetz: Tech-Experten sagen, das weltweit erste KI-Gesetz sei „historisch“, aber „bittersüß“

Europas politische Entscheidungsträger haben sich seit der Einführung von ChatGPT beeilt, Regeln und Warnungen an Technologieunternehmen weiterzugeben, und diese Woche war bei der Festlegung der EU-Regeln für künstliche Intelligenz (KI) ein Meilenstein.

Am Mittwoch das Europäische Parlament genehmigt das Gesetz über künstliche Intelligenz, das einen risikobasierten Ansatz verfolgt, um sicherzustellen, dass Unternehmen gesetzeskonforme Produkte herausbringen, bevor sie der Öffentlichkeit zugänglich gemacht werden.

Einen Tag später forderte die Europäische Kommission Bing, Facebook, Google Search, Instagram, Snapchat, TikTok, YouTube und X im Rahmen separater Rechtsvorschriften auf, detailliert darzulegen, wie sie die Risiken generativer KI eindämmen.

Während sich die EU vor allem über KI-Halluzinationen (wenn die Modelle Fehler machen und Dinge erfinden), die virale Verbreitung von Deepfakes und die automatisierte Manipulation von KI, die Wähler bei Wahlen irreführen könnte, Sorgen macht, hat die Tech-Community ihre eigenen Probleme mit der Gesetzgebung während einige Forscher sagen, dass es nicht weit genug geht.

Tech-Monopole

Während Brüssel „echte Anerkennung“ dafür verdient, dass es die erste Jurisdiktion weltweit war, die eine Regelung verabschiedet hat, die die vielen Risiken der KI mindert, gibt es bei der endgültigen Vereinbarung mehrere Probleme, sagte Max von Thun, Europa-Direktor des Open Markets Institute.

Es gebe „erhebliche Schlupflöcher für die Behörden“ und „eine relativ schwache Regulierung der größten Stiftungsmodelle, die den größten Schaden anrichten“, sagte er gegenüber Euronews Next.

Foundation-Modelle sind Modelle für maschinelles Lernen, die auf Daten trainiert werden und für die Ausführung einer Reihe von Aufgaben verwendet werden können, beispielsweise für das Schreiben eines Gedichts. ChatGPT ist ein grundlegendes Modell.

Allerdings sind von Thuns größte Sorgen die Technologiemonopole.

„Das KI-Gesetz ist nicht in der Lage, die größte Bedrohung anzugehen, die KI derzeit darstellt: ihre Rolle bei der Steigerung und Festigung der extremen Macht, die einige dominante Technologieunternehmen bereits in unserem Privatleben, unserer Wirtschaft und unseren Demokratien haben“, sagte er.

Ebenso sagte er, die Europäische Kommission sollte sich vor monopolistischem Missbrauch im KI-Ökosystem in Acht nehmen.

„Die EU sollte verstehen, dass das Ausmaß der von KI ausgehenden Risiken untrennbar mit der Größe und Macht der dominanten Unternehmen verbunden ist, die diese Technologien entwickeln und einführen. „Mit Ersterem kann man erst dann erfolgreich umgehen, wenn man sich mit Letzterem befasst“, sagte von Thun.

Die Bedrohung durch KI-Monopole geriet letzten Monat ins Rampenlicht, nachdem bekannt wurde, dass das französische Start-up Mistral AI eine Partnerschaft mit Microsoft eingeht.

Für einige in der EU war es ein Schock, da Frankreich auf Zugeständnisse beim KI-Gesetz für Open-Source-Unternehmen wie Mistral gedrängt hatte.

„Historischer Moment“

Doch mehrere Start-ups begrüßten die Klarheit, die die neue Regelung bringt.

„Die endgültige Verabschiedung des EU-KI-Gesetzes durch das EU-Parlament ist sowohl ein historischer Moment als auch eine Erleichterung“, sagte Alex Combessie, Mitbegründer und CEO des französischen Open-Source-KI-Unternehmens Giskard.

„Während das Gesetz Entwicklern von Hochrisiko-KI-Systemen und Basismodellen, die als ‚systemische Risiken‘ gelten, zusätzliche Einschränkungen und Regeln auferlegt, sind wir zuversichtlich, dass diese Kontrollen und Abwägungen effektiv umgesetzt werden können“, sagte er gegenüber Euronews Next.

„Dieser historische Moment ebnet den Weg für eine Zukunft, in der KI verantwortungsvoll genutzt, Vertrauen gefördert und die Sicherheit aller gewährleistet wird“, sagte er.

Die Gesetzgebung unterscheidet die Risiken, die von Stiftungsmodellen ausgehen, die auf der Rechenleistung basieren, mit der sie trainiert werden. KI-Produkte, die die Rechenleistungsschwelle überschreiten, werden strenger reguliert.

Die Klassifizierung gilt als Ausgangspunkt und kann wie andere Definitionen von der Kommission überprüft werden.

‘Öffentliches Gut’

Doch nicht alle sind mit der Kategorisierung einverstanden.

„Aus meiner Sicht sind KI-Systeme, die im Informationsraum eingesetzt werden, als hochriskant einzustufen und erfordern strengere Regeln, was im verabschiedeten EU-KI-Gesetz nicht explizit der Fall ist“, sagte Politikmanagerin Katharina Zügel beim Forum für Information und Demokratie.

„Die Kommission, die die Möglichkeit hat, die Anwendungsfälle von Systemen mit hohem Risiko zu ändern, könnte im Informationsbereich eingesetzte KI-Systeme unter Berücksichtigung ihrer Auswirkungen auf die Grundrechte ausdrücklich als risikoreich bezeichnen“, sagte sie gegenüber Euronews Next.

„Private Unternehmen können nicht die einzigen sein, die unsere gemeinsame Zukunft vorantreiben. KI muss ein öffentliches Gut sein“, fügte sie hinzu.

Andere argumentieren jedoch, dass auch Unternehmen mitreden und mit der EU zusammenarbeiten müssen.

„Es ist von entscheidender Bedeutung, dass die EU die Dynamik des privaten Sektors nutzt, der die treibende Kraft hinter der Zukunft der KI sein wird. Dies richtig zu machen wird wichtig sein, um Europa wettbewerbsfähiger und für Investoren attraktiver zu machen“, sagte Julie Linn Teigland, geschäftsführende Gesellschafterin für Europa, den Nahen Osten, Indien und Afrika (EMEIA) bei EY.

Sie sagte jedoch, dass Unternehmen in der EU und darüber hinaus proaktiv sein und sich auf das Inkrafttreten des Gesetzes vorbereiten müssen, was bedeutet, „Maßnahmen zu ergreifen, um sicherzustellen, dass sie über einen aktuellen Bestand der KI-Systeme verfügen, die sie entwickeln oder einsetzen.“ und Bestimmung ihrer Position in der KI-Wertschöpfungskette, um ihre rechtlichen Verantwortlichkeiten zu verstehen.“

„Bittersüßer Geschmack“

Für Start-ups und kleine und mittelständische Unternehmen könnte das deutlich mehr Arbeit bedeuten.

„Diese Entscheidung hat einen bittersüßen Geschmack“, sagte Marianne Tordeux Bitker, Leiterin für öffentliche Angelegenheiten bei France Digitale.

„Obwohl das KI-Gesetz auf eine große Herausforderung in Bezug auf Transparenz und Ethik reagiert, schafft es dennoch erhebliche Verpflichtungen für alle Unternehmen, die künstliche Intelligenz nutzen oder entwickeln, trotz einiger geplanter Anpassungen für Startups und KMU, insbesondere durch regulatorische Sandboxen.“

„Wir befürchten, dass der Text lediglich zusätzliche regulatorische Hindernisse schaffen wird, die der amerikanischen und chinesischen Konkurrenz zugute kommen und unsere Chancen für den Aufstieg europäischer KI-Champions verringern werden“, fügte sie hinzu.

‘Wirksame Umsetzung’

Doch auch wenn das KI-Gesetz beschlossene Sache ist, ist seine Umsetzung die nächste Herausforderung.

„Jetzt verlagert sich der Fokus auf die wirksame Umsetzung und Durchsetzung. Dies erfordert auch eine erneute Aufmerksamkeit für ergänzende Rechtsvorschriften“, sagte Risto Uuk, EU-Forschungsleiter am gemeinnützigen Future of Life Institute, gegenüber Euronews Next.

Zu diesen ergänzenden Rechtsvorschriften gehören die KI-Haftungsrichtlinie, die Haftungsansprüche für Schäden unterstützen soll, die durch KI-fähige Produkte und Dienstleistungen verursacht werden, und das EU-KI-Büro, das darauf abzielt, die Durchsetzung von Vorschriften zu rationalisieren.

„Die wichtigsten Dinge, um sicherzustellen, dass das Gesetz das Papier wert ist, auf dem es geschrieben wurde, sind, dass das KI-Büro über Ressourcen verfügt, um die ihm übertragenen Aufgaben zu erfüllen, und dass die Verhaltenskodizes für allgemeine KI unter Einbeziehung zivilrechtlicher Aspekte gut formuliert sind.“ Gesellschaft“, sagte er.