Es wäre unverantwortlich, wenn die EU die Regulierung europäischer Stiftungsmodellentwickler außer Acht lassen würde. Um ihre KMU zu unterstützen und sicherzustellen, dass KI für Menschen und Gesellschaft funktioniert, muss die EU im KI-Gesetz Regeln für diese Unternehmen schaffen, schreibt Connor Dunlop.
Connor Dunlop ist EU Public Policy Lead am Ada Lovelace Institute.
Die Europäische Union hat eine lange Tradition in der Regulierung von Technologien, die ernsthafte Risiken für die öffentliche Sicherheit und Gesundheit darstellen. Ob es um Automobile, Flugzeuge, Lebensmittelsicherheit, medizinische Geräte oder Arzneimittel geht: Die EU hat Produktsicherheitsgesetze erlassen, die klare Regeln schaffen, an die sich Unternehmen halten müssen.
Diese Regeln sorgen für die Sicherheit der Menschen, schützen ihre Grundrechte und stellen sicher, dass die Öffentlichkeit diesen Technologien genug vertraut, um sie zu nutzen. Ohne Regulierung ist die Wahrscheinlichkeit höher, dass wesentliche öffentliche und kommerzielle Dienste nicht richtig funktionieren oder missbraucht werden, was möglicherweise zu erheblichem Schaden für Menschen und die Gesellschaft führen kann.
KI-Technologien, die zunehmend in unser tägliches Leben integriert werden, bilden hier keine Ausnahme.
Aus diesem Blickwinkel ist die aktuelle Debatte in der EU über das KI-Gesetz zu betrachten, das darauf abzielt, harmonisierte Produktsicherheitsregeln für KI festzulegen. Dazu gehören auch Gründungsmodelle, die erhebliche Risiken bergen, da sie das Potenzial haben, eine KI-Infrastruktur zu bilden, auf der nachgelagerte KMU aufbauen.
Aus diesem Grund haben die EU-Gesetzgeber Leitplanken für Anbieter von Stiftungsmodellen vorgeschlagen, darunter unabhängige Prüfungen, Sicherheits- und Cybersicherheitstests, Risikobewertungen und -minderung.
Angesichts der Bandbreite und Schwere der Risiken, die Stiftungsmodelle mit sich bringen, sind diese Vorschläge sinnvolle Schritte zur Gewährleistung der öffentlichen Sicherheit und des Vertrauens – und um sicherzustellen, dass die KMU, die diese Produkte verwenden, darauf vertrauen können, dass sie sicher sind.
Doch letzte Woche lehnten Frankreich, Deutschland und Italien diese Vorgaben ab und schlugen vor, Stiftungsmodelle von jeglichen Regulierungspflichten auszunehmen.
Diese Position hat nun die Aussicht auf eine unbefristete Verzögerung des gesamten EU-KI-Gesetzes aufgeworfen – das alle Arten von KI-Systemen abdeckt, von biometrischen Technologien bis hin zu Systemen, die sich auf unsere Wahlprozesse auswirken.
Frankreich und Deutschland behaupten, dass diese regulatorischen Verpflichtungen für eine Handvoll Unternehmen, die Hunderte Millionen an Finanzmitteln für den Aufbau von Open-Source-Grundlagenmodellen aufgebracht haben, zu belastend sein werden.
Es wäre jedoch unverantwortlich, wenn die EU die Regulierung großer Stiftungsmodellanbieter aufheben würde, um ein paar „nationale Champions“ zu schützen. Dies würde letztendlich die Innovation im KI-Ökosystem der EU ersticken – von dem nachgelagerte KMU und Start-ups die überwiegende Mehrheit ausmachen. KMU, die Basismodelle integrieren oder darauf aufbauen möchten, verfügen nicht über das Fachwissen, die Kapazität oder – was noch wichtiger ist – den Zugang zu den Modellen, um ihre KI-Anwendungen mit dem KI-Gesetz in Einklang zu bringen.
Modellanbieter sind deutlich besser in der Lage, robuste Sicherheitstests durchzuführen, und nur sie sind sich des vollen Umfangs der Fähigkeiten und Mängel der Modelle bewusst. Es ist sinnvoll, dass die Verpflichtung zur Durchführung von Sicherheitsprüfungen mit ihnen fortbesteht, wie dies auch der Fall sein wird Davon profitieren Tausende von nachgeschalteten Benutzern dieser Systeme.
Aus diesem Grund hat die DIGITAL SME Alliance, die 45.000 IKT-KMU in Europa vertritt, dies getan angerufen für eine faire Verantwortungsverteilung in der Wertschöpfungskette, auch auf Modellebene.
Ohne dies wird es für KMU äußerst schwierig sein, die Anforderungen des KI-Gesetzes zu erfüllen, was dazu führen könnte, dass sie die Nutzung von Stiftungsmodellen ganz einstellen oder auf andere Weise der Belastung durch Compliance und Haftung unverhältnismäßig stark ausgesetzt sind.
Die Positionen Frankreichs und Deutschlands zu Stiftungsmodellen basieren auf dem unbewiesenen, aber weit verbreiteten Mythos, dass Regulierung im Widerspruch zu Innovation steht. Es gibt jedoch Untersuchungen zu den Auswirkungen der Regulierung in verschiedenen Sektoren zeigt an viele Beispiele der Regulierung ermöglichen größere InnovationMarktwettbewerb und Akzeptanz bestimmter Technologien innerhalb der Gesellschaft. Unsere eigene Forschung zu öffentlichen Einstellungen zeigt, dass die Menschen erwarten, dass KI-Produkte sicher sind und dass sie reguliert werden.
Jüngste internationale Abkommen wie die Bletchley-Erklärung und G7-Verpflichtungen erkennen die Risiken fortschrittlicher Stiftungsmodelle an und haben freiwillige Best Practices für die Industrie festgelegt.
Diese Initiativen erkennen ausdrücklich an, dass die meisten Risiken von Entwicklern von Basismodellen angegangen werden müssen. Obwohl diese Vorschläge willkommen sind, erfordert ein wirksamer Schutz eine strenge Regulierung, um diese Praktiken zu stärken. So wie es Technologieunternehmen getan haben in der Vergangenheit gezeigt Bei freiwilligen Selbstverpflichtungen scheitern unverbindliche Richtlinien als sinnvolle Form der Rechenschaftspflicht. Da es keinen starken Regulierungsrahmen gibt, werden sich Unternehmen dafür entscheiden, Unternehmensanreizen Vorrang vor Sicherheit zu geben.
Ein „gestufter“ Ansatz, wie er von der spanischen Ratspräsidentschaft vorgeschlagen wird, bietet einen fairen Kompromiss – er gewährleistet die Einhaltung und Sicherheit von groß angelegten Gründungsmodellen und entlastet gleichzeitig EU-Unternehmen, die kleinere Modelle aufbauen, bis ihre Modelle die gleiche Wirkung entfalten.
Der Einsatz könnte diese Woche nicht höher sein. Europa hat die seltene Gelegenheit, harmonisierte Regeln, Institutionen und Prozesse zu etablieren, um die Interessen von Zehntausenden von Unternehmen zu schützen, die Stiftungsmodelle nutzen werden, und um die Millionen von Menschen zu schützen, die von den potenziellen Schäden betroffen sein werden.
Europa hat Dies ist in der Vergangenheit auch in anderen Branchen der Fall gewesen ohne dabei seinen wirtschaftlichen Vorteil zu opfern, wie etwa in der Zivilluftfahrt, wo sicherheitsbasierte Vorschriften zwischen 1998 und 2008 das Todesrisiko um 83 % reduzierten und gleichzeitig einen jährlichen Anstieg der geflogenen Passagierkilometer um 5 % verzeichneten.
Diese Gelegenheit wird es lange nicht mehr geben. Die letzten Jahre haben gezeigt, wie unregulierte KI weitreichende gesellschaftliche Schäden und wirtschaftliche Ungleichheit verursachen kann. Um seine Bevölkerung und seine KMU zu schützen, muss Europa dieses Gesetz verabschieden.