Bis Ende April hatte sich das Europäische Parlament auf eine Liste von Praktiken konzentriert, die verboten werden sollten: Social Scoring, Predictive Policing, Algorithmen, die wahllos das Internet nach Fotos durchsuchen, und biometrische Erkennung in Echtzeit im öffentlichen Raum. Allerdings stellten Abgeordnete der konservativen Europäischen Volkspartei am Donnerstag noch in Frage, ob das Biometrieverbot aufgehoben werden sollte. „Es ist ein stark spaltendes politisches Thema, weil einige politische Kräfte und Gruppen es als eine Kraft zur Verbrechensbekämpfung sehen und andere, wie die Progressiven, wir sehen darin ein System der sozialen Kontrolle“, sagt Brando Benifei, Mitberichterstatter und Italiener MdEP der Fraktion der Sozialisten und Demokraten.
Als nächstes kamen Gespräche über die Arten von KI, die als risikoreich gekennzeichnet werden sollten, wie z. B. Algorithmen, die zur Verwaltung der Belegschaft eines Unternehmens oder von einer Regierung zur Steuerung der Migration verwendet werden. Diese sind nicht verboten. „Aber wegen ihrer möglichen Auswirkungen – und ich unterstreiche das Wort Potenzial– in Bezug auf unsere Rechte und Interessen, müssen sie einige Compliance-Anforderungen erfüllen, um sicherzustellen, dass diese Risiken angemessen gemindert werden“, sagt Nechitas Chef, der rumänische Europaabgeordnete und Ko-Berichterstatter Dragoș Tudorache, und fügt hinzu, dass die meisten dieser Anforderungen hauptsächlich zu erfüllen sind mit Transparenz. Entwickler müssen zeigen, welche Daten sie zum Trainieren ihrer KI verwendet haben, und sie müssen zeigen, wie sie proaktiv versucht haben, Vorurteile zu beseitigen. Es würde auch ein neues KI-Gremium eingerichtet, um eine zentrale Drehscheibe für die Durchsetzung zu schaffen.
Unternehmen, die generative KI-Tools wie ChatGPT einsetzen, müssten offenlegen, ob ihre Modelle mit urheberrechtlich geschütztem Material trainiert wurden, was Klagen wahrscheinlicher macht. Und Text- oder Bildgeneratoren wie MidJourney müssten sich ebenfalls als Maschinen identifizieren und ihre Inhalte so kennzeichnen, dass sie künstlich erzeugt werden. Sie sollten auch sicherstellen, dass ihre Tools keinen Kindesmissbrauch, Terrorismus oder Hassreden oder andere Arten von Inhalten produzieren, die gegen EU-Recht verstoßen.
Eine Person, die darum bat, anonym zu bleiben, weil sie keine negative Aufmerksamkeit von Lobbygruppen erregen wollte, sagte, einige der Regeln für Allzweck-KI-Systeme seien Anfang Mai nach der Lobbyarbeit von Technologiegiganten verwässert worden. Anforderungen an Gründungsmodelle – die die Grundlage von Tools wie ChatGPT bilden –, die von unabhängigen Experten geprüft werden müssen, wurden herausgenommen.
Das Parlament stimmte jedoch zu, dass Gründungsmodelle in einer Datenbank registriert werden sollten, bevor sie auf den Markt gebracht werden, sodass Unternehmen die EU darüber informieren müssten, was sie mit dem Verkauf begonnen haben. „Das ist ein guter Anfang“, sagt Nicolas Moës, Direktor für europäische KI-Governance bei der Future Society, einem Think Tank.
Die Lobbyarbeit von Big Tech-Unternehmen, einschließlich Alphabet und Microsoft, ist etwas, vor dem Gesetzgeber weltweit vorsichtig sein müssen, sagt Sarah Myers West, Geschäftsführerin des AI Now Institute, einer anderen Denkfabrik. „Ich denke, wir sehen ein aufkommendes Spielbuch dafür, wie sie versuchen, das politische Umfeld zu ihren Gunsten zu kippen“, sagt sie.
Was das Europäische Parlament letztendlich erzielt hat, ist eine Einigung, die versucht, allen zu gefallen. „Es ist ein echter Kompromiss“, sagt ein Parlamentsbeamter, der darum bat, nicht genannt zu werden, weil er nicht befugt ist, öffentlich zu sprechen. „Alle sind gleich unglücklich.“