Das Europäische Parlament hat gerade für die Annahme eines Vorschlags der EU-Kommission gestimmt, um den Einsatz künstlicher Intelligenz sicherer zu machen. Der neue Vorschlag, der von Mitgliedern des Europäischen Parlaments (MdEP) geändert wurde, zielt darauf ab, „sicherzustellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind“.
Das KI-Gesetz ist angesichts des aktuellen Stands des Diskurses über künstliche Intelligenz sehr sinnvoll, obwohl es sich um die erste verbotene Praxis in der EU handelt ursprünglicher Vorschlag (öffnet sich in neuem Tab) strahlt echte Ich-Roboter-Vibes aus.
Zu einer langen Liste verbotener Praktiken gehört „das Inverkehrbringen, die Inbetriebnahme oder die Nutzung eines KI-Systems, das unterschwellige Techniken außerhalb des Bewusstseins einer Person einsetzt, um das Verhalten einer Person in einer Weise wesentlich zu verfälschen, die dazu führt oder wahrscheinlich dazu führt.“ dieser oder einer anderen Person körperlichen oder seelischen Schaden zufügen.
Natürlich gibt es immer eine gewisse Grauzone, was einen physischen und psychischen Schaden darstellt. Aber das ist eine Meinung für einen anderen Tag.
Nachrichten zum Europäischen Parlament (öffnet sich in neuem Tab) gibt einen Überblick über das geänderte „risikobasierte“ KI-Gesetz, das mit einer satten Mehrheit von 84 Stimmen in die Verhandlungsphase des Entwurfs gelangte. Nur sieben Abgeordnete stimmten dagegen, zwölf verzichteten überhaupt auf die Abstimmung.
Gegenüber dem ursprünglichen Entwurf haben die Abgeordneten einige Änderungen vorgenommen, um „einen aufdringlichen und diskriminierenden Einsatz von KI-Systemen“ zu vermeiden. Brando Benifei, Mitglied der Sozialdemokratischen Partei Italiens und Vertreter des Binnenmarktausschusses, sagte zuvor, er sei „zuversichtlich, dass wir morgen die biometrische Identifizierung in Echtzeit und per Post in öffentlich zugänglichen Räumen in diese Liste verbotener Praktiken aufnehmen werden“.
Dies ist geschehen, und die geänderte Liste der verbotenen Praktiken der künstlichen Intelligenz lautet nun wie folgt:
- Biometrische Fernidentifizierungssysteme in „Echtzeit“ in öffentlich zugänglichen Räumen;
- „Post“-Systeme zur biometrischen Fernidentifizierung, mit Ausnahme der Strafverfolgung zur Verfolgung schwerer Straftaten und nur nach gerichtlicher Genehmigung;
- Biometrische Kategorisierungssysteme anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaftsstatus, Religion, politische Orientierung);
- Emotionserkennungssysteme in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen; Und
- Willkürliches Auslesen biometrischer Daten aus sozialen Medien oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Auch innerhalb des Gesetzes wird großer Wert auf Transparenz gelegt. Entwickler von „generativen Basismodellen wie GPT“ müssen nicht nur ausdrücklich klarstellen, dass ihre Inhalte von KI generiert wurden, sondern auch Maßnahmen ergreifen, um zu verhindern, dass ihr Modell „Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht“ und „illegale Daten generiert“. Inhalt”.
Der rumänische Europaabgeordnete Dragos Tudorache, der den Ausschuss für bürgerliche Freiheiten vertritt, sprach mit Reportern und versicherte ihnen, dass das Gesetz die Urheberrechtsfragen im Zusammenhang mit der KI-Entwicklung regeln werde. Seiner Erklärung zufolge werden KI-Unternehmen, die urheberrechtlich geschütztes Material verwenden, „die Pflicht haben, darüber transparent zu sein, es zu dokumentieren und transparent zu sein, so dass den Inhabern der Rechte die Möglichkeit eröffnet wird, Schadensersatz zu fordern“.
Er weist außerdem darauf hin, dass es wichtig sei, Innovationen im KI-Start-up-Bereich nicht zu unterdrücken. „Wir haben daran gearbeitet, KI-Innovationen in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben, während wir gleichzeitig die Grundrechte schützen, die demokratische Aufsicht stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung sicherstellen.“
Wenn das KI-Gesetz verabschiedet wird, wird es das erste seiner Art weltweit sein, das sichere und transparente Praktiken für die Entwicklung künstlicher Intelligenz darlegt. Bei der Sitzung vom 12. bis 15. Juni bedarf es der Unterstützung des gesamten Parlaments, wobei die Mehrheit die von den Abgeordneten vorgenommenen Änderungen akzeptieren muss.