Die niederländische Regierung wird als Teil einer ehrgeizigen Arbeitsagenda für die Digitalisierung mehrere wichtige Bestimmungen einer bevorstehenden EU-Gesetzgebung zur Regulierung der künstlichen Intelligenz (KI) frühzeitig umsetzen.
Die Niederlande waren in den vergangenen Jahren Schauplatz eines groß angelegten Skandals wegen eines fehlerhaften Algorithmus, der dazu führte, dass die Steuerbehörden Tausende von Betrug im Zusammenhang mit einem Kinderbetreuungsgeldsystem fälschlicherweise beschuldigten.
Den Haag versucht nun, die Menschenrechtsüberprüfung von Algorithmen und die Schaffung einer nationalen Datenbank anzuführen, um die von öffentlichen Stellen verwendeten KI-Systeme zu verfolgen, und nimmt zwei Aspekte des KI-Gesetzes vorweg, das Flaggschiff der Gesetzgebung zur Regulierung von KI-Anwendungen auf der Grundlage ihres Potenzials für Schaden.
„Das KI-Gesetz soll zu erklärbaren KI-Systemen führen, die die Menschenrechte respektieren und zu sinnvoller Transparenz führen, die Vertrauen schafft, was natürlich ein wesentlicher Baustein eines florierenden KI-Marktes und auch wichtig in einer Demokratie ist“, Alexandra van Huffelen, der niederländische Minister für Digitalisierung, gegenüber EURACTIV.
Die von der Regierung verabschiedete Arbeitsagenda umfasst auch neue Initiativen zur Förderung digitaler Kompetenzen und einer digitalen Geldbörse.
Öffentliches Register & Aufsicht
Eine neue Aufsichtsbehörde wird ab dem 1. Januar 2023 eine Reihe neuer Vorschriften durchsetzen, die im Wesentlichen die kommenden EU-Vorschriften zu Transparenzpflichten, Konformitätskennzeichnung und Beschwerderecht vorwegnehmen.
In ähnlicher Weise wird die niederländische Regierung im nächsten Monat ein obligatorisches Algorithmenregister für KI einführen, das von öffentlichen Stellen verwendet wird, von der Zentralverwaltung bis zu den lokalen Behörden. Die Idee ist, dass Bürger kein Recht auf Wiedergutmachung haben können, wenn sie nicht wissen, dass eine KI verwendet wird.
In der ursprünglichen Fassung des KI-Gesetzes waren nur Anbieter von risikoreichen KI-Systemen verpflichtet, sich in einer EU-weiten Datenbank zu registrieren. Auf Druck von Ländern wie den Niederlanden wurde die Verpflichtung jedoch auch auf Behörden ausgedehnt, die ein KI-System verwenden.
Eine der Blaupausen für das Algorithmentransparenzregister stammt von der Stadt Amsterdam, die freiwillig von drei verschiedenen Gruppen eingerichtet wurde: der allgemeinen Bevölkerung, Beamten und technischen Experten.
„Wir müssen mit den Unternehmen zusammenarbeiten. Sonst können wir unsere Algorithmen nicht transparent machen. IT-Abteilungen sind definitiv daran interessiert, sich zu öffnen und einen Dialog zu führen“, sagte ein Vertreter der Stadt Amsterdam letzte Woche auf einer Veranstaltung im Europäischen Parlament.
Folgenabschätzung
Darüber hinaus müssen die Behörden die Auswirkungen der Algorithmen auf die Menschenrechte bewerten, bevor sie eingesetzt werden.
Zu diesem Zweck hat die niederländische Regierung eine KI-Folgenabschätzung zur Bewertung der menschenrechtlichen Risiken des Systems entwickelt, bei deren Bestehen das System ein Konformitätsbewertungszeichen erhält.
„Bei der Bewertung von KI geht es nicht nur um die Technologie, sondern auch um den Kontext, in dem diese Technologie implementiert wird. Wir wollen nicht blind auf eine Black Box starren. Es ist wichtig, die Art und Weise zu berücksichtigen, wie die Black Box verwendet wird“, sagte Mirko Schafer, außerordentlicher Professor an der Universität Utrecht und Mitentwickler der Folgenabschätzung, auf derselben Veranstaltung.
Schafer erklärte, dass die Bewertung auf dem Kontext und Mehrwert der Verwendung der Algorithmen basiert, wie die Modelle trainiert wurden, die vorhandenen Maßnahmen zur Risikominderung, wie oft die KI überprüft werden muss und die möglichen Auswirkungen auf die Menschenrechte.
Das Register wird öffentlich zugänglich gemacht, damit Aufsichtsbehörden den Beratungsprozess beurteilen können, der auch von zivilgesellschaftlichen Organisationen und Journalisten überprüft werden könnte. Mit der Verabschiedung des AI-Gesetzes wird das Register für private Unternehmen verpflichtend.
Für van Huffelen geht die niederländische Folgenabschätzung nicht über die Position des EU-Rates zum KI-Gesetz hinaus, die ihrer Ansicht nach hinreichend belastbar ist. „Die Niederlande setzen sich dafür ein, dass dies bei zukünftigen Verhandlungen nicht verwässert wird“, fügte sie hinzu.
Digitale Fähigkeiten
Die niederländischen Behörden schätzen, dass 20 % der Bevölkerung in den Niederlanden keine Grundkenntnisse besitzen. Dieses Phänomen ist nicht auf die Ungebildeten beschränkt, sondern auch auf diejenigen, die umgeschult werden müssen, um die für die heutigen Berufe erforderlichen digitalen Kenntnisse zu erlangen.
Auf der Agenda stehen auch neue Digitalkompetenz-Curricula für den Programmierunterricht an Grund- und weiterführenden Schulen, die auf regionaler Ebene durch neue niederschwellige Ausbildungsangebote flankiert werden, die Schulabbrecher mit erweiterten digitalen Kompetenzen umschulen bzw. requalifizieren sollen.
Den Haag wird auch digitale Informationspunkte in öffentlichen Bibliotheken einführen, wo die Bürger Hilfe beim Online-Zugang zu wesentlichen öffentlichen Diensten erhalten können. Auch in diesem Zusammenhang arbeitet die niederländische Regierung an einer digitalen Geldbörse, die kommende Vorschriften auf EU-Ebene vorwegnimmt.
Die Brieftasche enthält nicht nur den Personalausweis, sondern alle öffentlichen Dokumente wie Führerscheine, Krankenversicherung und Bildungsabschlüsse. Es wird dem Grundsatz der Datenminimierung folgen, wenn also beispielsweise ein Nachtgeschäft es verwendet, um das Alter einer Person zu überprüfen, kann diese Person nicht auf andere Informationen wie eine persönliche Adresse zugreifen.
Eine Beta-Version des Wallets wird in den kommenden Wochen erwartet, wobei der offizielle Start für 2023 erwartet wird.
[Edited by Zoran Radosavljevic]