Es ist fünf Monate her, seit Präsident Joe Biden eine Executive Order (EO) unterzeichnet hat, um die rasanten Fortschritte in der künstlichen Intelligenz anzugehen. Das Weiße Haus macht heute einen weiteren Schritt bei der Umsetzung des EO mit einer Politik, die darauf abzielt, den Einsatz von KI durch die Bundesregierung zu regulieren. Zu den Sicherheitsvorkehrungen, über die die Behörden verfügen müssen, gehören unter anderem Möglichkeiten, das Risiko algorithmischer Verzerrungen zu mindern.
„Ich glaube, dass alle Führungskräfte aus Regierung, Zivilgesellschaft und Privatsektor eine moralische, ethische und gesellschaftliche Pflicht haben, dafür zu sorgen, dass künstliche Intelligenz auf eine Weise eingeführt und weiterentwickelt wird, die die Öffentlichkeit vor potenziellem Schaden schützt und gleichzeitig sicherstellt, dass jeder davon profitieren kann.“ seine Vorteile”, sagte Vizepräsidentin Kamala Harris gegenüber Reportern in einem Pressegespräch.
Harris kündigte drei verbindliche Anforderungen im Rahmen einer neuen Richtlinie des Office of Management and Budget (OMB) an. Erstens müssen die Behörden sicherstellen, dass alle von ihnen verwendeten KI-Tools „die Rechte und die Sicherheit des amerikanischen Volkes nicht gefährden“. Sie haben bis zum 1. Dezember Zeit, um sicherzustellen, dass sie über „konkrete Sicherheitsvorkehrungen“ verfügen, um sicherzustellen, dass die von ihnen eingesetzten KI-Systeme die Sicherheit oder Rechte der Amerikaner nicht beeinträchtigen. Andernfalls muss die Behörde die Verwendung eines KI-Produkts einstellen, es sei denn, ihre Führungskräfte können begründen, dass die Abschaffung des Systems „inakzeptable“ Auswirkungen auf kritische Abläufe hätte.
Auswirkungen auf die Rechte und Sicherheit der Amerikaner
Gemäß der Richtlinie wird davon ausgegangen, dass sich ein KI-System auf die Sicherheit auswirkt, wenn es „unter realen Bedingungen dazu verwendet wird oder erwartet wird, dass es verwendet wird, um die Ergebnisse bestimmter Aktivitäten und Entscheidungen zu steuern oder erheblich zu beeinflussen“. Dazu gehören die Aufrechterhaltung der Wahlintegrität und der Wahlinfrastruktur; Steuerung kritischer Sicherheitsfunktionen der Infrastruktur wie Wassersysteme, Notfalldienste und Stromnetze; autonome Fahrzeuge; und die physischen Bewegungen von Robotern „am Arbeitsplatz, in der Schule, im Wohnungsbau, im Transportwesen, in der Medizin oder bei der Strafverfolgung“ zu steuern.
Sofern sie nicht über entsprechende Sicherheitsvorkehrungen verfügen oder ihren Einsatz nicht anderweitig rechtfertigen können, müssen die Behörden auch auf KI-Systeme verzichten, die die Rechte der Amerikaner verletzen. Zu den Zwecken, von denen die Richtlinie annimmt, dass sie sich auf definierte Rechte auswirken, gehören vorausschauende Polizeiarbeit; Überwachung sozialer Medien für die Strafverfolgung; Erkennung von Plagiaten in Schulen; Blockierung oder Einschränkung geschützter Sprache; Erkennen oder Messen menschlicher Emotionen und Gedanken; Screening vor der Einstellung; und „das Nachbilden des Abbilds oder der Stimme einer Person ohne ausdrückliche Zustimmung.“
Wenn es um generative KI geht, schreibt die Richtlinie vor, dass Agenturen den potenziellen Nutzen bewerten sollten. Sie alle müssen außerdem „angemessene Schutzmaßnahmen und Aufsichtsmechanismen einrichten, die den Einsatz generativer KI in der Behörde ermöglichen, ohne dass ein übermäßiges Risiko entsteht.“
Transparenzanforderungen
Die zweite Anforderung wird die Behörden dazu zwingen, transparent über die von ihnen verwendeten KI-Systeme zu sein. „Heute fordern Präsident Biden und ich, dass US-Regierungsbehörden jedes Jahr online eine Liste ihrer KI-Systeme veröffentlichen, eine Bewertung der Risiken, die diese Systeme darstellen könnten, und wie mit diesen Risiken umgegangen wird“, sagte Harris.
Im Rahmen dieser Bemühungen müssen Behörden staatliche KI-Codes, -Modelle und -Daten veröffentlichen, sofern dies der Öffentlichkeit oder dem Regierungsbetrieb nicht schadet. Wenn eine Agentur aus Sensibilitätsgründen bestimmte KI-Anwendungsfälle nicht offenlegen kann, muss sie dennoch Kennzahlen melden
Zu guter Letzt müssen die Bundesbehörden ihre KI-Nutzung intern überwachen. Dazu gehört, dass jede Abteilung einen Chief AI Officer ernennt, der den gesamten KI-Einsatz einer Behörde überwacht. „Damit soll sichergestellt werden, dass KI verantwortungsvoll eingesetzt wird, wobei wir uns darüber im Klaren sind, dass wir in unserer gesamten Regierung hochrangige Führungskräfte haben müssen, die speziell mit der Überwachung der KI-Einführung und -Nutzung beauftragt sind“, bemerkte Harris. Viele Behörden müssen außerdem bis zum 27. Mai über KI-Governance-Boards verfügen.
Der Vizepräsident fügte hinzu, dass prominente Persönlichkeiten aus dem öffentlichen und privaten Sektor (darunter Bürgerrechtler und Informatiker) zusammen mit Wirtschaftsführern und Rechtswissenschaftlern die Politik mitgestalteten.
Das OMB schlägt vor, dass die Transportation Security Administration durch die Einführung der Sicherheitsvorkehrungen Flugreisenden die Möglichkeit geben muss, auf Gesichtserkennungsscans zu verzichten, ohne ihren Platz in der Warteschlange zu verlieren oder mit einer Verspätung zu rechnen. Es schlägt auch vor, dass es im Bundesgesundheitssystem eine menschliche Aufsicht über Dinge wie die Aufdeckung von KI-Betrug und Diagnoseentscheidungen geben sollte.
Wie Sie sich vorstellen können, nutzen Regierungsbehörden KI-Systeme bereits auf vielfältige Weise. Die National Oceanic and Atmospheric Administration arbeitet an Modellen der künstlichen Intelligenz, um extreme Wetterbedingungen, Überschwemmungen und Waldbrände genauer vorhersagen zu können, während die Federal Aviation Administration ein System zur Steuerung des Flugverkehrs in großen Ballungsräumen einsetzt, um die Reisezeit zu verkürzen.
„KI birgt nicht nur Risiken, sondern auch eine enorme Chance, öffentliche Dienstleistungen zu verbessern und Fortschritte bei gesellschaftlichen Herausforderungen wie der Bewältigung des Klimawandels, der Verbesserung der öffentlichen Gesundheit und der Förderung gerechter wirtschaftlicher Chancen zu erzielen“, sagte OMB-Direktorin Shalanda Young gegenüber Reportern. „Bei verantwortungsvoller Nutzung und Überwachung kann KI Behörden dabei helfen, Wartezeiten für wichtige Regierungsdienste zu verkürzen, die Genauigkeit zu verbessern und den Zugang zu wichtigen öffentlichen Diensten zu erweitern.“
Diese Richtlinie ist die jüngste in einer Reihe von Bemühungen zur Regulierung des sich schnell entwickelnden Bereichs der KI. Während die Europäische Union ein umfassendes Regelwerk für den KI-Einsatz in der Union verabschiedet hat, gibt es solche Bundesgesetze in der RohrleitungDie Bemühungen zur Regulierung der KI in den USA haben auf staatlicher Ebene eher einen Patchwork-Ansatz verfolgt. Diesen Monat Utah ein Gesetz erlassen um Verbraucher vor KI-Betrug zu schützen. In Tennessee gilt der Ensuring Likeness Voice and Image Security Act (auch bekannt als Elvis Act – im Ernst). ein Versuch um Musiker vor Deepfakes zu schützen, also vor dem unerlaubten Klonen ihrer Stimmen.