Als die USA Während die Bundesregierung Schwierigkeiten hat, KI sinnvoll zu regulieren – oder überhaupt zu funktionieren – springt New York City in die Governance-Lücke ein.
Die Stadt führte ein KI-Aktionsplan Diese Woche nennt Bürgermeister Eric Adams eine Premiere dieser Art in der Nation. Die rund 40 politischen Initiativen sollen die Bewohner vor Schäden wie Voreingenommenheit oder Diskriminierung durch KI schützen. Dazu gehört die Entwicklung von Standards für von städtischen Behörden erworbene KI sowie neue Mechanismen zur Messung des Risikos der von städtischen Behörden eingesetzten KI.
Die KI-Regulierung in New York könnte bald noch weiter ausgeweitet werden. Stadtratsmitglied Jennifer Gutiérrez, Vorsitzende des Technologieausschusses des Gremiums, stellte heute Gesetze vor, die ein Büro für algorithmische Datenintegrität zur Überwachung der KI in New York schaffen würden.
Im Falle seiner Einrichtung würde das Büro eine Anlaufstelle für Bürger bieten, an der sie Beschwerden über automatisierte Entscheidungssysteme öffentlicher Behörden entgegennehmen können, und als Ombudsmann für Algorithmen in den fünf Bezirken fungieren. Außerdem würden KI-Systeme vor dem Einsatz durch die Stadt auf Voreingenommenheit und Diskriminierung überprüft.
Mehrere US-Senatoren haben Anfang des Jahres die Schaffung einer neuen Bundesbehörde zur Regulierung von KI vorgeschlagen, aber Gutiérrez sagt, sie habe gelernt, dass es keinen Sinn habe, auf Maßnahmen in Washington, D.C. zu warten. „Wir haben eine einzigartige Verantwortung, weil hier viel Innovation lebt“, sagt sie. „Für uns ist es wirklich wichtig, die Führung zu übernehmen.“
Gutiérrez befürwortet eine Testpflicht für Algorithmen, die von der Stadtverwaltung verwendet werden, da KI allmählich weit verbreitet sei, sagt sie. Städtische Behörden sind daran interessiert, KI-Software für Verwaltungsaufgaben einzusetzen, etwa um das Risiko zu bewerten, dass ein Kind Opfer von Missbrauch wird, oder um die Lernraten von Schülern zu ermitteln. Sie ist auch misstrauisch gegenüber der Vorliebe von Bürgermeister Eric Adams für Technologien wie Roboterhunde und KI Robocalls in Sprachen tätigen, die er nicht spricht. New York City hat den Ruf, ein Testgelände für Überwachungstechnologie zu sein, angefangen beim jüngsten Anstieg des Drohneneinsatzes bis hin zum fragwürdigen Einsatz von Gesichtserkennung Gehäuse und Stadien sowie durch die Polizei.
New York war der Bundesregierung bei der KI-Regulierung bereits vor dieser Woche voraus. Eine Stadt Einsatzgruppe wurde 2018 gegründet, um den Einsatz der Technologie zu bewerten. Anfang des Jahres trat ein Gesetz in Kraft, das vorschreibt, dass von Unternehmen verwendete Einstellungsalgorithmen auf Voreingenommenheit überprüft werden müssen. Einige Schutzmaßnahmen wurden jedoch zurückgenommen. Im Januar 2022, Adams abgesagt eine Durchführungsverordnung von seinem Vorgänger unterzeichnet, Bill de Blasio, der einen Beauftragten für Algorithmenmanagement und -politik geschaffen hat, um mit städtischen Behörden an der gerechten Bereitstellung von KI zu arbeiten. In einem Bericht des Beamten aus dem Jahr 2020 heißt es, dass städtische Behörden 16 Arten von Algorithmen verwendeten, die möglicherweise erhebliche Auswirkungen auf die Rechte der Menschen hatten, aber nicht jedes von der New York City Police Department verwendete KI-Modell untersuchten.
Gutiérrez sagt, sie habe immer noch kein umfassendes Verständnis der von städtischen Behörden verwendeten Algorithmen. Ein Audit im Februar veröffentlicht Der Rechnungsprüfer des Staates New York stellte fest, dass die Stadt einen Ad-hoc- und unvollständigen Ansatz zur KI-Governance verfolgt. Darin wurde gewarnt, dies bedeute, dass die Stadt „nicht sicherstellen kann, dass der Einsatz von KI durch die Stadt transparent, genau und unvoreingenommen ist und unterschiedliche Auswirkungen vermeidet“.