NEW YORK (AP) – Die Besorgnis über immer leistungsfähigere Systeme der künstlichen Intelligenz wächst Wie ChatGPT sagt die Finanzaufsichtsbehörde des Landes, sie arbeite daran, sicherzustellen, dass Unternehmen beim Einsatz von KI die Gesetze einhalten.
Automatisierte Systeme und Algorithmen helfen bereits dabei, Bonitätsbewertungen, Kreditbedingungen, Bankkontogebühren und andere Aspekte unseres Finanzlebens zu bestimmen. KI wirkt sich auch auf Einstellungs-, Wohn- und Arbeitsbedingungen aus.
Ben Winters, Senior Counsel des Electronic Privacy Information Center, sagte a Gemeinsame Erklärung zur Durchsetzung Die im letzten Monat von Bundesbehörden veröffentlichten Informationen waren ein erster positiver Schritt.
„Es gibt das Narrativ, dass KI völlig unreguliert sei, was nicht wirklich stimmt“, sagte er. „Sie sagen: ‚Nur weil Sie KI nutzen, um eine Entscheidung zu treffen, bedeutet das nicht, dass Sie von der Verantwortung für die Auswirkungen dieser Entscheidung befreit sind.‘ Das ist unsere Meinung dazu. Haben geguckt.'”
Im vergangenen Jahr gab das Consumer Finance Protection Bureau an, Banken wegen schlecht verwalteter automatisierter Systeme mit Geldstrafen belegt zu haben Dies führte zu unrechtmäßigen Zwangsvollstreckungen von Eigenheimen, Pfändungen von Autos und entgangenen Sozialleistungen, nachdem die Institutionen auf neue Technologien und fehlerhafte Algorithmen setzten.
Es werde keine „KI-Ausnahmen“ für den Verbraucherschutz geben, sagen die Regulierungsbehörden und verweisen auf diese Durchsetzungsmaßnahmen als Beispiele.
Rohit Chopra, Direktor des Consumer Finance Protection Bureau, sagte, die Agentur habe „bereits damit begonnen, sich intern weiter zu stärken, wenn es darum geht, Datenwissenschaftler, Technologen und andere an Bord zu holen, um sicherzustellen, dass wir diese Herausforderungen meistern können“, und dass die Agentur weitermacht um potenziell illegale Aktivitäten zu identifizieren.
Vertreter der Federal Trade Commission, der Equal Employment Opportunity Commission und des Justizministeriums sowie der CFPB sagen alle, dass sie Ressourcen und Personal anweisen, sich auf neue Technologien zu konzentrieren und identifizieren Sie negative Möglichkeiten, wie sich dies auf das Leben der Verbraucher auswirken könnte.
„Wir versuchen unter anderem klarzustellen, dass Unternehmen, die nicht einmal verstehen, wie ihre KI Entscheidungen trifft, sie nicht wirklich nutzen können“, sagte Chopra. „In anderen Fällen prüfen wir, wie unsere Gesetze zur fairen Kreditvergabe eingehalten werden, wenn es um die Verwendung all dieser Daten geht.“
Nach dem Fair Credit Reporting Act und dem Equal Credit Opportunity Act sind Finanzdienstleister beispielsweise gesetzlich verpflichtet, jede negative Kreditentscheidung zu erläutern. Diese Regelungen gelten auch für Entscheidungen über Wohnen und Beschäftigung. Wenn KI Entscheidungen auf eine Art und Weise trifft, die zu undurchsichtig ist, um sie erklären zu können, sollten die Algorithmen laut Aufsichtsbehörden nicht verwendet werden.
„Ich denke, es herrschte das Gefühl: ‚Oh, geben wir es einfach den Robotern und es wird keine Diskriminierung mehr geben‘“, sagte Chopra. „Ich denke, die Erkenntnis ist, dass das überhaupt nicht stimmt. In gewisser Weise ist die Verzerrung in die Daten eingebaut.“
Die Vorsitzende der EEOC, Charlotte Burrows, sagte, es werde Maßnahmen gegen KI-Einstellungstechnologien geben, die beispielsweise Bewerber mit Behinderungen aussortieren, sowie gegen sogenannte „Bossware“, die Arbeitnehmer illegal überwacht.
Burrows beschrieb auch Möglichkeiten, wie Algorithmen vorschreiben könnten, wie und wann Mitarbeiter auf eine Weise arbeiten dürfen, die gegen geltendes Recht verstoßen würde.
„Wenn Sie eine Pause brauchen, weil Sie eine Behinderung haben oder vielleicht schwanger sind, brauchen Sie eine Pause“, sagte sie. „Der Algorithmus berücksichtigt diese Anpassung nicht unbedingt. Das sind Dinge, die wir uns genau ansehen … Ich möchte klarstellen, dass wir uns zwar darüber im Klaren sind, dass sich die Technologie weiterentwickelt, die zugrunde liegende Botschaft jedoch darin besteht, dass die Gesetze immer noch gelten und wir über Instrumente zur Durchsetzung verfügen.“
Der Top-Anwalt von OpenAI schlug diesen Monat auf einer Konferenz einen branchenorientierten Regulierungsansatz vor.
„Ich denke, es beginnt zunächst mit dem Versuch, zu einer Art von Standards zu gelangen“, sagte Jason Kwon, General Counsel von OpenAI, auf einem Technologiegipfel in Washington, D.C., der von der Software-Industriegruppe BSA ausgerichtet wurde. „Diese könnten mit Industriestandards beginnen und eine Art Zusammenschluss darauf aufbauen. Und Entscheidungen darüber, ob diese verpflichtend gemacht werden sollen oder nicht und wie der Prozess für deren Aktualisierung abläuft, sind wahrscheinlich ein fruchtbarer Boden für weitere Gespräche.“
Sam Altman, der Leiter von OpenAI, das ChatGPT herstellt, sagte, dass ein Eingreifen der Regierung „von entscheidender Bedeutung sein wird, um die Risiken immer leistungsfähigerer“ KI-Systeme zu mindernwas die Gründung einer US-amerikanischen oder globalen Agentur zur Lizenzierung und Regulierung der Technologie vorschlägt.
Zwar gibt es keine unmittelbaren Anzeichen dafür, dass der Kongress weitreichende neue KI-Regeln ausarbeiten wird, wie es die europäischen Gesetzgeber tungesellschaftliche Bedenken brachten Altman und andere Tech-CEOs ins Weiße Haus diesen Monat, um schwierige Fragen zu den Auswirkungen dieser Tools zu beantworten.
Winters vom Electronic Privacy Information Center sagte, die Behörden könnten mehr tun, um Informationen über die relevanten KI-Märkte zu untersuchen und zu veröffentlichen, wie die Branche funktioniert, wer die größten Akteure sind und wie die gesammelten Informationen verwendet werden – und zwar durch die Regulierungsbehörden Dies haben wir in der Vergangenheit mit neuen Konsumentenfinanzierungsprodukten und -technologien getan.
„Die CFPB hat dabei mit den „Jetzt kaufen, später bezahlen“-Unternehmen ziemlich gute Arbeit geleistet,” er sagte. „Es gibt so viele Teile des KI-Ökosystems, die noch so unbekannt sind. Die Veröffentlichung dieser Informationen würde viel bewirken.“
___
Der Technologiereporter Matt O’Brien hat zu diesem Bericht beigetragen.
___
Associated Press erhält Unterstützung von der Charles Schwab Foundation für pädagogische und erklärende Berichterstattung zur Verbesserung der Finanzkompetenz. Die unabhängige Stiftung ist von Charles Schwab and Co. Inc. getrennt. Die AP ist allein für ihren Journalismus verantwortlich.