Der Leiter des Unternehmens für künstliche Intelligenz, das ChatGPT herstellt, sagte dem Kongress am Dienstag, dass staatliche Eingriffe von entscheidender Bedeutung seien, um die Risiken immer leistungsfähigerer KI-Systeme zu mindern.
„Während diese Technologie voranschreitet, verstehen wir, dass die Menschen besorgt darüber sind, wie sie unsere Lebensweise verändern könnte. Das tun wir auch“, sagte OpenAI-CEO Sam Altman bei einer Anhörung im Senat.
Altman schlug die Gründung einer US-amerikanischen oder globalen Agentur vor, die die leistungsstärksten KI-Systeme lizenzieren und die Befugnis haben würde, „diese Lizenz zu entziehen und die Einhaltung von Sicherheitsstandards sicherzustellen“.
Sein in San Francisco ansässiges Startup erlangte rasante öffentliche Aufmerksamkeit, nachdem es Ende letzten Jahres ChatGPT veröffentlichte.
Das kostenlose Chatbot-Tool beantwortet Fragen mit überzeugend menschlichen Antworten.
Was als Panik unter Pädagogen über die Verwendung von ChatGPT zum Schummeln bei Hausaufgaben begann, hat sich zu breiteren Bedenken hinsichtlich der Fähigkeit der neuesten Generation von „generativen KI“-Tools ausgeweitet, Menschen irrezuführen, Unwahrheiten zu verbreiten, Urheberrechtsschutz zu verletzen und einige Arbeitsplätze auf den Kopf zu stellen.
Und obwohl es keine unmittelbaren Anzeichen dafür gibt, dass der Kongress weitreichende neue KI-Regeln ausarbeiten wird, wie es die europäischen Gesetzgeber tun, haben die gesellschaftlichen Bedenken Altman und andere Technologie-CEOs Anfang dieses Monats ins Weiße Haus gebracht und US-Behörden dazu veranlasst, zu versprechen, gegen schädliche KI-Produkte vorzugehen die gegen bestehende Bürgerrechte und Verbraucherschutzgesetze verstoßen.
Senator Richard Blumenthal, der Demokrat aus Connecticut, der den Unterausschuss für Privatsphäre, Technologie und Recht des Justizausschusses des Senats leitet, eröffnete die Anhörung mit einer aufgezeichneten Rede, die wie die des Senators klang, in Wirklichkeit aber ein Stimmklon war, der auf Blumenthals Reden und das Rezitieren von ChatGPT trainiert war. schriftliche Eröffnungsrede.
Das Ergebnis sei beeindruckend, sagte Blumenthal, fügte aber hinzu: „Was wäre, wenn ich danach gefragt hätte und was wäre, wenn es eine Bestätigung der Kapitulation der Ukraine oder der Führung (des russischen Präsidenten) Wladimir Putin gegeben hätte?“
Der allgemeine Ton der Befragung der Senatoren am Dienstag war höflich, ein Gegensatz zu früheren Anhörungen im Kongress, bei denen Technologie- und Social-Media-Führungskräfte wegen der Versäumnisse der Branche, den Datenschutz zu gewährleisten oder schädlichen Fehlinformationen entgegenzuwirken, scharf kritisiert wurden.
Dies lag zum Teil daran, dass sowohl Demokraten als auch Republikaner sagten, sie seien daran interessiert, Altmans Fachwissen zur Abwendung von Problemen einzuholen, die noch nicht aufgetreten sind.
Blumenthal sagte, dass KI-Unternehmen verpflichtet werden sollten, ihre Systeme zu testen und bekannte Risiken offenzulegen, bevor sie sie veröffentlichen, und äußerte besondere Besorgnis darüber, wie zukünftige KI-Systeme den Arbeitsmarkt destabilisieren könnten.
Altman stimmte weitgehend zu, hatte jedoch eine optimistischere Sicht auf die Zukunft der Arbeit.
Gedrängt von seiner eigenen schlimmsten Angst vor KI, vermied Altman weitgehend Einzelheiten, außer dass er sagte, dass die Branche „erheblichen Schaden für die Welt“ anrichten könnte und dass „wenn diese Technologie schief geht, kann sie ziemlich schief gehen.“
Später schlug er jedoch vor, dass eine neue Regulierungsbehörde Schutzmaßnahmen einführen sollte, die KI-Modelle blockieren würden, die sich „selbst reproduzieren und in die Wildnis auswandern“ könnten – und deutete damit auf futuristische Bedenken hinsichtlich fortschrittlicher KI-Systeme hin, die Menschen dazu manipulieren könnten, die Kontrolle abzugeben.
Dieser Fokus auf ein weit entferntes „Science-Fiction-Thema“ übermächtiger KI könnte es schwieriger machen, Maßnahmen gegen bereits bestehende Schäden zu ergreifen, die von den Regulierungsbehörden eine eingehende Untersuchung von Datentransparenz, diskriminierendem Verhalten und der Möglichkeit von Betrug und Desinformation erfordern, sagte ein ehemaliger Mitarbeiter Beamter der Biden-Regierung, der seinen Plan für eine KI-Gesetzgebung mitverfasst hat.
„Es ist die Angst vor diesen (supermächtigen) Systemen und unser mangelndes Verständnis für sie, die alle in Panik versetzen“, sagte Suresh Venkatasubramanian, ein Informatiker der Brown University und stellvertretender Direktor für Wissenschaft und Justiz an der Brown University Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses.
„Diese Angst, die völlig unbegründet ist, lenkt von all den Sorgen ab, mit denen wir uns gerade beschäftigen.“
OpenAI hat diese existenziellen Bedenken seit seiner Gründung geäußert. Das von Altman im Jahr 2015 mit der Unterstützung des Tech-Milliardärs Elon Musk mitgegründete Startup hat sich von einem gemeinnützigen Forschungslabor mit einer sicherheitsorientierten Mission zu einem Unternehmen entwickelt.
Zu den weiteren beliebten KI-Produkten gehört der Bildermacher DALL-E. Microsoft hat Milliarden von Dollar in das Startup investiert und seine Technologie in seine eigenen Produkte integriert, darunter auch in seine Suchmaschine Bing.
Altman plant außerdem, diesen Monat eine weltweite Tour zu nationalen Hauptstädten und Großstädten auf sechs Kontinenten zu unternehmen, um mit politischen Entscheidungsträgern und der Öffentlichkeit über die Technologie zu sprechen.
Am Vorabend seiner Aussage vor dem Senat speiste er mit Dutzenden US-Gesetzgebern, von denen mehrere gegenüber CNBC sagten, sie seien von seinen Kommentaren beeindruckt.
Zu den Zeugen gehörten auch Christina Montgomery, Chief Privacy and Trust Officer von IBM, und Gary Marcus, ein emeritierter Professor der New York University, der zu einer Gruppe von KI-Experten gehörte, die OpenAI und andere Technologiefirmen aufforderten, ihre Entwicklung leistungsfähigerer KI-Modelle zu unterbrechen sechs Monate, um der Gesellschaft mehr Zeit zu geben, über die Risiken nachzudenken.
Der Brief war eine Antwort auf die März-Veröffentlichung des neuesten Modells von OpenAI, GPT-4, das als leistungsfähiger als ChatGPT beschrieben wurde.
Der ranghöchste Republikaner des Gremiums, Senator Josh Hawley aus Missouri, sagte, die Technologie habe große Auswirkungen auf Wahlen, Arbeitsplätze und die nationale Sicherheit.
Er sagte, die Anhörung am Dienstag sei „ein entscheidender erster Schritt zum Verständnis dessen, was der Kongress tun sollte“.
Eine Reihe führender Technologieunternehmen haben erklärt, dass sie eine Form der KI-Aufsicht begrüßen, haben jedoch vor den ihrer Meinung nach zu strengen Regeln gewarnt.
Altman und Marcus forderten beide eine auf KI ausgerichtete Regulierungsbehörde, vorzugsweise eine internationale, wobei Altman den Präzedenzfall der Atombehörde der Vereinten Nationen anführte und Marcus ihn mit der US-amerikanischen Food and Drug Administration verglich.
Stattdessen forderte Montgomery von IBM den Kongress auf, einen Ansatz der „Präzisionsregulierung“ zu verfolgen.
„Wir sind der Meinung, dass KI im Wesentlichen am Risikopunkt reguliert werden sollte“, sagte Montgomery, indem Regeln festgelegt werden, die den Einsatz bestimmter KI-Anwendungen und nicht die Technologie selbst regeln.
(AP)