Top-Führungskräfte im Bereich der künstlichen Intelligenz (KI), darunter Sam Altman, CEO von OpenAI, haben am Dienstag zusammen mit Experten und Professoren das „Risiko des Aussterbens durch KI“ hervorgehoben und die politischen Entscheidungsträger aufgefordert, es mit den Risiken von Pandemien und Atomkrieg gleichzusetzen.
Ausgegeben am:
„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, schrieben mehr als 350 Unterzeichner in einem Brief, der vom gemeinnützigen Center for AI Safety (CAIS) veröffentlicht wurde.
Zu ihnen gehörten neben Altman auch die CEOs der KI-Firmen DeepMind und Anthropic sowie Führungskräfte von Microsoft MSFT.O und Google GOOGL.O.
Unter ihnen waren auch Geoffrey Hinton und Yoshua Bengio – zwei der drei sogenannten „Paten der KI“, die 2018 für ihre Arbeit zum Thema Deep Learning den Turing Award erhielten – sowie Professoren von Institutionen von Harvard bis zur chinesischen Tsinghua-Universität.
In einer Erklärung von CAIS wurde Meta META.O, wo der dritte Pate der KI, Yann LeCun, arbeitet, dafür kritisiert, dass es den Brief nicht unterzeichnet hatte.
„Wir haben viele Meta-Mitarbeiter gebeten, zu unterschreiben“, sagte CAIS-Direktor Dan Hendrycks. Meta reagierte nicht sofort auf Anfragen nach Kommentaren.
Der Brief fiel mit dem Treffen des US-EU-Handels- und Technologierats in Schweden zusammen, bei dem von Politikern erwartet wird, dass sie über die Regulierung von KI sprechen.
Elon Musk und eine Gruppe von KI-Experten und Branchenführern waren die ersten, die im April potenzielle Risiken für die Gesellschaft nannten.
„Wir haben eine Einladung (an Musk) ausgesprochen und hoffentlich wird er sie diese Woche unterschreiben“, sagte Hendrycks.
Jüngste Entwicklungen in der KI haben Tools geschaffen, die nach Ansicht von Befürwortern in Anwendungen von der medizinischen Diagnostik bis zum Verfassen von juristischen Schriftsätzen eingesetzt werden können. Dies hat jedoch Befürchtungen geweckt, dass die Technologie zu Datenschutzverletzungen führen, Fehlinformationskampagnen vorantreiben und zu Problemen mit der Denkweise „intelligenter Maschinen“ führen könnte sich.
Die Warnung kommt zwei Monate, nachdem das gemeinnützige Future of Life Institute (FLI) einen ähnlichen offenen Brief herausgegeben hat, der von Musk und Hunderten anderen unterzeichnet wurde und in dem er eine dringende Pause in der fortgeschrittenen KI-Forschung forderte und dabei Risiken für die Menschheit anführte.
„Unser Brief hat das Innehalten zum Mainstream gemacht, das ist das Mainstreaming der Auslöschung“, sagte FLI-Präsident Max Tegmark, der auch den neueren Brief unterzeichnete. „Jetzt kann endlich ein konstruktives offenes Gespräch beginnen.“
Der KI-Pionier Hinton hatte zuvor gegenüber Reuters erklärt, dass KI eine „dringlichere“ Bedrohung für die Menschheit darstellen könnte als der Klimawandel.
Letzte Woche bezeichnete Sam Altman, CEO von OpenAI, die EU-KI – die ersten Bemühungen, eine Regulierung für KI zu schaffen – als Überregulierung und drohte damit, Europa zu verlassen. Er änderte seine Haltung innerhalb weniger Tage nach der Kritik von Politikern.
Altman ist zum Gesicht der KI geworden, nachdem sein ChatGPT-Chatbot die Welt erobert hat. EU-Kommissionspräsidentin Ursula von der Leyen wird Altman am Donnerstag treffen, und EU-Industriechef Thierry Breton wird ihn nächsten Monat in San Francisco treffen.
(REUTERS)