Ausgegeben am:
Ein offener Brief, der von Twitter-CEO Elon Musk, Apple-Mitbegründer Steve Wozniak und vielen anderen unterzeichnet wurde, warnt vor „tiefgreifenden Risiken für die Gesellschaft und die Menschheit“.
Bewegen sich Technologieunternehmen zu schnell bei der Einführung leistungsstarker Technologien für künstliche Intelligenz, die eines Tages Menschen überlisten könnten?
Zu diesem Schluss kommt eine Gruppe prominenter Informatiker und anderer Persönlichkeiten der Technologiebranche wie Elon Musk und Apple-Mitbegründer Steve Wozniak, die eine sechsmonatige Pause fordern, um die Risiken abzuwägen.
Ihre am Mittwoch veröffentlichte Petition ist eine Antwort auf die jüngste Veröffentlichung von GPT-4 des Startups OpenAI aus San Francisco, einem fortschrittlicheren Nachfolger seines weit verbreiteten KI-Chatbots ChatGPT, der dazu beitrug, einen Wettlauf zwischen den Technologiegiganten Microsoft und Google auszulösen, um ähnliche Anwendungen vorzustellen.
Was sagen Sie?
Der Brief warnt davor, dass KI-Systeme mit „Mensch-Wettbewerbsintelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen können“ – von der Überflutung des Internets mit Desinformationen und der Automatisierung von Arbeitsplätzen bis hin zu katastrophaleren Zukunftsrisiken aus dem Bereich der Science-Fiction.
Darin heißt es: „In den letzten Monaten waren KI-Labore in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.“
„Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, unverzüglich für mindestens sechs Monate zu unterbrechen“, heißt es in dem Schreiben. „Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure umfassen. Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.“
Eine Reihe von Regierungen arbeitet bereits daran, risikoreiche KI-Tools zu regulieren. Das Vereinigte Königreich hat am Mittwoch ein Papier veröffentlicht, in dem es seinen Ansatz umreißt, in dem es sagte, dass „hartnäckige Gesetze vermieden werden, die Innovationen ersticken könnten“. Gesetzgeber in der Europäischen Union mit 27 Nationen haben über die Verabschiedung weitreichender KI-Regeln verhandelt.
Wer hat es unterschrieben?
Die Petition wurde vom gemeinnützigen Future of Life Institute organisiert, dem zufolge zu den bestätigten Unterzeichnern der mit dem Turing Award ausgezeichnete KI-Pionier Yoshua Bengio und andere führende KI-Forscher wie Stuart Russell und Gary Marcus gehören. Andere, die sich angeschlossen haben, sind Wozniak, der ehemalige US-Präsidentschaftskandidat Andrew Yang und Rachel Bronson, Präsidentin des Bulletin of the Atomic Scientists, einer wissenschaftsorientierten Interessenvertretung, die für ihre Warnungen vor einem die Menschheit beendenden Atomkrieg bekannt ist.
Musk, der Tesla, Twitter und SpaceX betreibt und Mitbegründer und früher Investor von OpenAI war, äußert seit langem Bedenken hinsichtlich der existenziellen Risiken von KI. Eine überraschendere Aufnahme ist Emad Mostaque, CEO von Stability AI, Hersteller des KI-Bildgenerators Stable Diffusion, der mit Amazon zusammenarbeitet und mit dem ähnlichen Generator von OpenAI, bekannt als DALL-E, konkurriert.
Was ist die Antwort?
OpenAI, Microsoft und Google haben am Mittwoch nicht auf Anfragen nach Kommentaren geantwortet, aber der Brief hat bereits viele Skeptiker.
„Eine Pause ist eine gute Idee, aber der Brief ist vage und nimmt die regulatorischen Probleme nicht ernst“, sagt James Grimmelmann, Professor für Digital- und Informationsrecht an der Cornell University. „Es ist auch zutiefst heuchlerisch, dass Elon Musk sich anmeldet wenn man bedenkt, wie hart Tesla gegen die Verantwortung für die fehlerhafte KI in seinen selbstfahrenden Autos gekämpft hat.“
Ist das KI-Hysterie?
Während der Brief das Gespenst einer schändlichen KI heraufbeschwört, die viel intelligenter ist als das, was tatsächlich existiert, ist es keine „übermenschliche“ KI, über die sich einige, die sich angemeldet haben, Sorgen machen. Ein Tool wie ChatGPT ist zwar beeindruckend, aber einfach ein Textgenerator, der Vorhersagen darüber macht, welche Wörter die ihm gegebene Eingabeaufforderung beantworten würden, basierend auf dem, was er aus der Aufnahme riesiger Fundgruben an schriftlichen Arbeiten gelernt hat.
Gary Marcus, ein emeritierter Professor der New York University, der den Brief unterzeichnet hat, sagte in einem Blogbeitrag, dass er anderen nicht zustimmt, die sich Sorgen über die kurzfristige Aussicht auf intelligente Maschinen machen, die so schlau sind, dass sie sich außerhalb der Kontrolle der Menschheit selbst verbessern können. Was ihn mehr beunruhigt, ist „mittelmäßige KI“, die weit verbreitet ist, auch von Kriminellen oder Terroristen, um Menschen auszutricksen oder gefährliche Fehlinformationen zu verbreiten.
„Die aktuelle Technologie birgt bereits enorme Risiken, auf die wir schlecht vorbereitet sind“, schrieb Marcus. „Mit Zukunftstechnologie könnte es noch schlimmer kommen.“
(AP)