Bewegen sich Technologieunternehmen zu schnell bei der Einführung leistungsstarker Technologien für künstliche Intelligenz, die eines Tages Menschen überlisten könnten?
Zu diesem Schluss kommt eine Gruppe prominenter Informatiker und anderer Persönlichkeiten der Technologiebranche wie Elon Musk und Apple-Mitbegründer Steve Wozniak, die eine sechsmonatige Pause fordern, um die Risiken abzuwägen.
Ihre am Mittwoch veröffentlichte Petition ist eine Antwort auf die jüngste Veröffentlichung von GPT-4 des Startups OpenAI aus San Franciscoein fortschrittlicherer Nachfolger seines weit verbreiteten KI-Chatbots ChatGPT, der dazu beigetragen hat, einen Wettlauf zwischen Technologiegiganten auszulösen Microsoft und Google ähnliche Anwendungen vorzustellen.
WAS SAGEN SIE?
Der Brief warnt davor, dass KI-Systeme mit „menschlicher Wettbewerbsintelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen können“ – indem sie das Internet mit Desinformationen überfluten und die Automatisierung von Arbeitsplätzen zu katastrophaleren Zukunftsrisiken aus dem Reich der Science-Fiction.
Darin heißt es: „In den letzten Monaten waren KI-Labore in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.“
„Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, unverzüglich für mindestens 6 Monate zu unterbrechen“, heißt es in dem Schreiben. „Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure umfassen. Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.“
Eine Reihe von Regierungen arbeitet bereits daran, risikoreiche KI-Tools zu regulieren. Das Vereinigte Königreich hat am Mittwoch ein Papier veröffentlicht, in dem es seinen Ansatz umreißt, in dem es sagte, dass „hartnäckige Gesetze vermieden werden, die Innovationen ersticken könnten“. Gesetzgeber in der Europäischen Union mit 27 Nationen haben über die Verabschiedung weitreichender KI-Regeln verhandelt.
WER HAT ES UNTERZEICHNET?
Die Petition wurde vom gemeinnützigen Future of Life Institute organisiert, dem zufolge der mit dem Turing Award ausgezeichnete KI-Pionier zu den bestätigten Unterzeichnern gehört Yoshua Bengio und andere führende KI-Forscher wie Stuart Russell und Gary Marcus. Andere, die sich angeschlossen haben, sind Wozniak, der ehemalige US-Präsidentschaftskandidat Andrew Yang und Rachel Bronson, Präsidentin des Bulletin of the Atomic Scientists, einer wissenschaftsorientierten Interessenvertretung, die für ihre Warnungen bekannt ist gegen die Menschheit beendenden Atomkrieg.
Musk, der Tesla, Twitter und SpaceX betreibt und Mitbegründer und früher Investor von OpenAI war, äußert seit langem Bedenken hinsichtlich der existenziellen Risiken von KI. Eine überraschendere Aufnahme ist Emad Mostaque, CEO von Stability AI, dem Hersteller des KI-Bildgenerators Stable Diffusion, das mit Amazon zusammenarbeitet und mit dem ähnlichen Generator von OpenAI, bekannt als DALL-E, konkurriert.
WAS IST DIE ANTWORT?
OpenAI, Microsoft und Google haben am Mittwoch nicht auf Anfragen nach Kommentaren geantwortet, aber der Brief hat bereits viele Skeptiker.
„Eine Pause ist eine gute Idee, aber das Schreiben ist vage und nimmt die regulatorischen Probleme nicht ernst“, sagt James Grimmelmann, Professor für Digital- und Informationsrecht an der Cornell University. „Es ist auch zutiefst heuchlerisch, dass Elon Musk sich anmeldet, wenn man bedenkt, wie hart Tesla gegen die Verantwortung für die fehlerhafte KI in seinen selbstfahrenden Autos gekämpft hat.“
IST DAS KI-HYSTERIE?
Während der Brief das Gespenst einer schändlichen KI heraufbeschwört, die viel intelligenter ist als das, was tatsächlich existiert, ist es keine „übermenschliche“ KI, über die sich einige, die sich angemeldet haben, Sorgen machen. Ein Tool wie ChatGPT ist zwar beeindruckend, aber einfach ein Textgenerator, der Vorhersagen darüber macht, welche Wörter die ihm gegebene Eingabeaufforderung beantworten würden, basierend auf dem, was er aus der Aufnahme riesiger Fundgruben an schriftlichen Arbeiten gelernt hat.
Gary Marcus, ein emeritierter Professor der New York University, der den Brief unterzeichnet hat, sagte in einem Blogbeitrag, dass er anderen nicht zustimmt, die sich Sorgen über die kurzfristige Aussicht auf intelligente Maschinen machen, die so schlau sind, dass sie sich außerhalb der Kontrolle der Menschheit selbst verbessern können. Was ihn mehr beunruhigt, ist „mittelmäßige KI“, die weit verbreitet ist, auch von Kriminellen oder Terroristen, um Menschen auszutricksen oder gefährliche Fehlinformationen zu verbreiten.
„Die aktuelle Technologie birgt bereits enorme Risiken, auf die wir schlecht vorbereitet sind“, schrieb Marcus. „Mit Zukunftstechnologie könnte es noch schlimmer kommen.“