Was du wissen musst
- Das Future of Life Institute hat einen offenen Brief geteilt, in dem alle KI-Labore aufgefordert werden, das Training künstlicher Intelligenz für mindestens sechs Monate auszusetzen.
- Elon Musk, Steve Wozniak, mehrere Tech-CEOs und viele Universitätsprofessoren haben den Brief unterzeichnet.
- Der Brief fordert KI-Labore und Entwickler auf, Sicherheitsprotokolle zu erstellen und umzusetzen und von unabhängigen Experten geprüft und überwacht zu werden.
Künstliche Intelligenz ist eines der heißesten Themen in der Technologie, aber einige fordern weitere Anleitungen und Vorschriften, bevor Labore die KI weiter vorantreiben. Future of Life Institute aus der Feder eines offener Brief fordert die sofortige Unterbrechung des gesamten KI-Trainings für Systeme, die leistungsfähiger als GPT-4 sind. Das Institut schlägt eine Pause von mindestens sechs Monaten vor, um Protokolle für den sicheren Einsatz von KI zu entwerfen, zu entwickeln und umzusetzen.
“Sollen wir Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten lassen? Sollen wir alle Jobs wegautomatisieren, einschließlich der erfüllenden? Sollen wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten? Sollen riskieren wir den Verlust der Kontrolle über unsere Zivilisation?”, heißt es in dem Brief.
„Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind“, heißt es weiter.
Während Sie vielleicht noch nie vom Future of Life Institute gehört haben, haben Sie wahrscheinlich schon von den Menschen gehört, die den offenen Brief des Instituts unterzeichnet haben. Elon Musk und Steve Wozniak gehören zu den über 1.100 Namen, die derzeit mit dem Brief verbunden sind. Diese Liste enthält auch einen Turing-Preisträger, mehrere Universitätsprofessoren und den Mitbegründer von Skype Jaan Tallinn.
Der Aufruf zum Handeln besagt:
“Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsstärker als GPT-4 sind, unverzüglich für mindestens 6 Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle Schlüsselakteure umfassen. Wenn eine solche Pause nicht schnell erlassen werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.”
Wie Unternehmen auf dieses Schreiben reagieren werden, ist unklar. Bing Chat von Microsoft und Bard von Google kämpfen um kundenorientierte KI. OpenAI hat Anfang dieses Monats GPT-4 vorgestellt. Technologie wie diese neigt dazu, sich in der Entwicklung zu beschleunigen und nicht für sechs Monate angehalten zu werden.
Nachfolgend sind einige der bemerkenswerteren Namen aufgeführt, die den Brief unterzeichnet haben. Die gesamte Liste befindet sich am Ende des Briefes:
- Yoshua BengioGründer und wissenschaftlicher Direktor bei Mila, Turing-Preisträger und Professor an der Universität von Montreal
- Stuart RusselBerkeley, Professor für Informatik, Direktor des Center for Intelligent Systems und Co-Autor des Standardlehrbuchs „Artificial Intelligence: a Modern Approach“
- Elon MuskCEO von SpaceX, Tesla und Twitter
- Steve WozniakMitbegründer, Apple
- Jan TallinnMitbegründer von Skype, Center for the Study of Existential Risk, Future of Life Institute
- Evan ScharfMitbegründer, Pinterest