Ein offener Brief, unterzeichnet von Technologieführern und Tesla-Gründern Elon Musk forderte KI-Labore auf, „riesige KI-Experimente“ für mindestens sechs Monate zu unterbrechen, da sie befürchteten, dass KI-Technologie, deren Intelligenz mit der von Menschen konkurriert, „ein tiefgreifendes Risiko für die Gesellschaft und die Menschheit darstellen“ könnte.
Der Brief – zu dessen Unterzeichnern der Apple-Mitbegründer Steve Wozniak, der KI-Experte Stuart Russell, der Skype-Mitbegründer Jaan Tallinn und andere führende Akademiker und Führungskräfte gehören – besagt, dass sich KI-Labore auf der ganzen Welt in einem „außer Kontrolle geratenen Wettlauf“ befinden die leistungsstärksten KI-Systeme zu entwickeln, die leistungsfähiger sein könnten, als sich irgendjemand vorstellen kann.
„Leistungsstarke KI-Systeme sollten erst entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind“, liest den Briefdie vom Future of Life Institute herausgegeben wurde.
Der Brief kommt, nachdem kürzlich von KI generierte gefälschte Fotos über soziale Medien verbreitet wurden. Ein Foto, das viral wurde, zeigte Papst Franziskus in einer luxuriösen weißen Daunenjacke. Dieses von der KI generierte Bild erschien zuerst auf Reddit, bevor es die Benutzer auf Twitter täuschte.
Ein anderer zeigte mehrere Fotos von Donald Trump, der von Polizisten festgenommen wurde, die Tage zirkulierten, nachdem er ohne Beweise behauptet hatte, dass er verhaftet werden würde. Der ehemalige US-Präsident selbst teilte einen Beitrag von Truth Social, der ein von KI generiertes Bild von ihm enthielt, wie er im Gebet kniete.
Tech-Führer sagten, KI-Labore sollten das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate pausieren, während sie Sicherheitsprotokolle entwickeln, die von einem unabhängigen Gremium überwacht würden.
„Diese Protokolle sollten sicherstellen, dass Systeme, die sich an sie halten, zweifelsfrei sicher sind“, heißt es in dem Brief.
„Dies bedeutet keine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Schritt zurück vom gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit aufstrebenden Fähigkeiten.“
Der Brief forderte auch neue Aufsichtsbehörden, Aufsicht, öffentliche Finanzierung der KI-Sicherheitsforschung, Haftung für KI-verursachte Schäden und mehr.
Herr Musk äußerte sich diese Woche auf Twitter, nachdem ein von KI generiertes Bild in Umlauf gebracht wurde, auf dem er angeblich mit Mary Barra, der Chefin des Autokonzerns GM, Händchen hält.
Aktualisiert: 29. März 2023, 17:47 Uhr