Das Unternehmen hinter dem beliebten Chatbot für künstliche Intelligenz (KI), ChatGPT, sagt, dass es ein Team bilden wird, um die Risiken superintelligenter KI-Systeme einzudämmen und zu verwalten.
In einem 5. Juli Bekanntmachung In seinem Blog sagte OpenAI, das neue Team werde geschaffen, um „KI-Systeme viel intelligenter zu steuern und zu kontrollieren als wir“.
Die gemeinnützige Organisation glaubt, dass Superintelligenz „die wirkungsvollste Technologie sein wird, die die Menschheit je erfunden hat“ und zur Lösung vieler Probleme beitragen wird – auch wenn es Risiken gibt.
„Die enorme Macht der Superintelligenz könnte auch sehr gefährlich sein und zur Entmachtung der Menschheit oder sogar zur Ausrottung der Menschheit führen.“
Das Unternehmen glaubt, dass die Superintelligenz noch in diesem Jahrzehnt Einzug halten könnte.
Es hieß, es werde 20 % der bereits gesicherten Rechenleistung für diesen Aufwand bereitstellen und strebe die Schaffung eines automatisierten Alignment-Forschers auf „menschlicher Ebene“ an. Der automatisierte Forscher würde dem Team theoretisch dabei helfen, die Sicherheit der Superintelligenz zu verwalten und sie mit der „menschlichen Absicht“ in Einklang zu bringen.
Sie ernannte ihren leitenden Wissenschaftler Ilya Sutskever und den Ausrichtungsleiter ihres Forschungslabors, Jan Leike, zu Co-Leitern der Bemühungen. Es richtete einen offenen Aufruf an Forscher und Ingenieure im Bereich maschinelles Lernen, sich dem Team anzuschließen.
Verwandt: OpenAI pausiert die Bing-Funktion von ChatGPT, da Benutzer Paywalls übersprungen haben
Diese Ankündigung von OpenAI erfolgt zu einem Zeitpunkt, an dem Regierungen auf der ganzen Welt Maßnahmen zur Kontrolle der Entwicklung, Bereitstellung und Nutzung von KI-Systemen erwägen.
Die Regulierungsbehörden in der Europäischen Union haben bei der KI-Regulierung die größten Fortschritte gemacht. Am 14. Juni verabschiedete das Europäische Parlament das EU-KI-Gesetz, das neben anderen Maßnahmen die Offenlegung aller KI-generierten Inhalte durch Tools wie ChatGPT verpflichten würde.
Der Gesetzentwurf bedarf vor seiner Umsetzung weiterer Diskussionen. Nichtsdestotrotz löste es bei KI-Entwicklern einen Aufschrei hinsichtlich seiner potenziellen Auswirkungen auf die Innovation aus.
Im Mai reiste OpenAI-CEO Sam Altman nach Brüssel, um mit EU-Regulierungsbehörden über die potenziell negativen Auswirkungen einer Überregulierung zu sprechen.
Gesetzgeber in den Vereinigten Staaten haben außerdem den National AI Commission Act eingeführt, um ein Gremium einzurichten, das über den Ansatz des Landes in Bezug auf KI entscheidet. Auch die Regulierungsbehörden in den USA äußerten deutlich ihren Wunsch, die Technologie zu regulieren.
Am 30. Juni verfasste Senator Michael Bennet einen Brief an große Technologieunternehmen, darunter OpenAI, in dem er die Kennzeichnung von KI-generierten Inhalten forderte.
Zeitschrift: BitCulture: Bildende Kunst auf Solana, KI-Musik, Podcast + Buchrezensionen