OpenAI hat nach dem Scharmützel im November einen neuen Vorstand, der CEO Sam Altman jedoch weiterhin bei allen von ihm getroffenen Entscheidungen überstimmen kann, gemäß einer Reihe von Richtlinien des Unternehmens Montag veröffentlicht. Das heißt, wenn OpenAI erstellt Künstliche allgemeine Intelligenz (AGI), einem KI-System, das intelligenter ist als Menschen, wird der Vorstand das letzte Wort bei der Einführung haben.
„Der OpenAI Board of Directors (BoD) wird als oberstes Leitungsgremium von OpenAI die Umsetzung und Entscheidungsfindung von OpenAI Leadership überwachen“, sagte OpenAI im Richtlinien. „Während die Führung der Entscheidungsträger ist, hat der Vorstand das Recht, Entscheidungen rückgängig zu machen“, sagte OpenAI.
OpenAI sagt, dass der Vorstand bei allen Entscheidungen immer noch die Oberhand hat, auch wenn dies fast der Fall ist hat das Unternehmen ruiniert letzten Monat durch die Entlassung seines CEO. Sam Altman und OpenAI-Präsident Greg Brockman verloren dadurch ihre Vorstandsmandate, sodass die Führung des Unternehmens nicht mehr das letzte Wort hat. Die seltsame Struktur des Unternehmens war einer der Hauptgründe für das Chaos im November, da die Interessen des 90-Milliarden-Dollar-Unternehmens mit denen seines gemeinnützigen Vorstands aneinandergerieten.
Die Richtlinien mit dem Titel „Preparedness Framework“ beschreiben detailliert die Prozesse von OpenAI zur Bewertung, Prognose und zum Schutz vor katastrophalen Risiken durch künstliche Intelligenz. Dies ist ein weiterer Beweis dafür, dass OpenAI aktiv an AGI arbeitet und dabei auf dem Papier seines Superalignment-Teams von letzter Woche aufbaut, in dem ein Prozess dafür vorgeschlagen wurde Trainieren Sie übermenschliche KI-Systeme.
Derzeit besteht der Vorstand aus dem ehemaligen CEO von Salesforce Bret Taylor, dem ehemaligen US-Finanzminister Larry Summers und dem aktiven CEO von Quora Adam D’Angelo. Microsoft wurde ein nicht stimmberechtigter Sitz im Vorstand garantiert, und Vorsitzender Taylor wird bald weitere Vorstandsmitglieder ernennen. Diese Leute werden wahrscheinlich dafür verantwortlich sein, zu entscheiden, wann OpenAI übermenschliche Computer entfesseln kann.
Allerdings waren die alten Vorstandsmitglieder von OpenAI größtenteils Forscher und ausgesprochene Befürworter der KI-Sicherheit, wie Ilya Sutskever, Helen Toner und Tasha McCauley. Die neuen Vorstandsmitglieder sind große Fans von Altman und verfügen über Erfahrung in der Politik und in traditionellen gewinnorientierten Unternehmungen.
OpenAI sagt, sein Vorstand sei „das oberste Leitungsgremium von OpenAI“. Der Vorstand soll nun vom Vorbereitungsteam von OpenAI monatlich eine Dokumentation über den Fortschritt in Richtung AGI erhalten, um sicherzustellen, dass der Vorstand umfassend informiert ist. Letzten Monat warf der Vorstand Sam Altman vor, sie nicht vollständig informiert zu haben, und führte dies als einen Grund an Hauptgrund für seine Entlassung.
Der Verwaltungsrat Mission soll sicherstellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugute kommt. Hoffentlich kann der Vorstand seiner Mission treu bleiben und nicht den von Sam Altman geleiteten gewinnorientierten Interessen. Angesichts der Tatsache, dass fast alle 700 Mitarbeiter und Microsoft froh waren, ohne Sam Altman von Bord zu gehen, ist diese Mission erfüllt sieht nicht vielversprechend aus im Augenblick.