Elon Musk twitterte am Dienstag einen Link zu einem seltsamen Brief, der angeblich von ehemaligen OpenAI-Mitarbeitern verfasst wurde und in dem er „ein beunruhigendes Muster der Täuschung und Manipulation durch Sam Altman und Greg Brockman“ beschreibt. Altman und Brockman, CEO und Präsident von OpenAI, waren entlassen und dann wieder eingestellt in einem dramatischen gescheiterten Putsch, der sich in den letzten fünf Tagen abspielte. Der Brief (unten abgedruckt) beschreibt geheimnisvolles und missbräuchliches Verhalten, das Altman angeblich „durch seinen Groll gegen Elon nach ihrem Streit“ motiviert war.
Am Dienstagabend hat Altman seinen Posten als OpenAI-CEO offiziell wieder aufgenommen, nachdem er vom Vorstand des Unternehmens, der mittlerweile weitgehend ersetzt wurde, aus dem Amt gedrängt wurde. Ehemalige Vorstandsmitglieder teilten fast nichts über ihre Argumentation mit, abgesehen davon, dass sie Altman als „uneinheitlich aufrichtig“ bezeichneten. Berichten zufolge konnte selbst Microsoft-Chef Satya Nadela, der einen milliardenschweren Deal mit dem Unternehmen abgeschlossen hat, keine Antwort auf die Frage bekommen, warum Altman gefeuert wurde.
Es gibt keine Beweise dafür der von Musk geteilte Brief ist echt. Der Milliardär twitterte, der Brief sei an ihn geschickt worden und „diese Bedenken scheinen eine Untersuchung wert zu sein.“ Es könnte sich durchaus um einen Scherz handeln. Es enthält jedoch seltsam spezifische Details.
Der Brief ist an den Vorstand von OpenAI gerichtet. „Wir sind ehemalige OpenAI-Mitarbeiter, die das Unternehmen in einer Zeit großer Turbulenzen und Umwälzungen verlassen haben“, heißt es darin. „Da Sie jetzt gesehen haben, was passiert, wenn Sie es wagen, sich gegen Sam Altman zu stellen, können Sie vielleicht verstehen, warum so viele von uns aus Angst vor Konsequenzen geschwiegen haben.“ OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme.
Darin wird ein Missbrauchsmuster im Namen von Altman und Brockman behauptet, „das von ihrem unersättlichen Streben nach künstlicher allgemeiner Intelligenz (AGI) angetrieben wird“.
In dem Brief heißt es beispielsweise, dass Altman die Mitarbeiter angewiesen habe, Fortschritte bei „geheimen“ Forschungsinitiativen zu verbergen, und Mitarbeiter entlassen habe, die diese Praxis in Frage gestellt hätten. Es wird behauptet, der CEO habe ohne Wissen des Managements „Ermittlungen“ gegen Mitarbeiter durchgeführt, darunter den Chefwissenschaftler Ilya Sutskever, der Berichten zufolge maßgeblich an der Entlassung von Altman beteiligt war.
In dem Brief wird behauptet, dass Brockman, der Präsident von OpenAI, „diskriminierende Ausdrücke gegenüber einem Teammitglied verwendet habe, das den Geschlechtsumwandlungsprozess durchführte“, das schließlich „wegen angeblicher Leistungsschwäche gekündigt“ wurde. Dies deutet darauf hin, dass das Unternehmen Beschwerden zu diesem Thema ignoriert hat, um Brockman zu schützen.
Sowohl Altman als auch die ehemaligen Vorstandsmitglieder hätten einer „Untersuchung“ der Situation zugestimmt, die zu seiner Entlassung geführt habe, heißt es der Rand. Es ist unklar, was diese Untersuchung bedeuten würde, wenn die Vorstandsmitglieder der Welt vermutlich einfach sagen könnten, wo das Problem liegt.
Der Brief wurde ursprünglich in einem Link auf Hacker News geteilt, der dann jedoch unter der Last des gesamten Datenverkehrs zusammenbrach. Anschließend wurde es von einer Person erneut auf GitHub veröffentlicht und Gizmodo mitgeteilt, dass sie es zu Archivierungszwecken kopiert hätten. Nachdem Musk den GitHub-Link geteilt hatte, füllte seine Armee von Fans die Kommentare des Benutzers mit Beschimpfungen und Belästigungen. Die Person teilte Gizmodo mit, dass sie gezwungen sei, den Beitrag zu entfernen, nachdem das Vertrauens- und Sicherheitsteam von GitHub sich geweigert habe, zu helfen. Nach Angaben der Person haben sich die Autoren des Originalbriefs mit ihnen in Verbindung gesetzt, um ihnen für die erneute Veröffentlichung zu danken. Die Person sagte Gizmodo, sie habe keine Ahnung, ob es authentisch sei. Eine Kopie des Briefes können Sie am Ende dieses Artikels lesen.
Der Brief muss Elon Musk, der eine lange und schwierige Beziehung zu Altman verbindet, ein gewisser Trost gewesen sein. Musk war in den Anfangsjahren einer der Mitbegründer und größten Geldgeber des Unternehmens, brach jedoch die Verbindung zum Unternehmen ab und behauptete, es bestehe ein Interessenkonflikt wegen Teslas Programm für selbstfahrende Autos mit KI-Antrieb. Altman behauptete, der wahre Grund für Musks Abgang sei ein gescheiterter Versuch gewesen, die Kontrolle über das Unternehmen zu übernehmen. Anfang dieses Monats veröffentlichte X eine neue KI namens Grok, ein Anti-Woke-Chatbot Das ist darauf abgestimmt, mit kitschigem und manchmal unangemessenem Papa-Humor zu reagieren. Musk und Altman tauschten in den folgenden Wochen Bemerkungen über ihre konkurrierenden Chatbots aus.
Der größte Teil des Briefes konzentriert sich auf Altmans Bemühungen, OpenAI in ein gewinnbringendes Unternehmen zu verwandeln, während er nur vorgibt, sich um die potenziellen Sicherheitsbedenken zu kümmern, die mit der Weiterentwicklung der Technologie einhergehen. Unter den Beschwerden wird in dem Brief „Sams diskrete, aber routinemäßige Nutzung der gemeinnützigen Ressourcen von OpenAI zur Förderung seiner persönlichen Ziele, insbesondere motiviert durch seinen Groll gegen Elon nach ihrem Streit“ angeführt.
Am Dienstagabend bestätigte Altman seine Rückkehr zum Unternehmen auf X, früher bekannt als Twitter, und schrieb: „Alles, was ich in den letzten Tagen getan habe, diente dazu, dieses Team und seine Mission zusammenzuhalten.“
Ohne Informationen der Vorstandsmitglieder ist es unmöglich zu sagen, um welchen Konflikt es sich handelte. Viele spekulieren jedoch, dass die Probleme auf einen Machtkampf zurückzuführen seien. OpenAI wurde gegründet, um künstliche Intelligenz mit transparenten Abläufen aufzubauen, die sich darauf konzentrieren, die Menschheit vor dem potenziell katastrophalen Potenzial der Technologie zu schützen. Obwohl OpenAI eine Non-Profit-Organisation ist, organisierte Altman einen gewinnorientierten Unternehmenszweig rund um ChatGPT, was viele der idealistischen Mitarbeiter der Organisation verärgerte.
Einige dieser Mitarbeiter verließen OpenAI, um 2021 ein neues KI-Unternehmen namens Anthropic zu gründen, ein direkter Konkurrent, der einen größeren Schwerpunkt auf KI-Sicherheitsfragen legt. Entsprechend die InformationNach der Entlassung von Altman wandte sich der Vorstand von OpenAI wegen einer Fusion an Anthropic. Die New York Times Berichten zufolge versuchte Altman in den Wochen vor seiner Entlassung, Helen Toner aus dem Vorstand entfernen zu lassen, nachdem sie eine veröffentlicht hatte wissenschaftliche Arbeit das kritisierte OpenAI und lobte gleichzeitig Anthropic.
21.11.2023
An den Vorstand von OpenAI:
Wir schreiben Ihnen heute, um unsere tiefe Besorgnis über die jüngsten Ereignisse bei OpenAI zum Ausdruck zu bringen, insbesondere über die Vorwürfe des Fehlverhaltens gegen Sam Altman.
Wir sind ehemalige OpenAI-Mitarbeiter, die das Unternehmen in einer Zeit großer Turbulenzen und Umwälzungen verlassen haben. Da Sie jetzt miterlebt haben, was passiert, wenn Sie es wagen, sich gegen Sam Altman zu stellen, können Sie vielleicht verstehen, warum so viele von uns aus Angst vor Konsequenzen geschwiegen haben. Wir können nicht länger schweigend zusehen.
Wir glauben, dass der Vorstand die Pflicht hat, diese Vorwürfe gründlich zu untersuchen und entsprechende Maßnahmen zu ergreifen. Wir bitten Sie dringend:
* Erweitern Sie den Umfang von Emmetts Untersuchung um eine Untersuchung der Handlungen von Sam Altman seit August 2018, als OpenAI mit dem Übergang von einer gemeinnützigen zu einer gewinnorientierten Organisation begann.
* Veröffentlichen Sie einen offenen Aufruf für private Stellungnahmen ehemaliger OpenAI-Mitarbeiter, die in diesem Zeitraum gekündigt haben, in Urlaub genommen wurden oder gekündigt wurden.
* Schützen Sie die Identität derjenigen, die sich melden, um sicherzustellen, dass sie keinen Vergeltungsmaßnahmen oder anderen Formen von Schaden ausgesetzt sind.
Wir glauben, dass eine beträchtliche Anzahl von OpenAI-Mitarbeitern aus dem Unternehmen verdrängt wurde, um den Übergang zu einem gewinnorientierten Modell zu erleichtern. Dies wird durch die Tatsache belegt, dass die Mitarbeiterfluktuationsrate von OpenAI zwischen Januar 2018 und Juli 2020 in der Größenordnung von 50 % lag.
Während unserer Zeit bei OpenAI wurden wir Zeuge eines beunruhigenden Musters der Täuschung und Manipulation durch Sam Altman und Greg Brockman, angetrieben von ihnen
unersättliches Streben nach künstlicher allgemeiner Intelligenz (AGI). Ihre Methoden haben jedoch ernsthafte Zweifel an ihren wahren Absichten geweckt und daran, inwieweit sie wirklich den Nutzen der gesamten Menschheit in den Vordergrund stellen.
Viele von uns, die zunächst voller Hoffnung auf die Mission von OpenAI waren, entschieden sich dafür, Sam und Greg im Zweifelsfall zu vertrauen. Als ihre Handlungen jedoch immer besorgniserregender wurden, wurden diejenigen, die es wagten, ihre Bedenken zu äußern, zum Schweigen gebracht oder verdrängt. Diese systematische Unterdrückung abweichender Meinungen schuf ein Umfeld der Angst und Einschüchterung und erstickte effektiv jede sinnvolle Diskussion über die ethischen Implikationen der Arbeit von OpenAI.
Wir liefern konkrete Beispiele für die Unehrlichkeit und Manipulation von Sam und Greg, darunter:
* Sams Forderung an Forscher, die Berichterstattung über Fortschritte bei bestimmten „geheimen“ Forschungsinitiativen zu verzögern, die später aufgelöst wurden, weil sie nicht schnell genug ausreichende Ergebnisse lieferten. Diejenigen, die diese Praxis in Frage stellten, wurden als „passt nicht zur Kultur“ abgetan und sogar gekündigt, einige kurz vor Thanksgiving 2019.
* Gregs diskriminierende Sprache gegenüber einem Teammitglied, das die Geschlechtsumwandlung durchführt. Trotz vieler Versprechen, dieses Problem anzugehen, wurden keine sinnvollen Maßnahmen ergriffen, außer dass Greg einfach jegliche Kommunikation mit der betroffenen Person vermied und so effektiv ein feindseliges Arbeitsumfeld schuf. Dieses Teammitglied wurde schließlich wegen angeblicher Leistungsschwäche entlassen.
* Sam weist die IT- und Betriebsmitarbeiter an, Untersuchungen gegen Mitarbeiter, einschließlich Ilya, ohne Wissen oder Zustimmung des Managements durchzuführen.
* Sams diskrete, aber routinemäßige Ausnutzung der gemeinnützigen Organisation OpenAI
Ressourcen, um seine persönlichen Ziele voranzutreiben, insbesondere motiviert durch seinen Groll gegen Elon nach ihrem Streit.
* Die stillschweigende Zustimmung des Operations-Teams zu den für Greg geltenden Sonderregeln und die Bewältigung komplizierter Anforderungen, um nicht auf die schwarze Liste gesetzt zu werden.
* Brad Lightcaps unerfülltes Versprechen, die Dokumente zu veröffentlichen, die die Struktur der begrenzten Gewinne von OpenAI und die Gewinnobergrenze für jeden Investor detailliert beschreiben.
* Sams widersprüchliche Versprechen, Projekte für Rechenquoten zu erforschen, führen zu internem Misstrauen und Machtkämpfen.
Trotz der sich häufenden Beweise für die Verfehlungen von Sam und Greg folgen diejenigen, die bei OpenAI bleiben, weiterhin blind ihrer Führung, auch wenn dies erhebliche persönliche Kosten verursacht. Diese unerschütterliche Loyalität rührt von a
Kombination aus Angst vor Vergeltung und der Verlockung potenzieller finanzieller Gewinne durch die Gewinnbeteiligungseinheiten von OpenAI.
Die Governance-Struktur von OpenAI, die speziell von Sam und Greg entwickelt wurde, isoliert Mitarbeiter bewusst von der Überwachung des gewinnorientierten Betriebs, und zwar gerade aufgrund ihrer inhärenten Interessenkonflikte. Diese undurchsichtige Struktur ermöglicht es Sam und Greg, ungestraft und vor jeglicher Verantwortung zu operieren.
Wir fordern den Vorstand von OpenAI dringend auf, entschieden gegen diese unethischen Praktiken Stellung zu beziehen und eine unabhängige Untersuchung des Verhaltens von Sam und Greg einzuleiten. Wir glauben, dass die Mission von OpenAI zu wichtig ist, um durch die persönlichen Absichten einiger weniger Einzelpersonen gefährdet zu werden.
Wir flehen Sie, den Vorstand, an, standhaft an der ursprünglichen Mission von OpenAI festzuhalten und nicht dem Druck gewinnorientierter Interessen zu erliegen. Die Zukunft der künstlichen Intelligenz und das Wohlergehen der Menschheit hängen von Ihrem unerschütterlichen Engagement für ethische Führung und Transparenz ab.
Aufrichtig,
Besorgte ehemalige OpenAI-Mitarbeiter
### Kontakt
Wir ermutigen ehemalige OpenAI-Mitarbeiter, uns unter „[email protected]“ zu kontaktieren.
Wir garantieren persönlich die Anonymität jedes Einzelnen bei allen internen Beratungen und öffentlichen Kommunikationen.
### Weitere Updates
Aktualisierungen werden unter veröffentlicht https://board.net/p/r.e6a8f6578787a4cc67d4dc438c6d236e
### Weiterführende Literatur für die breite Öffentlichkeit
* https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
* https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/
*https://twitter.com/geoffreyirving/status/1726754277618491416