OpenAI ist im letzten Jahr mit einer vom Hype befeuerten Rakete an die Spitze der Unternehmensführung gelangt. CEO Sam Altman hat es geschafft, einer jahrzehntealten Technologie eine verbraucherfreundliche Hülle zu verpassen und die Aufmerksamkeit der Welt auf sich zu ziehen. Und jetzt ist OpenAI im Guten wie im Schlechten besser als jeder andere in der Lage, die Werkzeuge zu entwickeln, die die Welt retten oder zerstören. Künstliche Allgemeine Intelligenz (AGI) ist der Preis, den Altman kürzlich als „magische Intelligenz am Himmel“ bezeichnete. Sollten wir jemals dort ankommen, entscheidet möglicherweise der sechsköpfige Vorstand von OpenAI, ob wir die Singularität erreicht haben.
Das Unternehmen veröffentlichte a Blogeintrag letzten Juni, kürzlich hervorgehoben von VentureBeat. Die Definition von Intelligenz ist eine philosophische Frage, keine technische. Ist ChatGPT intelligent? Es kommt darauf an, wen Sie fragen. Wenn es um AGI geht, das OpenAI als ein „System beschreibt, das den Menschen bei wirtschaftlich wertvollster Arbeit übertrifft“, kommt das Symposium des Unternehmens hauptsächlich aus der Geschäftswelt. „Der Vorstand bestimmt, wann wir AGI erreicht haben“, sagt das Unternehmen.
Ganz oben auf der Liste steht natürlich Altman, ein Star der Silicon Valley-Investmentfirma Y Combinator. Dem Vorstand von OpenAI gehören außerdem der Präsident des Unternehmens, Greg Brockman, und der Chefwissenschaftler Ilya Sutskever an. Dann sind da noch Adam D’Angelo, der CEO von Quora, und Tasha McCauley, eine Technologieunternehmerin und Robotikexpertin, die vielleicht am besten als Ehefrau des Schauspielers Joseph Gordon-Levitt bekannt ist (obwohl das ihre ernsthaftere Arbeit nicht beeinträchtigen sollte). Das Vorstandsmitglied, das einem professionellen Denker am nächsten kommt, ist Helen Toner, Direktorin des Georgetown Center for Security and Emerging Technology.
Was die meisten dieser Menschen gemeinsam haben, sind Verbindungen zur Bewegung des „Effektiven Altruismus“. Effektiver Altruismus geht davon aus, dass die Lösung der Probleme der Menschheit darin besteht, dass Menschen mit guten Absichten extrem reich werden und das Geld dann für gute Zwecke spenden. im Gegensatz zu den schlecht Reiche Menschen, die die Welt unangenehm gemacht haben, wollen effektive Altruisten sein Gut reiche Leute, und sie wissen am besten, wie sie die Ressourcen der Welt ausgeben sollen. Der bekannteste effektive Altruist ist der bekannte Kriminelle Sam Bankman-Fried, ehemaliger Chef von FTX, das mit Betrug und manchmal auch mit Kryptowährungen handelte.
Nach FTX haben viele versucht, sich von der Bewegung zu distanzieren. OpenAI sagte gegenüber VentureBeat: „Keines unserer Vorstandsmitglieder ist ein effektiver Altruist.“ Merkwürdig also, dass Toner a Blog auf der Website „Effective Altruism“ im Jahr 2020 erklärt, wie man trotz des Drucks, zu wissen, dass man persönlich für alle Probleme der Welt verantwortlich ist, motiviert bleibt. Wenn zum Beispiel keiner der Vorstandsmitglieder ein effektiver Altruist ist, fragen Sie sich vielleicht, wie McCauley in den Vorstand von Effective Ventures geraten ist, das das Center for Effective Altruism finanziert. Man sollte auch jedes Google-Ergebnis für die Wörter „Sam Altman Effective Altruism“ ignorieren, das vor 2022 datiert ist; Andernfalls könnten Sie verwirrt werden. OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme.
Es liegt im Interesse von OpenAI, dass Sie glauben, dass AGI gleich um die Ecke ist und dass seine Ingenieure diejenigen sein werden, die es auf die Welt loslassen werden. Es gibt auch Rufe nach einem kühlen Glas Skepsis.
Zum einen sind Generative Pre-Trained Transformers (GPTs) keine OpenAI-Erfindung. Sie sind auch nicht neu. GPTs wurden 2017 bei Google erfunden. Die größte Innovation von OpenAI bestand darin, eine verbraucherfreundliche Schnittstelle zu schaffen und diese der Öffentlichkeit zugänglich zu machen. Abgesehen von der Tatsache, dass das Unternehmen derzeit große Investitionen erhält, gibt es kaum einen Grund anzunehmen, dass AGI von OpenAI kommen wird – vor allem, weil die zig Milliarden Dollar, die die Leute dem Unternehmen geben, bei weitem nicht ausreichen.
„Es liegt noch ein langer Weg vor uns und es muss noch viel Rechenleistung zwischen hier und AGI aufgebaut werden“, sagte Altman in einem neuen Interview mit dem Financial Times. „Die Ausbildungskosten sind einfach riesig.“
Aber selbst wenn Sie alles Geld der Welt hätten, wäre es nicht unbedingt eine sichere Sache, dass wir AGI näher stehen als damals, als die Leute noch bei AGI waren andere Unternehmen GPTs wurden vor fast 7 Jahren erstellt. ChatGPT ist erstaunlich, aber es kommt bei weitem nicht an ein Tool heran, das bei den meisten Aufgaben besser ist als Menschen. Es ist möglich, vielleicht sogar wahrscheinlich, dass es eine harte technische Grenze für die Fähigkeiten von GPTs gibt. Unsere aktuelle Generation großer Sprachmodelle könnte eine Sackgasse sein, wenn das Ziel AGI ist.
Vergessen Sie AGI, OpenAI kann Ihnen nicht einmal sagen, wann das nächste große Software-Update veröffentlicht wird. Altman sagte der Financial Times, dass OpenAI an ChatGPT-5 arbeite, aber „er hat sich nicht auf einen Zeitplan für die Veröffentlichung festgelegt.“ Er konnte nicht einmal sagen, wofür ChatGPT-5 nützlich sein würde. „Ich kann Ihnen nicht genau sagen, was es bewirken wird“, sagte Altman. „Für uns ist es wie ein lustiges Ratespiel.“ Bisher besteht die Vorgehensweise des Unternehmens darin, seine Modelle mit Daten zu füllen und später herauszufinden, wozu sie gut sind. Bisher ist ChatGPT sehr gut darin, Limericks zu schreiben und Lügen zu erzählen.
Wenn AGI jedoch hier ist, ist er zuversichtlich, dass dies, zweifellos dank der Führung von Sam Altman, sehr gut für das Geschäft sein wird. „Der Geschäftswert, der dadurch entsteht, dass wir das in jeder Kategorie tun können, ist meiner Meinung nach ziemlich gut“, sagte er. Leider ist es für Sie vielleicht nicht so toll, zumindest nicht auf kurze Sicht, aber Altman hat auch dafür einen Plan.
In einem Interview von seiner Ranch Anfang des Jahres erzählte Altman dem New York Times dass sein Plan darin besteht, dass OpenAI „durch die Schaffung von AGI einen Großteil des weltweiten Reichtums an sich reißt und diesen Reichtum dann an die Menschen weiterverteilt.“ Ernsthaft. Er konnte jedoch keinen Plan formulieren, wie er all das wunderbare Geld tatsächlich umverteilen will.
Wie bei den meisten Plänen von Altman ist er immer noch dabei, diesen auszuarbeiten. Aber keine Sorge, die Leute, die OpenAI betreiben, die definitiv keine effektiven Altruisten sind, versprechen, dass sie sich um Sie kümmern werden.