Es sind seltsame Zeiten, in denen wir leben, in denen ein Blockchain-Milliardär und nicht die üblichen Big-Tech-Verdächtigen die Rechenkapazität bereitstellt, die für die Entwicklung generativer KI erforderlich ist.
Gestern wurde bekannt, dass Jed McCaleb, Mitbegründer der Blockchain-Startups Stellar, Ripple und Mt Gox und des Luft- und Raumfahrtunternehmens Vast, eine gemeinnützige Organisation gemäß 501(c)(3) gegründet hat, die 24.000 Nvidia H100-GPUs gekauft hat, um Rechenzentren zu bauen, die vermietet werden sollen Kapazität für KI-Projekte.
Bereits jetzt wird der GPU-Cluster – der schätzungsweise eine halbe Milliarde Dollar wert ist und zu den größten der Welt gehört – von den Startups Imbue und Character.ai für Experimente mit KI-Modellen genutzt, behauptet Eric Park, der CEO einer neu gegründeten Organisation. Spannungsparkdas für den Betrieb und die Verwaltung der Rechenzentren zuständig ist.
„Ziel war es, den Zugang zu Startups, Scale-Ups und Forschungsorganisationen zu ermöglichen, die derzeit aufgrund restriktiver Verträge, der Knappheit von GPUs und hoher Mindestkaufschwellen von diesem Bereich ausgeschlossen sind, damit sie auf die lebenswichtigen Ressourcen zugreifen können, die sie für Innovationen benötigen.“ „Park erzählte TechCrunch in einem E-Mail-Interview. „Wir sprechen weiterhin mit Leuten aus der Branche, um ihre Bedürfnisse zu verstehen, und nutzen die gewonnenen Erkenntnisse, um zu informieren, wie wir unsere verbleibenden Cluster ausbauen, damit sie für möglichst viele Kunden nützlich sind.“
Die meisten Trainingsmodelle von Unternehmen, insbesondere generative KI-Modelle wie ChatGPT und Stable Diffusion, basieren stark auf GPU-basierter Hardware. Aufgrund der Fähigkeit von GPUs, viele Berechnungen parallel durchzuführen, eignen sie sich gut für das Training – und die Bereitstellung – der leistungsstärksten KI von heute.
Aber es gibt nicht genug Chips für alle.
Microsoft sei mit einem so schwerwiegenden Mangel an Serverhardware konfrontiert, die für die Ausführung von KI erforderlich sei, dass es zu Dienstunterbrechungen kommen könne, so das Unternehmen gewarnt in einem Sommerergebnisbericht. Und einige der leistungsstärksten KI-Karten von Nvidia sind es angeblich bis 2024 ausverkauft.
„Der Mangel an modernster Rechenleistung ist gravierend“, sagte Park. „Ich führe Gespräche mit Unternehmen jeder Größe – Startups, Scale-ups und großen Laboren – und so ziemlich jedes einzelne sagt mir, dass sie nicht genug H100s bekommen, um ihre Modelle zu trainieren. Für Start-ups und Scale-ups, die nicht die großen Verträge abschließen können, die viele Clouds für den Zugriff auf diese Chips benötigen, kommt es zu einer zunehmenden Schwierigkeit, und das schränkt die KI-Innovation wirklich ein.“
Der Spannungspark wurde in einer etwas ungewöhnlichen Struktur errichtet.
McCaleb gründete eine gemeinnützige Organisation namens Navigation Fund, für deren Stiftung er spendete. Der Navigation Fund kaufte dann die oben genannten H100s – zahlte „die volle Verkaufs- und Nutzungssteuer“, obwohl der Navigation Fund angeblich gemeinnützig war – und übertrug das Eigentum an den GPUs an gewinnorientiert Voltage Park, das technisch gesehen eine Tochtergesellschaft des Navigation Fund ist.
„Der Vorstand von Navigation hat entschieden, dass eine gewinnorientierte Tochtergesellschaft besser in der Lage wäre, spezialisierte Betriebe aufzubauen, um einen Cluster dieser Größenordnung zu verwalten“, sagte ein Sprecher des Navigation Fund in einer E-Mail gegenüber TechCrunch. „Zu diesem Zweck haben sie „Voltage Park“ gegründet und als Teil der anfänglichen Kapitaleinlage das Eigentum an den GPUs übertragen. Dafür gab es gute strategische Gründe. Eine Tochtergesellschaft wäre besser in der Lage, die Marktchancen rund um modernste Rechenleistung zu nutzen, während der Navigationsfonds sich ausschließlich auf seine Mission und die Gewährung wohltätiger Zuschüsse konzentrieren könnte.“
Der Sprecher führte weiter aus, dass McCaleb weder den in Brooklyn, New York ansässigen Navigation Fund noch den Voltage Park besitzt, leitet oder Gewinne daraus erwirtschaftet, da diese von separaten Führungsteams geführt werden und über unabhängige Vorstände verfügen. Vermutlich bringt McCalebs Spende einen erheblichen Steuervorteil mit sich – selbst wenn der gemeinnützige Empfänger die Vermögenswerte sofort an Voltage Park weiterverschenkte.
Der Spannungspark wird nicht das einzige Projekt des Navigation Fund sein. Der Sprecher beschrieb sie als eine „langfristige“ gemeinnützige Stiftung mit Interessen in einer Reihe von Bereichen, darunter Tierschutz in Nutztieren, Reform der Strafjustiz, offene Wissenschaft, Klima und KI-Sicherheit, die „Organisationen, Aktivisten, Fürsprecher und Unternehmer“ unterstützen werde .“
Der Navigationsfonds hat jedoch noch einen langen Weg vor sich, bevor er eines dieser Vorhaben in Angriff nimmt. Es scheint noch nicht offiziell als gemeinnützige Organisation registriert zu sein; Als TechCrunch letzte Woche einen Experten konsultierte, um in zwei branchenüblichen Datenbanken, Charity Navigator und GuideStar, nach dem Navigation Fund zu suchen, konnte der Experte keinen Eintrag finden. Und der Präsident des Navigation Fund, David Coman-Hidy, trat erst im August bei.
Das soll nicht auf Unangemessenheit schließen lassen. Der Navigationsfonds hat vielleicht seinen Papierkram in Ordnung gebracht und abgelegt, aber der IRS hat es einfach noch nicht geschafft, ihn zu bearbeiten.
Unabhängig vom Steuerstatus des Navigation Fund werde ein Prozentsatz der Gewinne von Voltage Park an den Navigation Fund gehen, um dessen philanthropische Mission zu unterstützen, sagte der Sprecher.
Der gesamte Cluster von Voltage Park ist nicht online. Aber sobald es näher am Ende des Jahres ist (vorausgesetzt, alles läuft nach Plan), wird es in drei Bundesstaaten live sein – Texas, Virginia und Washington. Park sagt, dass ein „erheblicher Teil“ für Startups und Entwickler in der Frühphase reserviert sein wird und dass die Kapazität sowohl für kurzfristige Mietverträge als auch für stündliche Abrechnungen verfügbar sein wird.
„Wir haben den Voltage Park gegründet, um sicherzustellen, dass ein breites Spektrum an Unternehmen dort vertreten ist [AI] Tisch“, sagte Park. „Wir bieten derzeit eine Bare-Metal-Trainingsinfrastruktur für maschinelles Lernen an, aber unsere Mission ist umfassender – wir wollen maschinelles Lernen einem breiteren Publikum zugänglich machen, indem wir die Eintrittsbarriere senken. Dies kann zusätzliche Dienste umfassen, die auf unserer Infrastruktur aufbauen. Wir befinden uns noch in den Anfängen dieser Branche und werden uns anpassen, wenn sich das Feld weiterentwickelt und reift.“