Mit der Einführung von DGX Cloud möchte Nvidia die KI-Entwicklung für Unternehmen überall zu einem fairen Preis anbieten und sofortigen Zugriff auf die Infrastruktur und Software bieten, die für fortgeschrittenes Modelltraining erforderlich sind.
DGX Cloud soll sich als wertvolles Tool für diejenigen erweisen, die ihre eigene generative KI trainieren möchten, und ist die Weiterentwicklung desselben Tools, das von OpenAI zum Trainieren des äußerst beliebten ChatGPT verwendet wird KI-Autor.
Nach Angaben des Unternehmens Pressemitteilung (öffnet in neuem Tab)wird jedes Unternehmen in der Lage sein, über einen Webbrowser auf seinen eigenen KI-Supercomputer zuzugreifen, wodurch die kostspielige Notwendigkeit entfällt, spezifische Hardware vor Ort zu erwerben.
Nvidia DGX Cloud für KI-Training
Nvidia-CEO Jensen Huang beschrieb diese Ära als „den iPhone-Moment der KI“, in dem Unternehmen sich bemühen, die Ersten zu sein, die etwas Neues anbieten. Die monatliche Miete für DGX Cloud-Cluster bietet ein kostengünstigeres und zugänglicheres Format für Startups, um an Bord zu kommen.
Jede Instanz von DGX Cloud verwendet acht H100- oder A100-Tensor-Core-GPUs mit 80 GB VRAM, was insgesamt 640 GB GPU-Speicher pro Knoten entspricht.
Zu gegebener Zeit hofft das Unternehmen, seine Tools über verschiedene Cloud-Service-Provider anbieten zu können, der Service startet jedoch zunächst mit Oracle Cloud Infrastructure, die eine Supercluster-Skalierung von mehr als 32.000 GPUs ermöglichen wird.
Microsoft Azure soll die DGX Cloud bereits im nächsten Quartal hosten, Google Cloud und weitere sollen später folgen.
Das Biotechnologieunternehmen Amgen, das Versicherungstechnologieunternehmen CCC Intelligent Solutions und der Anbieter digitaler Geschäftsplattformen ServiceNow werden als einige der ersten Anwender von DGX Cloud genannt.
Die Preise wurden bereits bekannt gegeben, wobei einzelne Instanzen in den USA bei 36.999 US-Dollar pro Monat beginnen, obwohl diejenigen, die über etwas anderes als Oracle auf DGX Cloud zugreifen möchten, warten müssen. Ebenso müssen Details zu den offiziellen Preisen in anderen Regionen, einschließlich Großbritannien und Australien, noch bekannt gegeben werden.