Nvidia hat auf seiner Computex-Keynote seinen neuen Grace Hopper-Superchip angekündigt, und sein riesiger Speicher reicht aus, um die gesamte RTX 40-Serie zum Weinen zu bringen. Darüber hinaus packt es mit dem DGX GH200 acht davon in das, was Jensen Huang als „eine riesige GPU“ bezeichnet – einen absoluten Mega-Superserver zur Beschleunigung der KI.
Der Superchip verfügt über 576 GB GPU-Speicher, darunter 96 GB HBM3-Speicher und 480 GB LPDDR5. Wenn man sogar die 24 GB GDDR6X auf der RTX 4090 berücksichtigt, ist das ein deutlicher Vergleich zu dem, was wir im GeForce-Land gewohnt sind.
Laut Huang enthält der Superchip „praktisch den gesamten Computer“, einschließlich 72 ARM-CPUs, und Nvidia schnappt sich acht davon, um sie in den DGX GH200 zu stopfen – ein paar Racks mit KI-Servern.
Der DGX GH200 ist groß, sowohl im wörtlichen als auch im übertragenen Sinne. Wir haben es mit 150 Meilen Glasfaserkabeln und 2.000 Ventilatoren zu tun, die 70.000 Kubikfuß Luft pro Minute recyceln können. „Es kann wahrscheinlich die Luft in diesem gesamten Raum in ein paar Minuten recyceln“, sagt Huang.
Und mit einem Gewicht von 40.000 Pfund ist die DGX GH200 „vier Elefanten, eine GPU“. Mit anderen Worten: Sie werden keinen Platz in Ihrem Arbeitszimmer finden. Aber ich denke, das ist ein Teil des Schönen an der cloudbasierten Beschleunigung – das muss man nicht.
Nicht, dass wir uns eines leisten könnten, wenn man den Preis bedenkt, den dieses Monster wahrscheinlich haben wird. Nvidia hat den zu erwartenden Preis nicht bestätigt, aber ich wette, dass es atemberaubend sein wird.
Zwischen den acht Grace Hopper-Chips im DGX GH200 befinden sich Chip-zu-Chip-Verbindungen von NVLink-Switches mit einer Kapazität von 900 GB/s. Zusammengenommen liegt die Rechenleistung insgesamt bei etwa einem Exaflop.
Und natürlich redet Jensen zwischen sporadischer Standup-Comedy auf Mandarin den Spielern im Publikum zu: „Ich frage mich, ob das Crysis spielen könnte? Nur Spieler werden diesen Witz verstehen.“
Natürlich wendet sich Nvidia nicht vom Gaming ab, trotz unserer Überlegungen zu einem aktuellen Gewinnaufruf, aber es ist klar, dass der Fokus für die Zukunft auf KI liegt. Wenn man bedenkt, dass Nvidia gerade ACE for Games angekündigt hat, ein KI-Toolset, mit dem Entwickler NPCs erstellen können, die in Echtzeit mit Ihnen kommunizieren können. Nvidia hat bereits bestätigt, dass das System auf der Nvidia DGX Cloud läuft, aber auch auf einer normalen alten GPU laufen könnte.