NVIDIA hat seine nächste Generation von KI-Supercomputerchips auf den Markt gebracht, die wahrscheinlich eine große Rolle bei zukünftigen Durchbrüchen im Bereich Deep Learning und Large Language Models (LLMs) wie GPT-4 von OpenAI spielen werden, gab das Unternehmen bekannt. Die Technologie stellt einen bedeutenden Sprung gegenüber der letzten Generation dar und ist bereit, in Rechenzentren und Supercomputern eingesetzt zu werden – für Aufgaben wie Wetter- und Klimavorhersage, Arzneimittelentwicklung, Quantencomputing und mehr.
Das Schlüsselprodukt ist die HGX H200-GPU auf Basis der „Hopper“-Architektur von NVIDIA, ein Ersatz für die beliebte H100-GPU. Es handelt sich um den ersten Chip des Unternehmens, der einen schnelleren und kapazitätsstärkeren HBM3e-Speicher nutzt, wodurch er besser für große Sprachmodelle geeignet ist. „Mit HBM3e liefert der NVIDIA H200 141 GB Speicher mit 4,8 Terabyte pro Sekunde, fast die doppelte Kapazität und 2,4-mal mehr Bandbreite im Vergleich zu seinem Vorgänger, dem NVIDIA A100“, schrieb das Unternehmen.
In Bezug auf die Vorteile für die KI sagt NVIDIA, dass der HGX H200 die Inferenzgeschwindigkeit auf Llama 2, einem LLM mit 70 Milliarden Parametern, im Vergleich zum H100 verdoppelt. Es wird in 4- und 8-Wege-Konfigurationen verfügbar sein, die sowohl mit der Software als auch mit der Hardware in H100-Systemen kompatibel sind. Es funktioniert in jeder Art von Rechenzentrum (lokal, in der Cloud, Hybrid-Cloud und Edge) und kann unter anderem von Amazon Web Services, Google Cloud, Microsoft Azure und Oracle Cloud Infrastructure bereitgestellt werden. Es soll im zweiten Quartal 2024 erscheinen.
Das andere Schlüsselprodukt von NVIDIA ist der „Superchip“ GH200 Grace Hopper, der die HGX H200-GPU und die Arm-basierte NVIDIA Grace-CPU über die NVLink-C2C-Verbindung des Unternehmens vereint. Es ist für Supercomputer konzipiert, um „Wissenschaftlern und Forschern die Bewältigung der anspruchsvollsten Probleme der Welt durch die Beschleunigung komplexer KI- und HPC-Anwendungen mit Terabytes an Daten zu ermöglichen“, schrieb NVIDIA.
Der GH200 werde in „über 40 KI-Supercomputern weltweiter Forschungszentren, Systemhersteller und Cloud-Anbieter“ eingesetzt, darunter von Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT und Supermicro. Besonders hervorzuheben sind die Cray EX2500-Supercomputer von HPE, die vier GH200-Prozessoren verwenden und auf Zehntausende von Grace Hopper-Superchip-Knoten skaliert werden können.
Der vielleicht größte Grace-Hopper-Supercomputer wird JUPITER sein, der im Werk Jülich in Deutschland steht und bei seiner Installation im Jahr 2024 zum „leistungsstärksten KI-System der Welt“ werden wird bis zu 24.000 NVIDIA GH200-Superchips, die mit der NVIDIA Quantum-2 InfiniBand-Netzwerkplattform verbunden sind“, so NVIDIA.
Laut NVIDIA wird JUPITER dazu beitragen, wissenschaftliche Durchbrüche in einer Reihe von Bereichen zu ermöglichen, darunter Klima- und Wettervorhersagen und die Erstellung hochauflösender Klima- und Wettersimulationen mit interaktiver Visualisierung. Es wird auch für die Arzneimittelforschung, Quanteninformatik und Industrietechnik eingesetzt. In vielen dieser Bereiche kommen benutzerdefinierte NVIDIA-Softwarelösungen zum Einsatz, die die Entwicklung erleichtern, aber auch Supercomputing-Gruppen auf NVIDIA-Hardware angewiesen machen.
Die neuen Technologien werden für NVIDIA von entscheidender Bedeutung sein, da das Unternehmen mittlerweile den Großteil seines Umsatzes in den Segmenten KI und Rechenzentren erzielt. Im letzten Quartal verzeichnete das Unternehmen allein in diesem Bereich einen Rekordumsatz von 10,32 Milliarden US-Dollar (von 13,51 Milliarden US-Dollar Gesamtumsatz), 171 Prozent mehr als im Vorjahr. Man hofft zweifellos, dass die neue GPU und der neue Superchip dazu beitragen werden, diesen Trend fortzusetzen. Erst letzte Woche hat NVIDIA mit der älteren H100-Technologie seinen eigenen KI-Trainings-Benchmark-Rekord gebrochen, daher dürfte die neue Technologie dazu beitragen, den Vorsprung gegenüber der Konkurrenz in einem Sektor, den das Unternehmen bereits dominiert, auszubauen.