NVIDIA hat enthüllt neue Benchmarks seiner kommenden Arm-basierten Grace-GPU, die Rechenzentren und Server der nächsten Generation antreiben wird.
Die neuesten Grace-CPU-Benchmarks von NVIDIA zeigen bis zu doppelt so viel Leistung wie die schnellsten x86-Rechenzentrums-CPUs von AMD und Intel bei gleicher Leistung
Angetrieben von den Arm Neoverse N2-Kernen wird die Grace-CPU in NVIDIAs Superchips eingesetzt, die sowohl in den Varianten CPU+CPU als auch CPU+GPU erhältlich sind. NVIDIA hat kürzlich seine leistungsstärkste GPU für KI- und Compute-Workloads namens GH200 angekündigt, die auch mit dem weltweit schnellsten HBM3e-Speicher ausgestattet ist und vom Grace Hopper Superchip übernommen wird.
Zu den wichtigsten Highlights von Grace gehören:
- Hochleistungs-CPU für HPC und Cloud Computing
- Super-Chip-Design mit bis zu 144 Arm-v9-CPU-Kernen
- Weltweit erster LPDDR5x mit ECC-Speicher, 1 TB/s Gesamtbandbreite
- SPECrate2017_int_base über 740 (geschätzt)
- 900 GB/s kohärente Schnittstelle, 7-mal schneller als PCIe Gen 5
- 2-fache Packungsdichte von DIMM-basierten Lösungen
- 2-fache Leistung pro Watt der derzeit führenden CPU
- Führt alle NVIDIA-Software-Stacks und -Plattformen aus, einschließlich RTX, HPC, AI und Omniverse
Für die Präsentation „Hot Chips 2023“ präsentierte NVIDIAs Chefwissenschaftler Bill Dally die Leistungsvergleiche zwischen einem NVIDIA Grace Superchip und einer konkurrierenden Dual-Socket-x86-Lösung seiner Konkurrenten. Dazu gehören AMDs EPYC 9654, die schnellste Lösung mit 96 Kernen und 192 Threads, sowie Intels Flaggschiff, der Xeon Platinum 8480+, der über 56 Kerne und 112 Threads verfügt. Da die Lösungen auf einer Dual-Socket-Konfiguration liefen, sind das insgesamt 192 Kerne für AMD und 112 Kerne für die Intel-Plattform.
Aus den offiziellen NVIDIA Grace CPU-Spezifikationen wissen wir, dass der Grace Superchip insgesamt 144 Kerne (72 Arm Neoverse V2 pro Chip) bietet, bis zu 960 GB LPDDR5X-Speicher mit bis zu 1 TB/s Rohbandbreite unterstützt und über eine verfügt Gesamtleistungsaufnahme von 500 W. Zu den weiteren Spezifikationen gehören 117 MB L3-Cache und 58 Gen5-Lanes, alles unter Verwendung des TSMC 4N-Prozessknotens.
Die von NVIDIA ausgewählten Benchmarks decken ein breites Spektrum an Serveranwendungen wie Weather WRF, MD CP2K, Climate NEMO, CFD OpenFOAM und Graph Analytics GapBS BFS ab. In allen Benchmarks bieten die Grace Superchip-CPUs von NVIDIA eine bis zu 40 % bessere Leistung als die Genoa-CPUs von AMD und liegen deutlich vor den Sapphire Rapids-CPUs von Intel. Die meisten Benchmarks lagen auf dem Niveau von Genoa und selbst das ist großartig für Grace, da zwei dieser Chips eine kombinierte TDP von 640 W (320 Watt pro EPYC 9654) haben, während der Grace Superchip mit 500 W läuft.
Noch interessanter werden die Leistungsvergleiche jedoch, wenn man sie mit einer tatsächlichen großen Rechenzentrumsanwendung vergleicht. Ein Durchsatz-Benchmark für ein 5-MW-Rechenzentrum zeigt, dass die Grace-Superchips von NVIDIA innerhalb derselben Benchmarks eine bis zu 2,5-fache Leistung bieten und dabei äußerst effizient sein können. Für Rechenzentrums- und Server-Clients, die in diese Workloads investieren, können Grace-CPUs ein großer Game Changer sein, genau wie NVIDIAs Tensor-Core-GPUs den HPC- und KI-Bereich dominiert haben.