Es gibt Hinweise darauf, dass KI-gesteuerte Unternehmen Gaming-GPUs aufkaufen

Die Nachfrage nach GPUs nimmt zweifellos wieder zu, da die Preise in einigen chinesischen Ländern 70.000 US-Dollar pro GPU übersteigen (das gilt für eine H800-GPU im Rechenzentrum) und führende Unternehmen der US-amerikanischen Computerbranche sich in den sozialen Medien darüber beschweren, dass Cloud-basierte GPU-Ressourcen dies tun ausgebucht und GPU-Hardware-Zubehör sind alle vorhanden reserviert für das kommende Jahr. Drastische Zeiten erfordern drastische Maßnahmen, und wir sehen allmählich Anzeichen dafür, dass GPUs, die in Heim-Desktop-PCs integriert werden sollten, stattdessen von den Akteuren der KI-Branche aufgekauft werden.

Natürlich werden sich Gamer und Enthusiasten Sorgen über eine Wiederholung des Kryptomining-Wahnsinns machen, der die GPU-Versorgung der Verbraucher dezimiert hat: Werden die alten Krypto-Brüder durch die KI-Brüder ersetzt, die sich unsere wertvollen Gaming-GPUs schnappen?

Der erste handfeste Beweis dafür, dass KI-orientierte Unternehmen Consumer-GPUs aufkaufen, stammt aus einer Prahlerei, die der berühmte IT-Hacker und Unternehmer George Hotz (alias Geohot) getwittert hat.

Wenn Sie den Tweet oben erweitern, können Sie Hotz sehen, der derzeit ein Unternehmen für automatisierte, KI-gesteuerte Fahrassistenz leitet Komma-KIsprechen über den Aufkauf von AMD-Gaming-GPUs.

Das Bild zeigt einen teilweise entpackten Rechner mit angeblich „7,38 PFLOPS an Rechenleistung“. Auf dem Foto können wir deutlich eine XFX MERC 310 GPU erkennen und auf der Verpackung steht „AMD Radeon RX 7900 XTX“. Dabei handelt es sich um ein XFX-Design, das auf AMDs Flaggschiff-Consumer-GPU und den zweitplatzierten besten Grafikkarten für Gaming im Jahr 2023 in unserer häufig aktualisierten Zusammenfassung basiert.

Unsere Berechnungen aus der Hotz-Erklärung und dem Bild gehen davon aus, dass sich in diesem „7,38 PFLOPS“-Stapel 60 GPUs befinden (basierend auf der FP16-Leistung). Jede dieser RX 7900 XTX-Karten kostet 979,99 $ bei Amazon, zum Zeitpunkt des Schreibens. Somit hat Hotz offenbar gerade einmal rund 60.000 US-Dollar für diese bescheidene GPU-Leistung ausgegeben.

Offensichtlich ist dies nur ein Tropfen auf den heißen Stein, denn der Gründer und Präsident von Comma AI sagt, dass „exaFLOPS noch mehr folgen werden“. Als Referenz: Ein exaFLOPS entspricht 1.000 petaFLOPS Leistung. Wenn wir davon ausgehen, dass Hotz bis zu 7,38 exaFLOPS GPU-Rechenleistung kaufen will (das 1.000-fache der ersten Charge), hat er möglicherweise etwa 60 Millionen US-Dollar für diesen Kaufrausch bei Verbraucher-Grafikkarten eingeplant. Oder vielleicht nur etwa 20 Millionen US-Dollar, wenn er nur etwa 2 ExaFLOPS an KI-Rechenleistung benötigt.

Ein interessanter Aspekt des oben genannten Kaufs von AMD-GPUs ist, dass bestimmte KI-Workloads viel Speicher beanspruchen können. Der Preis von fast 1.000 US-Dollar pro GPU für einen AMD 7900 bietet dreimal so viel VRAM. Wenn die Workloads also Arbeitsspeicher benötigen, benötigen Sie drei RTX 4060-Karten oder zwei RTX 4070-Karten, um die gleichen 24 GB zu erhalten – plus die Server, die alle diese GPUs aufnehmen.

Die getwitterte Aussage von George Hotz ist nicht das erste Warnsignal, das wir für eine steigende Nachfrage der KI-Industrie nach GPUs sehen. Vor einigen Tagen haben wir über die rasante Inflation der GPUs in China berichtet. Es wird angenommen, dass die Angst vor weiteren US-Sanktionen gegen China dazu beigetragen hat, die Preise für Beschleuniger wie die A800- und H800-GPUs in die Höhe zu treiben. Einige Wochen zuvor war der Preis für einen A800 aufgrund drohender Sanktionsängste fast über Nacht um 20 % gestiegen.

Angesichts anderer aktueller Indikatoren können wir deutlich erkennen, dass der Aufstieg der KI tiefgreifende Auswirkungen auf das Angebot an rechenorientierten GPUs hat. Jetzt stellt sich nur noch die Frage, inwieweit diese unstillbare Nachfrage auch auf Gaming-GPUs übergreifen wird.