NVIDIAs GeForce RTX 4090 „Gaming“-GPUs werden zu Tausenden in „KI“-Lösungen umgewandelt, um der wachsenden Nachfrage in China gerecht zu werden.
Tausende von NVIDIAs Gaming-GPUs „GeForce RTX 4090“ werden in China in „KI“-Lösungen umgewandelt
China wurde kürzlich von erheblichen Beschränkungen für KI-Hardware durch die US-Regierung getroffen. Gemäß den neuen Vorschriften ist es mehreren GPU-Anbietern wie NVIDIA, AMD und Intel nun untersagt, bestimmte KI-Chips nach China zu verkaufen. Das Verbot von NVIDIA-GPUs war das Schlimmste, da sogar verbraucherorientierte Geforce RTX 4090-Karten aufgrund ihrer hohen Rechenleistung vom chinesischen Festland vertrieben wurden.
Berichten zufolge hat NVIDIA vor dem Inkrafttreten des Verbots vor einigen Tagen einen großen Teil der AD102-GPUs und GeForce RTX 4090-Grafikkarten von seinen AIB-Partnern nach China verlagert. Diese Priorisierung könnte ein Grund dafür gewesen sein, dass die RTX 4090 im Rest der Welt mittlerweile Mangelware ist und die Karte derzeit einen Preis von über 2.000 US-Dollar erreicht. Darüber hinaus hatten chinesische Giganten im KI-Bereich auch einen großen Vorrat an NVIDIA-GPUs angehäuft, die Generationen ihrer KI-Modelle antreiben könnten.
Jetzt ein Insider aus der Chinesische Baidu-Foren hat ergeben, dass in ganz China spezialisierte Fabriken gegründet werden, die diese GeForce RTX 4090-Lieferungen (die vor dem Verbot verschickt wurden) erhalten. Ein einzelnes Bild zeigt mehrere hundert NVIDIA GeForce RTX 4090-Grafikkarten von PALIT und es wird berichtet, dass weitere in Vorbereitung sind. Im Hauptthread sind auch die Varianten ASUS ROG STRIX und Gigabyte Gaming OC abgebildet. Was den Zweck dieser Karten angeht, ist es offensichtlich kein Spiel, wenn Sie das denken.
Sie sehen, die steigenden Preise für die NVIDIA GeForce RTX 4090-GPUs haben es selbst für das High-End-Gaming-Segment unerreichbar gemacht, mit Preisen nahe 10.000 US-Dollar pro Stück, aber es gibt einen Markt, der nach diesen Karten hungert, und das ist Chinas inländische KI Segment.
Für KI-Zwecke ist das Software-Ökosystem für den RTX 4090 bereits vorhanden und es sind kaum oder gar keine Änderungen auf Softwareebene erforderlich, um die neuesten LLMs zu unterstützen. NVIDIA hat kürzlich angekündigt, TensorRT und TensorRT-LLM auf Windows 11-PCs zu bringen, was es noch zugänglicher macht. Die Softwareseite ist also fertig, aber was ist mit der Praktikabilität der Verwendung eines Gaming-Designs in einer Serverumgebung? Dafür sind diese Fabriken gebaut.
Jede Karte hat ein 3- oder 4-Slot-Design, was bedeutet, dass sie außergewöhnlich viel Platz einnimmt, was für eine Server-KI-Umgebung nicht besonders geeignet ist. Die Arbeiter in diesen Fabriken nehmen also jede Karte auseinander. Zuerst werden die massiven Kühler zerlegt und dann wird alles inklusive GPU und GDDR6X-Speicher von der Hauptplatine entfernt. Es heißt, dass eine spezielle „Referenz“-Platine entwickelt wurde, die diesen AD102-GPUs und dem GDDR6X-Speicher ein neues Leben verleiht.
Ein chinesischer Fabrikarbeiter stellt durch verschiedene Tests sicher, dass die neu zusammengebaute RTX 4090 AI-Lösung die Anforderungen erfüllt. (Bildquelle: Baidu-Foren):
Jede Karte ist dann mit einem zahmeren Dual-Slot-Kühler im Gebläse-Design ausgestattet. Es gibt mehrere Versionen des Gebläsekühlers, die jedoch alle ähnliche Spezifikationen aufweisen. Ein GPU-Kühler im Gebläsestil ist speziell auf große Serverumgebungen abgestimmt, in denen mehrere GPUs zusammen laufen und die Wärme effektiv aus dem Kühlkörper ableiten sollen.
Nach dem Zusammenbau der neuen Einheit durchläuft die neu geborene NVIDIA GeForce RTX 4090 AI-Lösung einen strengen Testlauf in den Testlabors, wo wir sehen können, wie Furmark, 3DMark und eine Vielzahl von AI-Anwendungen darauf ausgeführt werden, um sicherzustellen, dass sie den Anforderungen entsprechen die Anforderungen von KI-Kunden. Sobald alles geklärt ist, werden diese GPUs verpackt und an Chinas KI-Unternehmen verschickt.
Chinas Reseller-Markt ist überschwemmt mit zerlegten RTX 4090-Kühlern und blanken Leiterplatten, die einst Gaming-Karten im Wert von über 1.600 US-Dollar mit Strom versorgten (Bildquelle: Chiphell-Foren):
Dieser Prozess hat auch zu einer Fülle von geführt NVIDIA GeForce RTX 4090-Kühler und nackte Leiterplatten werden auf den chinesischen Wiederverkäufermärkten überschwemmt. Diese Platinen und Kühler werden mittlerweile zu wirklich günstigen Preisen verkauft, oft für weniger als 50 US-Dollar, da die wertvollsten Komponenten, die AD102-GPU und der GDDR6X-Speicher, bereits auseinandergenommen wurden. Sie können auf jeden Fall eine schöne Sammlung werden, aber es ist auch traurig, dass all dieses technische Know-how verschwendet wird. Diese Leiterplatten könnten sich bei zukünftigen Reparaturen der RTX 4090 als nützlich erweisen, da die Karte immer noch gelegentlich Opfer des fehlerhaften 12VHPWR-Anschlusses wird.
Da das Verbot in Kraft ist, können keine NVIDIA GeForce RTX 4090-GPUs mehr nach China ohne eine Lizenz gemäß der „NEC“-Berechtigungsregel versendet werden. Vor diesem Hintergrund hoffen wir, dass sich die AD102-Versorgung in anderen Regionen wieder normalisiert und sich auch die Preise zu normalisieren beginnen.