Eine kürzlich durchgeführte Umfrage hat ergeben, dass ein großer Teil der KI-Experten einen Wechsel von NVIDIA zu AMD Instinct MI300X GPUs anstrebt.
Der Instinct MI300X von AMD könnte das Tor zum Einstieg des Unternehmens in den anhaltenden KI-„Goldrausch“ sein, da er auf großes Interesse stößt
Jeff Tatarchuk, Mitbegründer von TensorWave, ergab, dass in einer unabhängigen Studie mit 82 Ingenieuren und KI-Experten etwa 50 % von ihnen ihr Vertrauen in die Verwendung der AMD Instinct MI300X GPU zum Ausdruck brachten, da sie im Vergleich zu Gegenstücken ein besseres Preis-Leistungs-Verhältnis und eine umfassende Verfügbarkeit bietet wie NVIDIA H100s. Abgesehen davon sagt Jeff auch, dass TensorWave die MI300X-KI-Beschleuniger einsetzen wird, was eine weitere vielversprechende Neuigkeit für Team Red ist, wenn man bedenkt, dass die Instinct-Reihe im Allgemeinen im Vergleich zu anderen wie NVIDIA nicht den gleichen Akzeptanzgrad erreicht hat.
In einer kürzlich unter 82 Ingenieuren und KI-Experten durchgeführten Umfrage wurde festgestellt, dass 50 % der Befragten aktiv über den Einsatz der AMD Instinct MI300X GPU nachdenken.
Die drei wichtigsten Gründe, den AMD MI300X in Betracht zu ziehen, sind Verfügbarkeit, Kosten und Leistung (in dieser Reihenfolge).
Wir… pic.twitter.com/ZckHBj6b20
— Jeff Tatarchuk (@jtatarchuk) 8. März 2024
Für einen kurzen Überblick über die MI300X Instinct AI GPU: Sie basiert ausschließlich auf der CDNA 3-Architektur und es ist eine Menge los. Es beherbergt eine Mischung aus 5-nm- und 6-nm-IPs, die zusammen bis zu 153 Milliarden Transistoren (MI300X) liefern. Der Speicher ist ein weiterer Bereich, in dem ein enormes Upgrade zu verzeichnen war: Der MI300X verfügt über 50 % mehr HBM3-Kapazität als sein Vorgänger, der MI250X (128 GB). Hier ist der Vergleich mit NVIDIAs H100:
- 2,4-mal höhere Speicherkapazität
- 1,6-fach höhere Speicherbandbreite
- 1,3X FP8 TFLOPS
- 1,3X FP16 TFLOPS
- Bis zu 20 % schneller im Vergleich zu H100 (Llama 2 70B) im 1v1-Vergleich
- Bis zu 20 % schneller im Vergleich zu H100 (FlashAttention 2) im 1v1-Vergleich
- Bis zu 40 % schneller im Vergleich zu H100 (Llama 2 70B) im 8v8-Server
- Bis zu 60 % schneller im Vergleich zu H100 (Bloom 176B) im 8v8-Server
Wir haben kürzlich darüber berichtet, dass AMDs Flaggschiff-KI-Beschleuniger Instinct „Kopfschmerzen“ bei Marktkonkurrenten verursacht hat. Dies liegt nicht nur daran, dass die Leistungssteigerungen mit dem MI300X enorm sind, sondern AMD hat seine Veröffentlichung auch perfekt getimt, da NVIDIA derzeit mit dem „Gewicht“ der Auftragsrückstände beschäftigt ist, was das Wachstum bei der Gewinnung neuer Kunden behindert. Auch wenn Team Red nicht den Start hatte, den sie sich gewünscht hatten, sieht es so aus, als ob sich die kommende Zeit für das Unternehmen als fruchtbar erweisen könnte und es möglicherweise zu einem direkten Duell mit Marktkonkurrenten kommen könnte.
Nachrichtenquelle: Jeff Tatarchuk