Die kürzlich veröffentlichten Instinct MI300X-Beschleuniger von AMD haben den KI-Markt im Sturm erobert, da sie aufgrund ihrer Attraktivität in der Branche den Wettbewerbern „Kopfschmerzen“ bereiten
AMDs Instinct MI300X AI GPU übertrifft NVIDIAs Gegenstück in puncto Leistung und möglicherweise auch bei der Marktakzeptanz
AMDs Instinct MI300X AI GPU wurde vor fast einem Monat auf den Markt gebracht und hat seine Konkurrenten im Hinblick auf die Leistungssteigerung in umfangreichen Benchmarking-Tests, die von Team Red selbst durchgeführt wurden, übertroffen. Der Instinct MI300X-Beschleuniger wurde ausschließlich auf der CDNA 3-Architektur entwickelt und es ist eine Menge los. Es wird eine Mischung aus 5-nm- und 6-nm-IPs beherbergen, die zusammen bis zu 153 Milliarden Transistoren (MI300X) liefern werden. Der Speicher ist ein weiterer Bereich, in dem ein enormes Upgrade zu verzeichnen war: Der MI300X verfügt über 50 % mehr HBM3-Kapazität als sein Vorgänger, der MI250X (128 GB). Hier ist der Vergleich mit NVIDIAs H100:
- 2,4-mal höhere Speicherkapazität
- 1,6-fach höhere Speicherbandbreite
- 1,3X FP8 TFLOPS
- 1,3X FP16 TFLOPS
- Bis zu 20 % schneller im Vergleich zu H100 (Llama 2 70B) im 1v1-Vergleich
- Bis zu 20 % schneller im Vergleich zu H100 (FlashAttention 2) im 1v1-Vergleich
- Bis zu 40 % schneller im Vergleich zu H100 (Llama 2 70B) im 8v8-Server
- Bis zu 60 % schneller im Vergleich zu H100 (Bloom 176B) im 8v8-Server
> rocm-smi
Wie frisch gebackenes Brot ist 8x MI300X online
Wenn Sie auf offenen LLMs aufbauen und die Rechenleistung blockiert ist, lmk. Jeder sollte Zugang zu dieser Zaubertechnologie namens LLMs haben.
das heißt, die nächste Charge von @LaminiAI LLM-Pods sind da. pic.twitter.com/NjRAYjxehp
– Sharon Zhou (@realSharonZhou) 19. Januar 2024
Taiwan Economic Daily berichtet, dass die KI-GPU Instinct MI300X von AMD an Kunden wie LaminiAI, ein KI-Startup mit Unterstützung von AMD, ausgeliefert wurde. Überprüfung der Integration des neuen Beschleunigers in ihr Portfolio aufzunehmen.
Quellen innerhalb der Lieferkette geben an, dass es AMDs neuer Instinct-GPU gelungen sei, auf den Märkten ins Rampenlicht zu gelangen und das Interesse der Wettbewerber auf sich zu ziehen. Das liegt daran, dass nicht nur die Leistungssteigerungen mit dem MI300X enorm sind, sondern AMD auch die Veröffentlichung perfekt getimt hat, da NVIDIA derzeit mit dem „Gewicht“ der Auftragsrückstände beschäftigt ist, was sein Wachstum bei der Gewinnung neuer Kunden behindert.
Es wird erwartet, dass die KI-Märkte in den kommenden Jahren schnell wachsen werden, und Lisa Su, CEO von AMD, stuft sie als das nächste große Ding in der Technologiebranche ein. AMD glaubt, dass das KI-Segment das Potenzial hat, bis 2027 auf satte 400 Milliarden US-Dollar zu wachsen, und das Unternehmen hat sich tatsächlich darauf vorbereitet, von diesem enormen Wachstum zu profitieren. Ähnlich verhält es sich mit NVIDIAs CEO Jensen Huang bezeichnet 2023 als das „erste Jahr der KI“und behauptet, dass wir noch viel mehr vor uns sehen müssen, da KI-Computing in neue Bereiche expandiert, beispielsweise in die Mobil- und Automobilindustrie.
Die Zukunft ist in der Tat interessant, nicht nur für die am KI-Wettlauf beteiligten Unternehmen, sondern auch angesichts des Wachstums sowohl der Kunden- als auch der Verbrauchermärkte. Es sieht jedoch so aus, als ob der Wettbewerb mit der Zeit härter als je zuvor wird und NVIDIA im Jahr 2024 keinen „einfachen Zugang“ zur KI-Goldmine erhalten wird, da Team Red dieses Mal stärker zurückgekehrt ist.
Nachrichtenquelle: Taiwan Economic Daily