Intel hat aktualisierte MLPerf-Benchmarks seiner Gaudi2-Beschleuniger veröffentlicht, die in letzter Zeit für großes Aufsehen gesorgt haben. Die erhaltenen Daten belegen, dass sich die KI-Beschleuniger von Gaudi als brauchbare Alternative zu den H100-GPUs von NVIDIA erweisen und es Intel ermöglichen, seinen Anteil am „KI-Hype“ zu gewinnen.
Intel Gaudi2-Beschleuniger verkleinern die Lücke zwischen NVIDIAs H100 und ersetzen die veralteten A100-KI-GPUs
Bevor wir uns mit den Benchmarks befassen, ist es wichtig, sich darüber im Klaren zu sein, dass die KI-Branche in den kommenden Jahren voraussichtlich exponentiell wachsen wird. Gartner, ein amerikanisches Marktforschungsunternehmen, hat bekannt gegeben, dass die KI-Branche im Jahr 2023 einen Wert von 53,4 Milliarden US-Dollar erreichen wird, was einer Steigerung von 20,9 % gegenüber dem Vorjahr entspricht. Darüber hinaus prognostiziert das Unternehmen, dass die Branche bis 2027 fast die 120-Milliarden-Dollar-Marke erreichen könnte, was ein Hauptgrund dafür ist, dass Unternehmen wie Intel und AMD mit ihren eigenen KI-Lösungen einen dominanten Einstieg anstreben.
Basierend auf den von Intel veröffentlichten Daten konnten die Gaudi2-Beschleuniger eine ordentliche Leistungssteigerung verzeichnen und übertrafen die A100-KI-GPUs von NVIDIA deutlich. Intel sagt, dass ihr Gaudi2-Beschleuniger im Vergleich zu ihren Pendants auf dem Markt ein viel besseres „Wert“ bietet, und angesichts der überhöhten Preise, zu denen NVIDIAs KI-GPUs verkauft werden, haben sie tatsächlich Recht.
- Gaudi2 liefert eine überzeugende Leistung im Vergleich zu Nvidias H100, wobei H100 im Vergleich zu Gaudi2 einen leichten Leistungsvorteil von 1,09x (Server) und 1,28x (Offline) aufweist.
- Gaudi2 übertrifft Nvidias A100 um das 2,4-fache (Server) und das 2-fache (offline).
- Die Gaudi2-Einreichung nutzte FP8 und erreichte bei diesem neuen Datentyp eine Genauigkeit von 99,9 %.
Obwohl die oben genannten Statistiken tatsächlich beeindruckend sind, hat Intel einige Details ausgelassen, wie etwa relevante TDP- und Temperaturstatistiken. Auf lange Sicht spielen sie insbesondere angesichts der aktuellen Lage der Branche keine Rolle, da die H100 mit einem immensen Mangel konfrontiert sind und die Nachfrage und die Lieferkette aufgrund eines „Zustroms“ von Großaufträgen unterbrochen sind. Vor diesem Hintergrund erweisen sich Intels Gaudi2-Beschleuniger als starke Alternative, allerdings besteht hier noch Nachholbedarf.
Abgesehen von den Gaudi-Beschleunigern hat Intel auch einige Benchmarks seiner 4. Generation Intel Xeon Scalable und Dies sind die wichtigsten Ergebnis-Highlights:
- Der skalierbare Intel Für die GPT-J-100-Wörter-Zusammenfassungsaufgabe eines Nachrichtenartikels mit etwa 1.000 bis 1.500 Wörtern fassten Intel Xeon-Prozessoren der 4. Generation zwei Absätze pro Sekunde im Offline-Modus und einen Absatz pro Sekunde im Echtzeit-Servermodus zusammen.
- Zum ersten Mal hat Intel MLPerf-Ergebnisse für die Intel Xeon CPU Max-Serie vorgelegt, die bis zu 64 Gigabyte (GB) Speicher mit hoher Bandbreite bietet. Für GPT-J war es die einzige CPU, die eine Genauigkeit von 99,9 % erreichen konnte, was für Anwendungen, bei denen höchste Genauigkeit von größter Bedeutung ist, von entscheidender Bedeutung ist.
- Intel arbeitete mit seinen Originalgeräteherstellern (OEM) zusammen, um ihre eigenen Einreichungen zu liefern, und demonstrierte damit die Skalierbarkeit der KI-Leistung und die breite Verfügbarkeit von Allzweckservern mit Intel Xeon-Prozessoren, die Service Level Agreements (SLAs) der Kunden erfüllen können.
David Zinsner, bei einem Treffen im Citi Global Technology Conferenceenthüllte, dass Intel die perfekte Gelegenheit gesehen hat, sich als Akteur in der KI-Branche zu etablieren, und sagte, dass es großes Interesse an seinen Gaudi-Beschleunigern als Alternative zu NVIDIA-KI-GPUs geweckt habe, die sich derzeit in einer schwierigen Situation befinden Produktions- und Lieferphasen.
Die Herausforderungen bei der Beschaffung von GPUs – ich denke, wir sehen, dass mehr Kunden einen Blick auf Gaudi als Alternative werfen. Und außerdem sind die Preise besser und attraktiver.
Zinsner hat die Absicht des Unternehmens zum Ausdruck gebracht, einen „ausgewogeneren“ Ansatz in der KI-Branche zu verfolgen und wettbewerbsfähige Produkte anzubieten. Der Beamte hat erkannt, dass die Sapphire Rapids-Reihe des Unternehmens mehr Aufmerksamkeit erhalten hat, während die KI-Beschleunigerabteilung außen vor blieb. Zinsner behauptet, dass Intel sich schon seit einiger Zeit auf sein GPU-Segment konzentriert und einen Großteil der Finanzmittel des Unternehmens in dessen Entwicklung investiert hat, was den „Rückgang“ der Einnahmen aus Rechenzentren beschleunigte.
Dafür sind GPUs erforderlich [AI] arbeiten. Ich denke, dass wir aufgrund der CPU, die wir haben, davon profitieren.
Das schwächt die Umsätze unseres Rechenzentrumsgeschäfts ein wenig und ist einer der Gründe, warum wir davon ausgehen, dass das dritte Quartal und das vierte Quartal verhaltener verlaufen werden als in der Vergangenheit.
Intel konzentriert sich derzeit auf die KI-Branche, da das Unternehmen mit Unternehmen wie NVIDIA und SK Hynix Wunder vollbracht hat. Der Ansatz von Team Blue mit Gaudi-KI-Beschleunigern in der Zukunft deutet auf einen positiven Aufschwung hin, und einer der Indikatoren, die wir gesehen haben, sind die Pläne des Unternehmens, Falcon Shores-Chips der nächsten Generation in die Gaudi-Reihe zu integrieren und so ihr Potenzial auf ein Ganzes zu erweitern Neues level. Hier muss jedoch noch viel getan werden, und die einzige Möglichkeit, wie Intel die Konkurrenz verdrängen kann, besteht darin, seine KI-Produkte auf ein völlig neues Niveau zu bringen.
Es ist zwar spät für die Party, aber wenn das Unternehmen einen entscheidenden Schritt machen könnte, könnten sich die Dinge ändern. Angesichts der erwarteten Veröffentlichung abgespeckter Gaudi-Beschleuniger in China und der schnellen Entwicklung, die das Unternehmen bei seinen KI-Beschleunigern vornimmt, sollte man in den kommenden Tagen viel von Intel erwarten.