Flexions-KIein KI-Startup-Unternehmen, hat einen hochmodernen Supercomputer gebaut, der mit 22.000 NVIDIA H100-GPUs ausgestattet ist, was eine phänomenale Zahl ist und enorme Rechenleistung an Bord bringt.
Der Supercomputer von Inflection AI wird voraussichtlich einer der größten der Branche sein, direkt hinter der Grenze von AMD
Für diejenigen, die mit Inflection AI nicht vertraut sind: Es handelt sich um ein Unternehmen, das darauf abzielt, „persönliche KI für alle“ zu schaffen. Das Unternehmen ist weithin bekannt für sein kürzlich eingeführtes KI-Modell Inflection-1, das den Pi-Chatbot antreibt. Obwohl das KI-Modell noch nicht das Niveau von ChatGPT oder Googles LaMDA-Modellen erreicht hat, deuten Berichte darauf hin, dass Inflection-1 bei „gesunden Menschenverstand“-Aufgaben gut abschneidet und sich daher viel besser für Anwendungen wie persönliche Assistenz eignet.
Als wir zurückkamen, kündigte Inflection an, dass es einen der weltweit größten KI-basierten Supercomputer baut, und es sieht so aus, als hätten wir endlich einen Vorgeschmack darauf, was daraus werden würde. Es wird berichtet, dass der Inflection-Supercomputer mit 22.000 H100-GPUs ausgestattet ist und laut Analyse fast 700 Vier-Knoten-Racks mit Intel Xeon-CPUs enthalten würde. Der Supercomputer wird erstaunliche 31 Megawatt Leistung verbrauchen.
Das Überraschende am Supercomputer ist die Anschaffung von 22.000 NVIDIA H100-GPUs. Wir alle sind uns bewusst, dass es in letzter Zeit schwierig war, auch nur eine einzige H100-Einheit zu erwerben, da die Nachfrage enorm ist und NVIDIA den Auftragseingang nicht bewältigen kann. Im Fall von Inflection AI erwägt NVIDIA, in das Unternehmen zu investieren, weshalb es in ihrem Fall einfacher ist, an eine so große Anzahl von GPUs zu kommen.
Laut TechCrunch hat Inflection AI rund 1,5 Milliarden US-Dollar an Investitionen eingesammelt, und derzeit wird das Unternehmen mit 4 Milliarden US-Dollar bewertet. Durch diesen Supercomputer soll sich das KI-Modell „Inflection 1“ vor allem bei Codierungsaufgaben deutlich verbessern, da das Unternehmen hier noch hinterherhinkt.
Nachrichtenquelle: HardwareLuxx