Zu den Investoren zählen Advanced Micro Devices (AMD) und das koreanische Telekommunikationsunternehmen KT Moreh, das ein KI-Softwaretool entwickelt, das KI-Modelle optimiert und erstellt. Das in Santa Clara und Seoul ansässige Startup gab bekannt, dass es eine Serie-B-Finanzierungsrunde im Wert von 22 Millionen US-Dollar eingeworben hat, was einer Gesamteinnahme von 30 Millionen US-Dollar entspricht.
Moreh sagt, dass seine Flaggschiff-KI-Software namens MoAI ähnlich ist Nvidias CUDA ist aber kompatibel mit bestehenden Frameworks für maschinelles Lernen wie PyTorch von Meta, TensorFlow von Google sowie Anwendungen und KI-Modellen, die bisher nur auf Nvidia ausgeführt werden konnten.
Das Startup ist der Ansicht, dass bestehende KI-Software für kleine KI-Modelle mit nur wenigen GPUs (Grafikprozessoren) geeignet ist, für eine umfangreichere KI-Infrastruktur jedoch nicht geeignet ist. Entsprechend ein aktueller Berichtda „KI auf Unternehmensebene schnell ausgereift ist“, seien die IT-Infrastruktur und Datenarchitekturen von Unternehmen „ungeeignet“ für das Training von KI-Modellen.
Die KI-Lösungen von Moreh ermöglichen es Benutzern, darunter KI-Entwickler, Rechenzentrumsbetreiber und KI-Chiphersteller, eine flexiblere KI-Infrastruktur aufzubauen, was angesichts des allgemeinen Mangels an GPUs weltweit wichtig ist, sagte Gangwon Jo, Mitbegründer und CEO von Moreh, gegenüber TechCrunch.
Die KI-Software des drei Jahre alten Startups ermöglicht es GPUs und anderen KI-Chips, wie z. B. neuronalen Verarbeitungseinheiten (NPUs), KI-Modelle, einschließlich großer Sprachmodelle (LLMs) wie GPT-3 und T5, ohne Codeänderungen zu betreiben, Jo erklärt. (NPU ist ein spezieller Chip zur Beschleunigung von Algorithmen für maschinelles Lernen, während GPU für Supercomputing, KI, maschinelles Lernen und umfangreiche Datenanalysen verwendet wird, bei denen numerische Präzision erforderlich ist.)
KT arbeitet seit 2021 mit Moreh zusammen, um eine kostengünstige, skalierbare KI-Infrastruktur aufzubauen, die auf AMD-GPUs und MoAI-Software basiert.
KT behauptet, dass das Angebot von Moreh bewiesen hat, dass seine Technologie funktioniert, und dass seine Leistung bei der Entwicklung von LLM und anderen KI-Modellen übertroffen wurde Nvidias DGX in Bezug auf Leistungsgeschwindigkeit und GPU-Speicherkapazität. Laut Moreh zeigte der MI250 Instinct-Beschleuniger von AMD, der auf der MoAI-Plattform basiert, einen um 116 % höheren GPU-Durchsatz als der A100 von Nvidia. Außerdem sagte Moreh, dass KI-Entwickler über seine Software ein Zehntel der Gesamtzeit reduzieren könnten, die für die Einleitung des Trainings für große KI-Modelle erforderlich sei.
Zuletzt hat das Startup das Training des koreanischsprachigen LLM mit 211 Milliarden Parametern abgeschlossen und wird das Modell noch in diesem Jahr als Open Source veröffentlichen.
Moreh begann im Jahr 2021 mit der Generierung von Einnahmen und strebt an, bis Ende 2023 etwa 30 Millionen US-Dollar zu erreichen, sagte Jo gegenüber TechCrunch.
„Das KI-Software-Ökosystem, das die KI-Hardware von AMD unterstützt, wächst weiter und bietet Datenwissenschaftlern und anderen KI-Anwendern Wahlmöglichkeiten bei der Entwicklung der KI-Modelle und -Lösungen, die das weitere Wachstum dieser Branche vorantreiben werden“, Brad McCredie, Corporate Vice President für Daten Kern-GPU und beschleunigte Verarbeitung bei AMD, heißt es in einer Erklärung.
Moreh wird das Geld für Forschung und Entwicklung, Produkterweiterung und die Einstellung von zusätzlichem Personal verwenden, das mittlerweile 70 Mitarbeiter zählt. Die südkoreanischen VC-Firmen Smilegate Investment und Forest Partners, Morehs bestehender Investor, beteiligten sich ebenfalls an der Serie-B-Runde.