Das Finanzierungsklima für KI-Chip-Startups, einst so sonnig wie ein Tag Mitte Juli, beginnt sich einzutrüben Nvidia behauptet seine Dominanz.
Laut einem aktuellen Bericht US-Chipfirmen erzogen von Januar 2023 bis September 2023 nur 881 Millionen US-Dollar – ein Rückgang gegenüber 1,79 Milliarden US-Dollar in den ersten drei Quartalen des Jahres 2022. Dem KI-Chip-Unternehmen Mythic ging 2022 das Geld aus und er war fast gezwungen, den Betrieb einzustellen, während Graphcore, ein einst gut kapitalisierter Rivale , muss nun mit steigenden Verlusten rechnen.
Aber ein Startup scheint im hart umkämpften – und zunehmend überfüllten – Bereich der KI-Chips Erfolg gehabt zu haben.
Hailo2017 von Orr Danon und Avi Baum mitbegründet, zuvor CTO für drahtlose Konnektivität beim Mikroprozessorunternehmen Texas Instruments, entwickelt spezielle Chips zur Ausführung von KI-Workloads auf Edge-Geräten. Die Chips von Hailo führen KI-Aufgaben mit geringerem Speicherverbrauch und Stromverbrauch als ein typischer Prozessor aus, was sie zu einem starken Kandidaten für kompakte, offline- und batteriebetriebene Geräte wie Autos, Smart-Kameras und Robotik macht.
„Ich habe Hailo mitbegründet, mit der Mission, leistungsstarke KI in großem Maßstab außerhalb des Bereichs von Rechenzentren verfügbar zu machen“, sagte Danon gegenüber TechCrunch. „Unsere Prozessoren werden für Aufgaben wie Objekterkennung, semantische Segmentierung usw. sowie für die KI-gestützte Bild- und Videoverbesserung eingesetzt. In jüngerer Zeit werden sie zum Ausführen großer Sprachmodelle (LLMs) auf Edge-Geräten wie Personalcomputern, elektronischen Steuereinheiten für Infotainment und mehr verwendet.“
Viele KI-Chip-Startups haben noch keinen einzigen Großauftrag erhalten, geschweige denn Dutzende oder Hunderte. Aber Hailo hat heute laut Danon über 300 Kunden in Branchen wie Automobil, Sicherheit, Einzelhandel, Industrieautomation, medizinische Geräte und Verteidigung.
In einer Wette auf Hailos Zukunftsaussichten investierte eine Kohorte von Geldgebern, darunter der israelische Geschäftsmann Alfred Akirov, der Automobilimporteur Delek Motors und die VC-Plattform OurCrowd, diese Woche 120 Millionen US-Dollar in Hailo, eine Erweiterung der Serie C des Unternehmens. Danon sagte, dass das neue Kapital wird „Hailo in die Lage versetzen, alle Chancen in der Pipeline zu nutzen“ und gleichzeitig „die Voraussetzungen für langfristiges Wachstum schaffen“.
„Wir sind strategisch positioniert, um KI auf eine Weise auf Edge-Geräte zu bringen, die die Reichweite und Wirkung dieser bemerkenswerten neuen Technologie erheblich erweitern wird“, sagte Danon.
Nun fragen Sie sich vielleicht, ob ein Startup wie Hailo funktioniert Wirklich haben gegen Chip-Giganten wie Nvidia eine Chance, wenn auch in geringerem Maße Arm, Intel Und AMD? Ein Experte, Christos Kozyrakis, Stanford-Professor für Elektrotechnik und Informatik, glaubt das – er glaubt, dass Beschleunigerchips wie der von Hailo „absolut notwendig“ werden, wenn sich die KI ausbreitet.
„Die Energieeffizienzlücke zwischen CPUs und Beschleunigern ist zu groß, um sie zu ignorieren“, sagte Kozyrakis gegenüber TechCrunch. „Sie nutzen die Beschleuniger für die Effizienz bei Schlüsselaufgaben (z. B. KI) und haben einen oder zwei Prozessoren an der Seite für die Programmierbarkeit.“
Kozyrakis tut sehen, dass Langlebigkeit eine Herausforderung für Hailos Führung darstellt – wenn beispielsweise die KI-Modellarchitekturen, auf die seine Chips ausgelegt sind, effizient laufen, aus der Mode geraten. Auch die Softwareunterstützung könnte ein Problem sein, sagt Kozyrakis, wenn eine kritische Masse von Entwicklern nicht bereit sei, den Umgang mit den auf Hailos Chips basierenden Tools zu erlernen.
„Die meisten Herausforderungen, wenn es um kundenspezifische Chips geht, liegen im Software-Ökosystem“, sagte Kozyrakis. „Hier hat beispielsweise Nvidia im Bereich KI einen enormen Vorteil gegenüber anderen Unternehmen, da sie seit über 15 Jahren in Software für ihre Architekturen investieren.“
Aber mit 340 Millionen US-Dollar auf der Bank und einer Belegschaft von rund 250 Mitarbeitern ist Danon zuversichtlich, was Hailos weiteren Weg angeht – zumindest kurzfristig. Er ist der Ansicht, dass die Technologie des Startups viele der Herausforderungen angeht, mit denen Unternehmen bei der Cloud-basierten KI-Inferenz konfrontiert sind, insbesondere Latenz, Kosten und Skalierbarkeit.
„Traditionelle KI-Modelle basieren auf einer Cloud-basierten Infrastruktur und leiden oft unter Latenzproblemen und anderen Herausforderungen“, sagte Danon. „Sie sind nicht in der Lage, Einblicke und Warnungen in Echtzeit zu erhalten, und ihre Abhängigkeit von Netzwerken gefährdet die Zuverlässigkeit und Integration mit der Cloud, was Bedenken hinsichtlich des Datenschutzes aufwirft. Hailo begegnet diesen Herausforderungen, indem es Lösungen anbietet, die unabhängig von der Cloud funktionieren und dadurch in der Lage sind, deutlich höhere Mengen an KI-Verarbeitung zu bewältigen.“
Neugierig auf Danons Perspektive, fragte ich nach generativer KI und ihrer starken Abhängigkeit von der Cloud und entfernten Rechenzentren. Sicherlich sieht Hailo das aktuelle Top-Down-, Cloud-zentrierte Modell (z. B. die Vorgehensweise von OpenAI) als existenzielle Bedrohung an?
Danon sagte, dass generative KI im Gegenteil eine neue Nachfrage nach Hailos Hardware antreibe.
„In den letzten Jahren haben wir in den meisten Branchen, von der Flughafensicherheit bis zur Lebensmittelverpackung, einen Anstieg der Nachfrage nach Edge-KI-Anwendungen erlebt“, sagte er. „Der neue Aufschwung der generativen KI steigert diese Nachfrage weiter, da wir nicht nur Anfragen von Kunden aus der Computer- und Automobilindustrie, sondern auch aus der industriellen Automatisierung, Sicherheit und anderen Bereichen sehen, LLMs lokal zu verarbeiten.“
Wie ist es damit.