Das Interesse der Unternehmen an KI nimmt weiter zu, und zwar kürzlich Umfrage Dabei stellte sich heraus, dass fast zwei Drittel der Unternehmen planen, ihre Ausgaben für KI und maschinelles Lernen bis ins Jahr hinein zu erhöhen oder beizubehalten. Allerdings stoßen diese Unternehmen häufig auf Hindernisse, wenn es darum geht, verschiedene Formen der KI in der Produktion einzusetzen.
Eine Umfrage von Rexer Analytics aus dem Jahr 2020 gefunden dass nur 11 % der KI-Modelle immer eingesetzt werden. An anderer Stelle ein Gartner-Analyst geschätzt dass fast 85 % der Big-Data-Projekte scheitern.
Salman Avestimehr, der Gründungsdirektor des USC-Amazon Center on Trustworthy Machine Learning, war von der Bewältigung der Herausforderungen inspiriert und gründete ein Startup, das es Unternehmen ermöglicht, KI-Modelle in der Cloud oder am Edge zu trainieren, bereitzustellen, zu überwachen und zu verbessern. Genannt FedML11,5 Millionen US-Dollar an Startkapital bei einer Bewertung von 56,5 Millionen US-Dollar eingeworben, angeführt von Camford Capital unter Beteiligung von Road Capital und Finality Capital.
„Viele Unternehmen sind bestrebt, benutzerdefinierte KI-Modelle anhand unternehmensspezifischer oder branchenspezifischer Daten zu trainieren oder zu verfeinern, damit sie KI nutzen können, um eine Reihe von Geschäftsanforderungen zu erfüllen“, sagte Avestimehr gegenüber TechCrunch in einem E-Mail-Interview. „Leider sind benutzerdefinierte KI-Modelle aufgrund der hohen Daten-, Cloud-Infrastruktur- und Engineering-Kosten unerschwinglich teuer in der Erstellung und Wartung. Darüber hinaus sind die proprietären Daten zum Training benutzerdefinierter KI-Modelle oft sensibel, reguliert oder isoliert.“
FedML überwindet diese Hindernisse, behauptet Avestimehr, indem es eine „kollaborative“ KI-Plattform bereitstellt, die es Unternehmen und Entwicklern ermöglicht, gemeinsam an KI-Aufgaben zu arbeiten, indem sie Daten, Modelle und Rechenressourcen teilen.
FedML kann eine beliebige Anzahl benutzerdefinierter KI-Modelle oder Modelle aus der Open-Source-Community ausführen. Mithilfe der Plattform können Kunden eine Gruppe von Mitarbeitern erstellen und KI-Anwendungen automatisch auf ihren Geräten (z. B. PCs) synchronisieren. Mitarbeiter können Geräte hinzufügen, die für das KI-Modelltraining verwendet werden sollen, etwa Server oder sogar Mobilgeräte, und den Trainingsfortschritt in Echtzeit verfolgen.
Kürzlich hat FedML FedLLM eingeführt, eine Trainingspipeline zum Aufbau „domänenspezifischer“ großer Sprachmodelle (LLMs) à la OpenAIs GPT-4 auf proprietären Daten. FedLLM ist mit beliebten LLM-Bibliotheken wie Hugging Face und DeepSpeed von Microsoft kompatibel und soll die Geschwindigkeit der benutzerdefinierten KI-Entwicklung verbessern und gleichzeitig Sicherheit und Datenschutz wahren, sagt Avestimehr. (Um es klarzustellen: Die Jury ist sich nicht sicher, ob es genau das erreicht.)
In dieser Hinsicht unterscheidet sich FedML nicht wesentlich von den anderen MLOps-Plattformen da draußen – „MLOps“ bezieht sich auf Tools zur Rationalisierung des Prozesses, KI-Modelle in die Produktion zu bringen und sie dann zu warten und zu überwachen. Es gibt Galileo und Arize sowie Seldon, Qwak und Comet (um nur einige zu nennen). Auch etablierte Unternehmen wie AWS, Microsoft und Google Cloud bieten MLOps-Tools in der einen oder anderen Form an (siehe: SageMaker, Azure Machine Learning usw.).
Aber FedML hat Ambitionen, die über die Entwicklung von KI- und Modellwerkzeugen für maschinelles Lernen hinausgehen.
Laut Avestimehr besteht das Ziel darin, eine „Community“ aus CPU- und GPU-Ressourcen aufzubauen, um Modelle zu hosten und zu bedienen, sobald sie für die Bereitstellung bereit sind. Die Einzelheiten wurden noch nicht ausgearbeitet, aber FedML beabsichtigt, Benutzer durch Token oder andere Arten der Vergütung dazu zu motivieren, Rechenleistung für die Plattform bereitzustellen.
Verteilte, dezentrale Datenverarbeitung für die Bereitstellung von KI-Modellen ist keine neue Idee – Gensys, Run.AI und Petals gehören zu denen, die es versucht haben – und noch versuchen. Dennoch glaubt Avestimehr, dass FedML durch die Kombination dieses Rechenparadigmas mit einer MLOps-Suite eine größere Reichweite und einen größeren Erfolg erzielen kann.
„FedML ermöglicht benutzerdefinierte KI-Modelle, indem es Entwicklern und Unternehmen die Möglichkeit gibt, groß angelegte, proprietäre und private LLMs zu geringeren Kosten zu erstellen“, sagte Avestimehr. „Was FedML auszeichnet, ist die Möglichkeit, ML-Modelle überall zu trainieren, bereitzustellen, zu überwachen und zu verbessern und an den kombinierten Daten, Modellen und Berechnungen zusammenzuarbeiten – was die Kosten und die Zeit bis zur Markteinführung erheblich reduziert.“
Seiner Meinung nach hat FedML, das 17 Mitarbeiter hat, etwa 10 zahlende Kunden, darunter einen erstklassigen Automobilzulieferer, und insgesamt 13,5 Millionen US-Dollar in seiner Kriegskasse, einschließlich der neuen Finanzierung. Avestimehr gibt an, dass die Plattform von mehr als 3.000 Benutzern weltweit genutzt wird und über 8.500 Schulungsaufgaben auf mehr als 10.000 Geräten durchführt.
„Für Daten- oder technische Entscheidungsträger macht FedML maßgeschneiderte, erschwingliche KI- und große Sprachmodelle zur Realität“, sagte Avestimehr zuversichtlich. „Und dank seiner Grundlage aus föderierter Lerntechnologie, seiner MLOps-Plattform und kollaborativen KI-Tools, die Entwicklern helfen, die benutzerdefinierten Modelle zu trainieren, bereitzustellen und zu beobachten, ist die Entwicklung benutzerdefinierter Alternativen eine zugängliche Best Practice.“