Delange sagte, dass sich Open-Source-Sprachmodelle schnell verbessern und für einige spezielle Aufgaben besser sein können als das marktführende GPT-4 von OpenAI. Er wies jedoch darauf hin, dass viele der besten Open-Source-Modelle von außerhalb der USA stammten, und sagte, dass 01.AI in der Lage sein könnte, von den Innovationen zu profitieren, die rund um sein Modell entstehen. „US-Unternehmen sind etwas weniger offen und transparent geworden“, sagte er bei dem Briefing. „Aber es gibt diese interessante Dynamik bei KI: Je mehr ein Unternehmen Open Source veröffentlicht, desto mehr entwickelt sich das Ökosystem und desto stärker wird es beim Aufbau von KI.“
Metas Llama 2 ist ein seltenes Beispiel für ein Top-Open-Source-Modell eines US-Unternehmens und stellt die Herausforderung des Social-Media-Riesen für OpenAI, Microsoft, Google und andere große Technologiekonkurrenten dar, die stark in generative KI investieren. Meta hat sich entschieden, sein KI-Sprachmodell unter einer Lizenz zu veröffentlichen, die mit einigen Einschränkungen eine kommerzielle Wiederverwendung ermöglicht.
Yi-34B und Llama 2 scheinen mehr gemeinsam zu haben, als nur führende Open-Source-KI-Modelle zu sein. Nicht lange nach der Veröffentlichung des chinesischen Modells sagten einige Entwickler bemerkte dass der Code von 01.AI zuvor Erwähnungen des Meta-Modells enthielt, die später entfernt wurden. Später Richard Lin, Leiter Open Source bei 01.AI sagte dass das Unternehmen die Änderungen rückgängig machen würde, und das Unternehmen hat Llama 2 einen Teil der Architektur für Yi-34B zugeschrieben. Wie alle führenden Sprachmodelle basiert 01.AI auf der „Transformer“-Architektur, die erstmals 2017 von Google-Forschern entwickelt wurde, und das chinesische Unternehmen hat diese Komponente von Llama 2 abgeleitet. Anita Huang, Sprecherin von 01.AI, sagt ein Rechtsexperte Ein vom Unternehmen konsultiertes Flugzeug sagte, dass Yi-34B nicht der Lizenz von Llama 2 unterliegt. Meta antwortete nicht auf eine Anfrage nach einem Kommentar.
Unabhängig davon, inwieweit Yi-34B Anleihen bei Llama 2 nimmt, funktioniert das chinesische Modell aufgrund der ihm zugeführten Daten ganz anders. „Yi teilt die Architektur von Llama, aber sein Training ist völlig anders – und deutlich besser“, sagt Eric Hartford, ein KI-Forscher bei Abacus.AI, der Open-Source-KI-Projekte verfolgt. „Sie sind völlig unterschiedlich.“
Die Verbindung mit Metas Llama 2 ist ein Beispiel dafür, wie das Unternehmen trotz Lees Vertrauen in Chinas KI-Expertise derzeit Amerikas Führung in der generativen KI folgt. Jeffrey Dingein Assistenzprofessor an der George Washington University, der Chinas KI-Szene untersucht, sagt, dass chinesische Forscher zwar Dutzende großer Sprachmodelle veröffentlicht haben, die Branche insgesamt jedoch immer noch hinter den USA zurückbleibt.
„Westliche Unternehmen haben bei der Entwicklung großer Sprachmodelle einen erheblichen Vorteil erlangt, weil sie öffentliche Veröffentlichungen nutzen konnten, um Probleme zu testen, Benutzerfeedback einzuholen und Interesse an neuen Modellen zu wecken“, sagt er. Ding und andere haben argumentiert dass chinesische KI-Unternehmen einem stärkeren regulatorischen und wirtschaftlichen Gegenwind ausgesetzt sind als ihre US-amerikanischen Pendants.
Als er letzte Woche auf dem Weltwirtschaftsforum in Davos sprach, argumentierte Lee – vielleicht in der Hoffnung, dass die Botschaft nach Hause gelangt –, dass der offene Ansatz für jedes Land von entscheidender Bedeutung sei, um die Vorteile der KI voll auszuschöpfen.
„Eines der Probleme, wenn ein oder mehrere Unternehmen die meiste Macht haben und die Modelle dominieren, besteht darin, dass dadurch enorme Ungleichheit entsteht, und zwar nicht nur bei weniger wohlhabenden Menschen und weniger wohlhabenden Ländern, sondern auch bei Professoren, Forschern, Studenten, Unternehmern, Hobbyisten“, sagte Lee. „Wenn es kein Open Source gäbe, was würden sie tun, um zu lernen? weil sie möglicherweise der nächste Schöpfer, Erfinder oder Entwickler von Anwendungen sind.“
Wenn er recht hat, werden die Technologie von 01.AI – und die darauf aufbauenden Anwendungen – die chinesische Technologie in den Mittelpunkt der nächsten Phase der Technologiebranche stellen.