Meta trainiert bereits einen leistungsfähigeren Nachfolger von Llama 3


Zuckerberg ging zu Instagram heute, um zu erklären, dass Meta den neuen Meta-KI-Assistenten, der von Llama 3 unterstützt wird, in Produkte wie WhatsApp, Instagram, Facebook und Messenger integrieren würde.

Meta sagte in seinem Blogbeitrag zur Ankündigung von Llama 3, dass man sich stark auf die Verbesserung der Trainingsdaten konzentriert habe, die zur Entwicklung des Modells verwendet wurden. Nach Angaben des Unternehmens wurden ihm siebenmal so viele Daten zugeführt wie seinem Vorgänger Llama 2. Einige KI-Experten stellten fest, dass die von Meta veröffentlichten Zahlen auch zeigten, dass Llama 3 erstellt wurde erforderte enorme Energiemengen um die benötigten Server mit Strom zu versorgen.

Die wachsenden Fähigkeiten von Open-Source-KI-Modellen haben einige Experten zu der Sorge veranlasst, dass sie die Entwicklung von Cyber-, chemischen oder biologischen Waffen erleichtern oder sogar menschenfeindlich werden könnten. Meta hat freigegebene Werkzeuge Das soll dazu beitragen, dass Llama keine potenziell schädlichen Äußerungen ausgibt.

Andere im Bereich der KI sagen, dass die Llama-Modelle von Meta nicht so offen seien, wie sie sein könnten. Die Open-Source-Lizenz des Unternehmens für die Modelle führt zu einigen Einschränkungen hinsichtlich dessen, was Forscher und Entwickler erstellen können.

„Es ist großartig zu sehen, wie immer mehr Models ihre Gewichte offen loslassen“, sagte Luca Soldaini, leitender Wissenschaftler für angewandte Forschung am Allen Institute for AI, einem gemeinnützigen Labor, in einer Erklärung nach der Veröffentlichung von Llama 3. „Aber die offene Community benötigt Zugriff auf alle anderen Teile der KI-Pipeline – ihre Daten, Schulungen, Protokolle, Code und Auswertungen. Dies wird letztendlich unser kollektives Verständnis dieser Modelle beschleunigen.“

Stella Bidermanein KI-Forscher, der an beteiligt ist EleutherAI, ein gemeinnütziges Open-Source-KI-Projekt, sagt, Metas Lizenz für Llama 2 schränkte die Experimente ein, die KI-Forscher damit durchführen können, und fügt hinzu, dass die Llama 3-Lizenz noch restriktiver erscheint. „Meta gibt Gewichte frei, ist aber bekanntermaßen restriktiv in Bezug auf die Möglichkeiten, die man damit machen kann“, sagt Biderman.

Ein Teil der Lizenz des Modells besagt, dass Unternehmen mit „mehr als 700 Millionen monatlich aktiven Nutzern“ eine Sonderlizenz von Meta einholen müssen – eine Klausel, die offenbar verhindern soll, dass das Projekt den engsten Konkurrenten des Unternehmens hilft.

Dennoch scheint Llama 3 wahrscheinlich einen neuen Ausbruch von KI-Experimenten auszulösen. Clement Delange, CEO von Umarmendes Gesicht, ein Repository für offene KI-Modelle, einschließlich Llama 3, sagt, dass Entwickler mehr als 30.000 Varianten von Llama 2 erstellt haben. „Ich bin sicher, dass wir auch eine Menge neuer Modelle sehen werden, die auf Llama 3 basieren“, sagt er. „Tolle Community-Aktion von Meta.“



source-114

Leave a Reply