Was du wissen musst
- OpenAI hat die Verfügbarkeit einer Feinabstimmung für GPT-3.5 Turbo angekündigt.
- Die Funktion verbessert die Leistung und ermöglicht Unternehmen die Verwendung kürzerer Eingabeaufforderungen.
- Durch die Feinabstimmung mit GPT-3.5-Turbo können 4K-Tokens verarbeitet werden.
- Unterstützung für die Feinabstimmung in GPT-4 wird später im Herbst erwartet.
OpenAI hat kürzlich die Verfügbarkeit eines neuen Updates angekündigt, das Entwicklern dies ermöglicht Feinabstimmung des GPT-3.5 Turbo. Das Unternehmen erklärte: „Dieses Update gibt Entwicklern die Möglichkeit, Modelle anzupassen, die für ihre Anwendungsfälle eine bessere Leistung erbringen, und diese benutzerdefinierten Modelle in großem Maßstab auszuführen.“
Mit dieser neuen Funktion verspricht OpenAI, dass GPT-3.5 Turbo in der Lage sein wird, mit GPT-4 mitzuhalten, wenn nicht sogar seine Angebote „bei bestimmten engen Aufgaben“ vollständig zu übertreffen. Das Unternehmen gab außerdem an, dass Feinabstimmungsfunktionen später im Herbst auf GPT-4 ausgeliefert werden sollen.
Das Unternehmen wies außerdem darauf hin, dass die Feinabstimmungs-API die Sicherheit der Kundendaten gewährleistet, und verwies darauf, dass die Informationen ausschließlich zu Feinabstimmungszwecken verwendet werden. OpenAI hat mehrere Anwendungsszenarien zur Feinabstimmung hervorgehoben:
- Verbesserte Lenkbarkeit: Durch die Feinabstimmung können Unternehmen dafür sorgen, dass das Modell den Anweisungen besser folgt, z. B. indem sie die Ausgaben prägnanter gestalten oder immer in einer bestimmten Sprache antworten. Beispielsweise können Entwickler durch Feinabstimmungen sicherstellen, dass das Modell immer auf Deutsch reagiert, wenn sie dazu aufgefordert werden, diese Sprache zu verwenden.
- Zuverlässige Ausgabeformatierung: Durch die Feinabstimmung wird die Fähigkeit des Modells verbessert, Antworten konsistent zu formatieren – ein entscheidender Aspekt für Anwendungen, die ein bestimmtes Antwortformat erfordern, wie z. B. die Codevervollständigung oder das Verfassen von API-Aufrufen. Ein Entwickler kann die Feinabstimmung nutzen, um Benutzeraufforderungen zuverlässiger in hochwertige JSON-Snippets umzuwandeln, die mit seinen eigenen Systemen verwendet werden können.
- Benutzerdefinierter Ton: Die Feinabstimmung ist eine hervorragende Möglichkeit, das qualitative Erscheinungsbild der Modellausgabe, beispielsweise ihren Ton, zu verbessern, sodass sie besser zur Stimme der Marken von Unternehmen passt. Ein Unternehmen mit einer erkennbaren Markenstimme kann eine Feinabstimmung vornehmen, damit das Modell besser zu seinem Ton passt.
Die neue Funktion verbessert nicht nur die Leistung, sondern ermöglicht es Unternehmen auch, kürzere Eingabeaufforderungen zu verwenden und dennoch die gleiche Leistung beizubehalten. Laut OpenAI „haben frühe Tester die Größe der Eingabeaufforderungen um bis zu 90 % reduziert, indem sie die Anweisungen im Modell selbst optimiert haben, wodurch jeder API-Aufruf beschleunigt und die Kosten gesenkt wurden.“
Darüber hinaus kann die Feinabstimmung mit GPT-3.5-Turbo 4K-Tokens verarbeiten, was einer Verdoppelung der Größe gegenüber früheren Feinabstimmungsmodellen entspricht. OpenAI empfiehlt, die Feinabstimmung mit Techniken wie Prompt Engineering, Informationsabruf oder Funktionsaufruf zu kombinieren, um optimale Ergebnisse zu erzielen.
Die Kosten für die Feinabstimmung betragen:
- Training: 0,008 $ / 1.000 Token
- Verwendungseingabe: 0,012 $ / 1.000 Token
- Nutzungsausgabe: 0,016 $ / 1.000 Token