ChatGPT erhält einen „hilfreichen, ehrlichen und harmlosen“ KI-Rivalen namens Claude

Das KI-Sicherheits- und Forschungsunternehmen Anthropic hat gerade seinen KI-Assistenten der nächsten Generation mit dem Namen veröffentlicht Claude(Öffnet in einem neuen Fenster).

Claude ist ein Konkurrent von OpenAIs ChatGPT, das bereits für einige negative Schlagzeilen gesorgt hat. Claude ist jedoch anders konzipiert, mit dem Fokus darauf, „hilfreich, ehrlich und harmlos“ zu sein und gleichzeitig alle Aufgaben zu erledigen, die Sie von einem KI-Assistenten erwarten (z. B. Zusammenfassung, Suche, Kreativität und Zusammenarbeit). Schreiben, Fragen und Antworten und Kodieren).

Als Reuters berichtet(Öffnet in einem neuen Fenster), Anthropic wurde von den ehemaligen OpenAI-Führungskräften Dario und Daniela Amodei mitbegründet und wird von Alphabet unterstützt. Der Grund, warum Claude anders ist und man sich darauf verlassen kann, hilfreich und vertrauenswürdig zu sein, liegt darin, dass die KI mit einer Liste von Regeln/Prinzipien ausgestattet und durch Selbstverbesserung trainiert wurde. Es ist eine Methode, die als “Konstitutionelle KI(Öffnet in einem neuen Fenster).”

Wie Anthropic erklärt:

„Der Prozess umfasst sowohl eine Phase des überwachten Lernens als auch eine Phase des bestärkenden Lernens. In der Phase des überwachten Lernens nehmen wir Stichproben von einem anfänglichen Modell, erstellen dann Selbstkritiken und Überarbeitungen und verfeinern dann das ursprüngliche Modell anhand der überarbeiteten Antworten. In der RL-Phase nehmen wir Stichproben vor aus dem fein abgestimmten Modell, verwenden Sie ein Modell, um zu bewerten, welche der beiden Stichproben besser ist, und trainieren Sie dann ein Präferenzmodell aus diesem Datensatz von KI-Präferenzen. Wir trainieren dann mit RL, indem wir das Präferenzmodell als Belohnungssignal verwenden, dh wir verwenden ‘RL von AI Feedback’ (RLAIF).”

Das Endergebnis ermöglicht es Claude, sich mit schädlichen, unangenehmen und sogar böswilligen Anfragen von Benutzern auseinanderzusetzen, indem „ihnen seine Einwände erklärt werden“. So kann Claude ehrliche Antworten geben, ohne schädliche Ergebnisse zu produzieren. Dies ist eine sehr attraktive Funktion für Unternehmen, die KI nutzen möchten, aber besorgt sind, wie sie missbraucht und möglicherweise ihre Marke oder ihren Ruf schädigen kann.

Anthropic bietet heute zwei Versionen seines KI-Assistenten namens Claude und Claude Instant an. Claude ist das hochmoderne Hochleistungsmodell, das “ein entzückender Unternehmensvertreter, ein Forschungsassistent, ein kreativer Partner, ein Aufgabenautomatisierer” und mehr werden kann, mit der Fähigkeit, Persönlichkeit, Ton und Verhalten anzupassen. Claude Instant ist einfach leichter, kostengünstiger und viel schneller – optimiert für Anwendungsfälle mit geringer Latenz und hohem Durchsatz. Preis für beide ist pro Million Zeichen(Öffnet in einem neuen Fenster).

Claude wird bereits von Quora in seiner Poe AI Chat-App, vom Online-Bildungsunternehmen Juni Learning zum Betrieb eines Discord-Tutor-Bots, von Notion zur Steigerung der Benutzerproduktivität, von DuckDuckGo für DuckAssist und von Robin AI zur Bewertung von Teilen rechtsgültiger Verträge verwendet.

Der KI-Assistent wird kontinuierlich weiterentwickelt und verbessert, und Anthropic plant, in den kommenden Wochen Updates auszurollen. Nur die Zeit wird zeigen, wie harmlos der KI-Assistent sich herausstellt, da Benutzer ihn zweifellos genau wie ChatGPT auf Herz und Nieren testen werden.