Seit der Veröffentlichung von ChatGPT Ende letzten Jahres haben wir gesehen, wie Unternehmen generative KI-Tools entwickeln, um Kunden dabei zu helfen, auf natürlichere Weise mit ihren Produkten und Dienstleistungen zu interagieren. Doch in vielen Fällen haben diese Anbieter keine Ahnung, wie gut die zugrunde liegenden großen Sprachmodelle funktionieren oder wie gut die Antworten sind.
Kontext.ai Anfang dieses Jahres eingeführt, um Unternehmen dabei zu helfen, besser zu verstehen, wie Benutzer mit ihren LLMs interagieren. Heute gab das Unternehmen eine Startinvestition in Höhe von 3,5 Millionen US-Dollar bekannt, um die Idee vollständig zu entwickeln.
CEO Henry Scott-Green und sein Mitbegründer, CTO Alex Gamble, haben mehrere Jahre bei Google gearbeitet: Scott-Green im Produktbereich und Gamble als Softwareentwickler. Gemeinsam erkannten sie die Notwendigkeit eines Dienstes, der misst, wie gut sich diese Modelle verhalten, und es gab nur sehr wenige Tools, die dabei helfen könnten.
„Wir haben mit Hunderten von Entwicklern gesprochen, die LLMs entwickeln, und sie haben eine wirklich konsistente Reihe von Problemen. Diese Probleme bestehen darin, dass sie nicht verstehen, wie Menschen ihr Modell verwenden, und dass sie nicht verstehen, wie ihr Modell funktioniert. Der Satz, den ich immer höre, ist: „Mein Modell ist eine Blackbox“, sagte Scott-Green gegenüber TechCrunch.
In vielerlei Hinsicht ähnelt es Produktanalysetools wie z Amplitude oder Mixpanel, die messen, wie Benutzer mit einer Produktoberfläche interagieren, z. B. wo sie klicken oder wie lange sie auf einer Seite bleiben. Im Fall von Context geht es jedoch darum, die vom LLM generierten Daten zu untersuchen und herauszufinden, ob sie wirklich nützliche Inhalte produzieren, die Benutzern bei der Beantwortung von Kundenfragen helfen. Das ultimative Ziel ist der Aufbau eines effektiveren Modells.
Die Funktionsweise besteht darin, dass Kunden Chat-Transkripte über eine API mit Context teilen. Anschließend analysiert es die Informationen mithilfe der Verarbeitung natürlicher Sprache (NLP). Die Software gruppiert und markiert Konversationen nach Themen und analysiert dann jede Konversation, um anhand der verfügbaren Signale festzustellen, ob der Kunde mit der Antwort zufrieden war.
Nachdem der Text aus Chat-Transkripten analysiert wurde, liefert Context.ai eine Analyse wie diese. Bildnachweis: Kontext.ai
„Wir glauben, dass es einen großen Wandel gibt [with the rise of LLMs], und es wird in den nächsten Jahren eine große Anzahl dieser Chat-Erlebnisse geben. Und in dieser neuen Welt, in der es eine große Menge an Textoberflächen gibt, mit denen Benutzer über Text und nicht über grafische Benutzeroberflächen interagieren, besteht ein Bedarf an anderen Tools“, sagte er.
Sie begannen mit dem Bau eines ersten Prototyps und teilten ihn mit ersten Kunden und Designpartnern. Seitdem arbeiten sie kontinuierlich daran, das Produkt zu verbessern und zu verfeinern. Scott-Green weist darauf hin, dass es sich um einen fortlaufenden Prozess handelt, der jedoch großes Interesse weckt und zahlende Kunden hat.
Für diejenigen, die Wert auf Sicherheit und Datenschutz legen, ist es erwähnenswert, dass Context PII bei der Aufnahme entfernt. Laut Scott-Green werden die Inhalte nicht für Modellbau- oder Marketingzwecke verwendet und die Inhalte werden nicht länger als 180 Tage gespeichert. Danach werden sie gelöscht.
Das Unternehmen ist derzeit mit sechs Mitarbeitern klein, aber er sieht die Zukunft in einer wachsenden Organisation und glaubt, dass es nie zu früh ist, über den Aufbau eines vielfältigen Unternehmens nachzudenken.
„Es ist offensichtlich eine Herausforderung für das Startup-Ökosystem und das Technologie-Ökosystem im Allgemeinen, wenn es darum geht, repräsentative, vielfältige und integrative Teams aufzubauen. Daran glauben wir beide fest, und ich denke, was noch wichtiger ist, dass wir beide auch danach handeln und uns wirklich bemühen, sicherzustellen, dass wir eine integrative repräsentative Vielfalt haben [in our employee base],” er sagte.
Die heutige Investition wurde gemeinsam von GV (Googles Venture-Arm) und Theory Ventures geleitet.