Credal.aiein von Y Combinator unterstütztes Startup, das Unternehmen die Möglichkeit bietet, ihre internen Daten mit textgenerierenden, in der Cloud gehosteten KI-Modellen zu verbinden, hat in einer von Spark Capital angeführten Seed-Runde 4,8 Millionen US-Dollar eingesammelt.
Credal wurde von Jack Fischer und Ravin Thambapillai gegründet, die zuvor bei Palantir gearbeitet hatten und ein gemeinsames Interesse an Sicherheit und Compliance hatten. Ravin, ein ehemaliger Google-Mitarbeiter, brachte sich das Programmieren selbst bei, nachdem er in Oxford Philosophie, Politik und Wirtschaft studiert hatte.
„Wir haben erkannt, dass wir mit unserem Hintergrund in Unternehmensdatensicherheit und KI von Palantir in einer einzigartigen Position sind, um eine KI-Datenplattform aufzubauen, der Unternehmen tatsächlich vertrauen können“, sagte Fischer gegenüber TechCrunch in einem E-Mail-Interview.
Fischer und Thambapillai wollten zunächst etwas entwickeln, das sie als „Entscheidungsassistenten“ für Unternehmen bezeichnen, die große Sprachmodelle (LLMs) – Modelle nach dem Vorbild von ChatGPT – verwenden, um Dokumente zu lesen und Ratschläge zur strategischen C Suite zu geben Entscheidungen auf -Ebene. Aber das Projekt entwickelte sich schließlich zu etwas Größerem: einem Tool zur Verbindung von Daten aus internen Datenquellen mit externen LLMs.
Da die Plattform heute existiert, kann Credal zum Aufbau allgemeinwissender oder domänenspezifischer, KI-gestützter Chatbots für eine Reihe von Anwendungsfällen verwendet werden. Ein Unternehmen könnte beispielsweise auf Credal tippen, um einen Bot zu erstellen, der Sicherheitsfragen zu Software beantwortet, die das Unternehmen lizenziert, und dabei auf die neueste Dokumentation zurückgreift.
Credal bietet selbst keine LLMs an. Vielmehr befindet es sich zwischen Benutzern, die Eingabeaufforderungen einreichen (z. B. „Was ist die neueste Version dieser Software?“), und einer API eines LLM-Drittanbieters wie OpenAI oder Anthropic, die als „Co-Pilot“ fungiert und in bestehenden Systemen eingesetzt werden kann Apps wie Slack.
Credal versucht, Eingabeaufforderungen automatisch an das „am besten geeignete“ LLM weiterzuleiten, wenn ein Unternehmen mehr als eines verwendet, basierend auf Faktoren wie der Sensibilität der übermittelten Daten, Kosten, Unternehmensrichtlinien und den technischen Fähigkeiten eines Modells. In manchen Fällen wird mehr als ein LLM eingesetzt, um eine Aufgabe zu erfüllen – zum Beispiel die Verwendung von Claude und GPT-4 von Anthropic zur Strukturierung von Unternehmensdokumenten.
Viele Plattformen bieten Möglichkeiten, Unternehmensdaten mit LLMs zu verbinden – siehe Unstructured, Deasie und LlamaIndex. Und OpenAI erweitert sein integriertes Plug-in-Framework. Aber Credals einzigartiger Ansatz in dieser Hinsicht ist eine starke Betonung von Compliance und Sicherheit – zumindest so, wie Fischer es sagt.
Credal versucht, automatisch zu redigieren, zu anonymisieren und anderweitig zu warnen, wenn sensible Daten außerhalb des Netzwerks gesendet werden sollen, beispielsweise an ein LLM, das in einer öffentlichen Cloud gehostet wird. Und es stellt Protokolle bereit, die zeigen, welche Daten mit welchen LLMs geteilt wurden.
An Credal gesendete Daten Ist Standardmäßig werden sie nach Ablauf des Kontos 30 Tage lang aufbewahrt – was bei manchen Unternehmen zu Bedenken führen kann. Aber Admins dürfen Ändern Sie dies und entscheiden Sie sich jederzeit für die Datenlöschung, betont Fischer.
Fischer behauptet außerdem, dass Credal einer der wenigen Anbieter seiner Art sei, der unter dem Data Privacy Framework registriert sei, dem jüngsten Abkommen zwischen den USA und der EU, das die Übermittlung personenbezogener Daten zwischen den beiden Ländern regelt. Das habe es ihm ermöglicht, Verträge mit börsennotierten, regulierten europäischen Unternehmen wie Wise zu gewinnen, sagt Fischer.
„IT-Abteilungen in Unternehmen wollen Transparenz und Kontrolle darüber, wie KI in ihrem Unternehmen eingesetzt wird“, fügte er hinzu. „Credal gibt ihnen [this transparency] in einem Standardformat über mehrere LLM-Anbieter hinweg und bietet fein abgestufte Datenkontrollen darüber, wer auf welche Modelle zugreifen kann, welche Daten von jedem Benutzer und für welche Zwecke verwendet werden können … Im Gegensatz zu anderen „KI auf Ihren Daten“-Systemen spiegelt Credal die Berechtigungen automatisch wider Wenn also ein Benutzer eine Frage stellt, antwortet die KI nur aus Unternehmensdokumenten, die beide relevant sind Und für diesen Benutzer zugänglich.“
Seit der Einführung im April hat Credal laut Fischer über eine Viertelmillion LLM-Anrufe abgewickelt und rund 100.000 Unternehmensdokumente erfasst. Laut Fischer hat das Unternehmen derzeit elf Kunden, von denen mehrere Verträge im „sechsstelligen Bereich“ abgeschlossen haben.
Mit dem Kapital aus der Seed-Runde plant Credal, seine Mitarbeiterzahl zu erweitern (derzeit sind es fünf Mitarbeiter) und „das Produkt zu erweitern, um mehr Datenquellen abzudecken und anspruchsvollere Datenabrufe durchzuführen“, sagt Fischer.
„Die KI-Branche leidet derzeit unter einem relativen Ungleichgewicht zwischen der großen Begeisterung und der noch relativ kleinen Anzahl von Unternehmen, die LLMs nutzen, um reale Werte zu schaffen“, sagte Fischer. „Credal löst dieses Problem, indem es sich tief in eine kleine Anzahl großartiger Unternehmen einbindet und deren Probleme tatsächlich durchgängig löst.“