Unternehmen sind zunehmend umarmen generative KI. Aber sie berücksichtigen nicht unbedingt alle Hindernisse und Herausforderungen, die mit der Integration der Technologie in ihre bestehenden Arbeitsabläufe einhergehen.
In einem kürzlich Umfrage Laut KPMG gaben 90 % der Unternehmen an, dass sie „mäßige bis sehr erhebliche“ Bedenken hinsichtlich der Risiken des Einsatzes generativer KI und Zweifel daran hätten, wie diese Risiken gemindert werden könnten. Nur 6 % gaben hingegen an, dass ihr Unternehmen über ein ausgereiftes KI-Governance-Programm verfügt.
Unter anderem aus diesen Gründen wurde Neil Serebryany gegründet CalypsoAIein Startup, das Software zum Testen, Validieren und Überwachen sowohl intern entwickelter als auch von Drittanbietern entwickelter KI-Apps vor ihrer Bereitstellung entwickelt.
„Die Plattform von CalypsoAI fördert die Leistungsfähigkeit und den Wettbewerbsvorteil, die der Einsatz von KI mit sich bringen kann, allerdings auf sichere und zuverlässige Weise“, sagte Serebryany gegenüber TechCrunch in einem E-Mail-Interview.
Das legt die Messlatte hoch. Aber die Anleger glauben offensichtlich an die Leistungsfähigkeit von CalypsoAI. Das Startup gab heute bekannt, dass es in einer Serie-A-1-Runde unter der Leitung der Paladin Capital Group unter Beteiligung von Lockheed Martin Ventures, Hakluyt Capital und Expeditions Fund 23 Millionen US-Dollar eingesammelt hat.
Bemerkenswerte Angels leisteten ebenfalls Beiträge zur A-1-Tranche, darunter die ehemalige YouTube-CEO Susan Wojcicki und ihre Schwester, 23andMe-Mitbegründerin Anne Wojcicki. Bis heute hat CalypsoAI 38,2 Millionen US-Dollar eingesammelt.
CalypsoAI behauptet, dass seine Tools – die als Container innerhalb der Infrastruktur einer Organisation bereitgestellt werden – es Unternehmen ermöglichen, die Verwendung großer Sprachmodelle wie ChatGPT über Dashboards zu überwachen und zu gestalten, die Statistiken zur Toxizität der Modelle, zum Benutzerengagement und mehr anzeigen. Serebryany sagt, dass CalypsoAI verhindern kann, dass sensible Unternehmensdaten an Modelle weitergegeben werden, und gleichzeitig Angriffe identifizieren kann, die von generativen KI-Tools ausgehen.
„Jedes Unternehmen möchte zwar von den Vorteilen generativer KI-Lösungen profitieren – insbesondere von deutlichen Produktivitätssteigerungen –, möchte aber auch sicherstellen, dass es keinen Cyberangriffen ausgesetzt ist und dass Mitarbeiter keine sensiblen Informationen öffentlichen Modellen preisgeben“, fügte Serebryany hinzu. „Durch die Implementierung von CalypsoAI können CISOs und IT-Leiter ernsthaft darüber nachdenken, generative KI-Lösungen in ihren Unternehmen auf sichere Weise zu implementieren – so können sie ihr Unternehmen ohne zusätzliches Risiko effizienter gestalten.“
Sicherlich besteht im Unternehmenssektor eine Nachfrage nach einer Art generativer KI-Leitplanenlösung. Aus Angst, dass Mitarbeiter versehentlich geschützte Informationen preisgeben könnten, haben Unternehmen wie Apple, JPMorgan Chase und Verizon dies getan verboten oder eingeschränkt die Verwendung von ChatGPT-ähnlichen Tools intern. Viele dieser Unternehmen sind besorgt über die Toxizität und Fehlinformation der generativen KI, die selbst die besten heute verfügbaren Modelle weiterhin plagen.
Die Branche hat den riesigen potenziellen Markt im Auge und ist bereit, der Nachfrage gerecht zu werden. Microsoft bietet den Azure OpenAI Service an, der Governance- und Compliance-Funktionen zusätzlich zu generativen KI-Modellen von OpenAI, einschließlich ChatGPT, bereitstellt. An anderer Stelle hat Salesforce kürzlich den Einstein Trust Layer eingeführt, der versucht, zu verhindern, dass textgenerierende Modelle vertrauliche Daten speichern.
Wie gut diese Leitplanken in der Praxis funktionieren, ist jedoch eine offene Frage. Um die Behauptungen eines Anbieters in Frage zu stellen, entdeckten Forscher kürzlich Schwachstellen in NeMo Guardrails, dem Toolkit von Nvidia, das darauf abzielt, KI-gestützte Apps genauer und sicherer zu machen, und die es ermöglichen, die Schutzmaßnahmen des Toolkits zu umgehen.
Serebryany bestand darauf, dass die Produkte von CalypsoAI robust gegenüber Angriffen seien. Im gleichen Atemzug betonte er, dass CalypsoAI keine Daten seiner Kunden speichert, sondern lediglich den Informationsfluss von den Mitarbeitern in das Modell der Wahl eines Unternehmens erleichtert.
„Die Sicherung von LLMs im Unternehmen ist zu einem entscheidenden Unterfangen geworden, was zu einer strategischen Neuausrichtung von CalypsoAI geführt hat, um den Bedürfnissen von Unternehmen gerecht zu werden, die KI-Lösungen nutzen möchten“, sagte Serebryany. „Viele Unternehmen suchen nach einer sicheren Nutzung generativer KI-Lösungen, um ihre Ziele voranzutreiben CalypsoAI ist zuversichtlich, dass wir in der Lage sind, das bestmögliche Produkt zu entwickeln und die besten Talente anzuziehen, um Unternehmensorganisationen zu sichern.“
Serebryany sagt, dass CalypsoAI die Mittel aus der neuesten Tranche nutzen wird, um die Produktentwicklung, die Einstellung von Mitarbeitern und die Markteinführungsinitiativen des Unternehmens voranzutreiben. CalypsoAI beschäftigt derzeit 35 Mitarbeiter und das Startup hat kürzlich ein Büro in Dublin eröffnet – Teil des Plans von CalypsoAI, seine Belegschaft in den nächsten zwei Jahren zu verdoppeln.
„Während unser Unternehmen weiter wächst und expandiert, erkennen wir den Wert der Gewinnung neuer Investoren, die unser Wachstum unterstützen“, fuhr er fort. „Durch die Partnerschaft mit Investoren, die unsere Vision und Ziele teilen, können wir weiterhin Innovationen entwickeln und unser Geschäft vorantreiben.“