Unternehmen gehen schneller denn je dazu über, generative KI zu nutzen und sie sowohl ihren Mitarbeitern als auch Benutzern zur Verfügung zu stellen. Schnelligkeit und Sicherheit gehen jedoch nicht immer Hand in Hand. Daher werden sich viele Unternehmen erst jetzt der potenziellen Sicherheitsbedenken im Zusammenhang mit dem Einsatz generativer KI bewusst. Das in Israel ansässige Unternehmen Prompt Security möchte Unternehmen dabei helfen, sicherzustellen, dass ihre Mitarbeiter keine Daten an GenAI-Tools weitergeben – einschließlich solcher, die nicht offiziell von den IT-Teams des Unternehmens unterstützt werden (denken Sie an „Schatten-KI“) – und ihnen gleichzeitig dabei helfen, ihre eigene Kundenkommunikation zu sichern GenAI-fähige Anwendung.
Das Unternehmen verlässt heute seine Tarnung und kündigt eine 5-Millionen-Dollar-Seed-Runde unter der Leitung von Hetz Ventures an, an der sich Four Rivers und eine Reihe von Angel-Investoren in diesem Bereich beteiligen, darunter CISOs von Airbnb, Elastic und Dolby.
Prompt Security wurde von gegründet Itamar Golan (CEO) und Lior Drihem (CTO), die beide zuvor bei Check Point und Orca Security gearbeitet haben. „Mir war schon immer klar, dass ich mein eigenes Unternehmen gründen möchte. Meine beiden größten Leidenschaften waren KI und Sicherheit, aber vor fünf Jahren wusste ich, dass der Markt noch nicht ausgereift genug war. Also habe ich auf den richtigen Moment gewartet“, erzählte mir Golan.
Dann, vor etwa 18 Monaten, begann sein Team bei Orca mit der Suche nach der Implementierung einer KI-basierten Sanierungsfunktion, die er schließlich zusammen mit Drihem entwickelte. Das hat das Team dazu inspiriert, dieses neue Unternehmen zu gründen. „Wir sahen die verschiedenen Hintertüren, die wir im Laufe der Entwicklung hinterließen, schauten uns an und sagten: Aufgrund dieser neuen Architekturen und neuen Frameworks gibt es eine neue Angriffsfläche – Dinge wie Prompt-Injection sind plötzlich unmöglich – und dann haben wir verstanden.“ dass ein neuer Markt bald florieren wird.“
Bildnachweis: Prompte Sicherheit
Golan ist auch Teil davon OWASP Top 10-Initiative zur Erhöhung der Sicherheit von LLM-Anwendungen.
Ein Teil des Problems für CISOs besteht heute darin, dass sie nicht genau wissen, auf welche Tools ihre Benutzer in ihren Netzwerken überhaupt zugreifen, erklärte Golan. Dies eröffnet den Mitarbeitern beispielsweise auch die Möglichkeit, personenbezogene Daten mit diesen Diensten zu teilen. Diese Art von Datenlecks ist an sich schon problematisch, könnte das Unternehmen aber auch regulatorischen Problemen aussetzen. Aus Benutzersicht ist das Produkt von Prompt Security, das sicherstellt, dass dies nicht passiert, eine Browser-Erweiterung und ein IDE-Plugin. Die Tools des Unternehmens erkennen automatisch Muster im Zusammenhang mit der GenAI-Nutzung und legen darauf eine Durchsetzungsrichtlinie fest. All dies, so das Unternehmen, führe nur zu einer minimalen Latenz für das Benutzererlebnis.
Auf der Anwendungsseite eröffnen GenAI-Chat-Apps durch sofortige Injektionen und Jailbreaks eine neue Angriffsfläche, die es einem Angreifer sogar ermöglichen kann, nicht autorisierten Code im Netzwerk eines Unternehmens auszuführen.
Golan betonte, dass das Unternehmen hier versucht, eine vollständige Plattform aufzubauen, indem es verschiedene Aspekte der GenAI-Nutzung einer Organisation abdeckt. „Wir versuchen, eine Komplettlösung für die GenAI-Sicherheit zu entwickeln. Wir decken sowohl die Nutzung durch die Mitarbeiter ab – die InfoSec-Seite des Unternehmens – als auch die Anwendungssicherheitsseite.“
Noch vor ein paar Monaten, so Golan, waren sich viele CISOs der GenAI-Sicherheitsprobleme noch nicht bewusst oder machten sich keine Sorgen, aber das ändert sich jetzt schnell, da sie eine Zunahme der Nutzung von Schatten-KI beobachten.
Im Laufe der Zeit plant das Unternehmen die Einführung weiterer Dienste, die seinen Kunden dabei helfen, ihre GenAI-Sicherheitslage zu verbessern. Derzeit liegt der Schwerpunkt von Prompt Security hauptsächlich auf der Sicherung von Anwendungen in der Produktion. Das Team plant jedoch, sich zunehmend darauf zu konzentrieren, Entwicklern bei der Sicherung ihrer Anwendungen während der Entwicklungs- und Testphase zu helfen. „Ich denke, dass wir uns im Moment sehr auf die aktuellen Bedürfnisse rund um die Generation KI konzentrieren müssen: Sichtbarkeit und Datenschutz in Echtzeit“, sagte Golan, als ich ihn nach den Expansionsplänen des Unternehmens fragte. „Später werden wir mit mehr Geld und mehr Kundenfeedback expandieren – und ich würde sagen, dass dieser Markt so verrückt ist, dass das, was ich Ihnen jetzt erzähle, nächstes Jahr wahrscheinlich nicht mehr relevant sein wird.“