Software-Ingenieure von Samsung wurden festgenommen, weil sie proprietären Code in ChatGPT eingefügt hatten

Mehrere Mitarbeiter des in Korea ansässigen Halbleiterunternehmens von Samsung haben vertrauliche Codezeilen in ChatGPT gesteckt und so effektiv Unternehmensgeheimnisse preisgegeben, die in den zukünftigen Antworten des Chatbots an andere Menschen auf der ganzen Welt enthalten sein könnten.

Ein Mitarbeiter kopierte fehlerhaften Quellcode aus einer Halbleiterdatenbank in den Chatbot und bat ihn, eine Lösung zu finden. nach(Öffnet in einem neuen Fenster) Zu Der Ökonom Korea. Ein anderer Mitarbeiter tat dasselbe für ein anderes Gerät und forderte „Code-Optimierung“ von ChatGPT an. Nachdem ein dritter Mitarbeiter das KI-Modell gebeten hatte, Besprechungsnotizen zusammenzufassen, schritten Führungskräfte von Samsung ein. Das Unternehmen begrenzte die Eingabeaufforderung jedes Mitarbeiters auf ChatGPT auf 1.024 Bytes.

Nur drei Wochen zuvor hatte Samsung sein Verbot für Mitarbeiter, ChatGPT zu verwenden, wegen Bedenken in Bezug auf dieses Problem aufgehoben. Nach den jüngsten Vorfällen erwägt sie die Wiedereinsetzung des Verbots sowie disziplinarische Maßnahmen für die Mitarbeiter. Der Ökonom Korea sagt.

Samsung Büros in Korea (Quelle: Samsung)

„Wenn ein ähnlicher Unfall auftritt, obwohl Notfallmaßnahmen zum Schutz von Informationen ergriffen wurden, kann der Zugriff auf ChatGPT im Unternehmensnetzwerk gesperrt werden“, heißt es in einem internen Memo. „Sobald Inhalte in ChatGPT eingegeben werden, werden Daten an einen externen übertragen und gespeichert Server, was es dem Unternehmen unmöglich macht, sie abzurufen.“

Die OpenAI Benutzerhandbuch(Öffnet in einem neuen Fenster) warnt Benutzer vor diesem Verhalten: “Wir können bestimmte Eingabeaufforderungen nicht aus Ihrem Verlauf löschen. Bitte geben Sie keine sensiblen Informationen in Ihren Gesprächen weiter.” Es besagt, dass das System alle ihm übermittelten Fragen und Texte als Trainingsdaten verwendet.

Die Verwendung von ChatGPT zum Auffinden und Beheben von fehlerhaftem Code ist in der Softwareentwicklung allgegenwärtig geworden. Wenn Benutzer eine Codierungsfrage stellen, versucht es, die Lösung zu identifizieren, und stellt ein Code-Snippet mit einer Ein-Klick-Schaltfläche zum Kopieren und Einfügen bereit. Die Programmierkenntnisse des Chatbots reichen offenbar aus, um bei Google als Einstiegsingenieur eingestellt zu werden.

ChatGPT schlägt eine Codekorrektur vor und stellt ein Snippet zum Kopieren und Einfügen bereit. (Bildnachweis: ChatGPT, Emily Dreibelbis)

Dies kann die Zeit (manchmal Stunden) ersetzen, die Ingenieure damit verbringen, auf Websites wie Stack Overflow zu surfen, einer beliebten Ressource für die Fehlerbehebung. Als Beweis für die hohen Nutzungsraten von ChatGPT durch Softwareentwickler hat Stack Overflow verboten(Öffnet in einem neuen Fenster) Von ChatGPT generierte Antworten nur wenige Tage nach der Veröffentlichung am 30. November 2022 wegen Bedenken hinsichtlich ungenauer Antworten, die glaubwürdig aussehen.

„Das Hauptproblem besteht darin, dass die Antworten, die ChatGPT liefert, zwar eine hohe Rate an Fehlern aufweisen, aber normalerweise aussehen Sie könnte gut sein und die Antworten sind sehr einfach zu produzieren“, sagt Stack Overflow in einem vor vier Tagen aktualisierten Post.

Berichten zufolge erwägt Samsung den Bau einer eigenen KI, um zukünftige Pannen zu verhindern, obwohl Ingenieure wahrscheinlich alle Maßnahmen umgehen könnten, indem sie ChatGPT auf persönlichen Geräten verwenden. Microsoft Bing und Google Bard können auch Fehler in Codezeilen erkennen, daher ist das Verbot von ChatGPT keine kugelsichere Lösung.