Neue Forschungen einer Gruppe von mit Stanford verbundenen Forschern haben aufgedeckt, dass Code-generierende KI-Tools wie Github Copilot mehr Sicherheitsrisiken darstellen können, als vielen Benutzern bewusst ist.
Die Studie befasste sich speziell mit Codex, einem Produkt von OpenAI, zu dessen Mitbegründern Elon Musk gehört.
Codex betreibt die Microsoft-eigene GitHub Copilot-Plattform, die darauf ausgelegt ist, das Codieren einfacher und zugänglicher zu machen, indem natürliche Sprache in Code übersetzt und Änderungen basierend auf kontextuellen Beweisen vorgeschlagen werden.
KI-Codierungsprobleme
Der leitende Co-Autor der Studie, Neil Perry, erklärt, dass „codegenerierende Systeme derzeit kein Ersatz für menschliche Entwickler sind“.
In der Studie wurden 47 Entwickler mit unterschiedlichen Fähigkeiten gebeten, Codex für sicherheitsbezogene Probleme unter Verwendung der Programmiersprachen Python, JavaScript und C zu verwenden. Es kam zu dem Schluss, dass die Teilnehmer, die sich auf Codex stützten, im Vergleich zu einer Kontrollgruppe eher unsicheren Code schrieben.
Perry erklärte: „Entwickler, die [coding tools] Aufgaben außerhalb ihrer eigenen Fachgebiete zu erledigen, sollten besorgt sein, und diejenigen, die sie verwenden, um Aufgaben zu beschleunigen, in denen sie bereits Erfahrung haben, sollten die Ergebnisse und den Kontext, in dem sie im Gesamtprojekt verwendet werden, sorgfältig überprüfen.“
Dies ist nicht das erste Mal, dass KI-gestützte Codierungstools unter die Lupe genommen werden. Tatsächlich sah sich das Unternehmen im Besitz von Microsoft wegen einer der Lösungen von GitHub zur Verbesserung der Codequalität in Copilot mit rechtlichen Schritten konfrontiert, weil es die Arbeit anderer Entwickler nicht zugeschrieben hatte. Das Ergebnis war eine Klage in Höhe von 9 Milliarden US-Dollar für 3,6 Millionen einzelne Verstöße gegen Abschnitt 1202.
Im Moment werden KI-gestützte Codegenerierungstools am besten als helfende Hand betrachtet, die das Programmieren beschleunigen kann, und nicht als vollständiger Ersatz, aber wenn die Entwicklung der letzten Jahre zu sehen ist, könnten sie bald ersetzt werden traditionelle Codierung.
Über TechCrunch (öffnet in neuem Tab)