Die enorme Macht und potenzielle Gefahr von KI-generiertem Code


Im Juni 2021, GitHub angekündigt Copilot, eine Art automatische Vervollständigung für Computercode, die auf der Textgenerierungstechnologie von OpenAI basiert. Es gab einen ersten Einblick in das beeindruckende Potenzial der generativen künstlichen Intelligenz zur Automatisierung wertvoller Arbeit. Zwei Jahre später ist Copilot eines der ausgereiftesten Beispiele dafür, wie die Technologie Aufgaben übernehmen kann, die zuvor von Hand erledigt werden mussten.

Diese Woche Github hat einen Bericht veröffentlicht, basierend auf Daten von fast einer Million Programmierern, die für die Nutzung von Copilot zahlen, zeigt, wie transformativ die generative KI-Codierung geworden ist. Im Durchschnitt akzeptierten sie die Vorschläge des KI-Assistenten in etwa 30 Prozent der Fälle, was darauf hindeutet, dass das System bemerkenswert gut darin ist, nützlichen Code vorherzusagen.

Das auffällige Diagramm oben zeigt, dass Benutzer tendenziell mehr Vorschläge von Copilot annehmen, je mehr Monate sie das Tool verwenden. Der Bericht kommt auch zu dem Schluss, dass die Produktivität von KI-gestützten Programmierern im Laufe der Zeit steigt, basierend auf dieser Tatsache eine frühere Copilot-Studie berichtete über einen Zusammenhang zwischen der Anzahl der angenommenen Vorschläge und der Produktivität eines Programmierers. Der neue Bericht von GitHub besagt, dass die größten Produktivitätssteigerungen bei weniger erfahrenen Entwicklern zu verzeichnen waren.

Auf den ersten Blick ist das ein beeindruckendes Bild einer neuartigen Technologie, die ihren Wert schnell unter Beweis stellt. Jede Technologie, die die Produktivität steigert und die Fähigkeiten weniger qualifizierter Arbeitskräfte steigert, könnte sowohl für den Einzelnen als auch für die Gesamtwirtschaft ein Segen sein. GitHub liefert weiterhin einige Spekulationen über den Tellerrand und schätzt, dass KI-Programmierung das globale BIP bis 2030 um 1,5 Billionen US-Dollar steigern könnte.

Aber GitHubs Diagramm, das die Bindung von Programmierern zu Copilot zeigt, erinnerte mich an eine andere Studie, von der ich kürzlich im Chat gehört hatte Talia RingerProfessor an der University of Illinois in Urbana-Champaign, über die Beziehung von Programmierern zu Tools wie Copilot.

Ende letzten Jahres ein Team der Stanford University hat eine Forschungsarbeit veröffentlicht Dabei wurde untersucht, wie sich die Verwendung eines von ihnen entwickelten codegenerierenden KI-Assistenten auf die Qualität des von Menschen erstellten Codes auswirkt. Die Forscher fanden heraus, dass Programmierer, die KI-Vorschläge erhielten, tendenziell mehr Fehler in ihren endgültigen Code einbauten – diejenigen, die Zugriff auf das Tool hatten, gingen jedoch tendenziell davon aus, dass ihr Code dies tat mehr sicher. „Es gibt wahrscheinlich sowohl Vorteile als auch Risiken“, sagt Ringer. „Mehr Code ist nicht besserer Code.“

Wenn man die Natur der Programmierung bedenkt, ist diese Erkenntnis kaum überraschend. Wie Clive Thompson in einem WIRED-Feature aus dem Jahr 2022 schrieb, kann Copilot wie ein Wunder wirken, aber seine Vorschläge basieren auf Mustern in der Arbeit anderer Programmierer, die möglicherweise fehlerhaft sind. Diese Vermutungen können zu Fehlern führen, die höllisch schwer zu erkennen sind, vor allem, wenn Sie davon fasziniert sind, wie gut das Tool oft ist.

source-114

Leave a Reply