Eine neue, individuell trainierte Version eines LLM (Large Language Model) macht die Runde, allerdings aus den schlimmsten Gründen. WormGPT, wie es von seinem Schöpfer getauft wurde, ist ein neues Konversationstool – basierend auf dem 2021 veröffentlichten GPT-J-Sprachmodell – Das wurde mit dem alleinigen Zweck trainiert und entwickelt, Black-Hat-Programmierung und -Tools zu schreiben und einzusetzen. Das Versprechen ist, dass es seinen Benutzern die Entwicklung erstklassiger Malware zu einem Bruchteil der Kosten (und des Wissens) ermöglichen wird, die bisher erforderlich waren. Das Tool wurde vom Cybersicherheitsunternehmen SlashNext getestet. der in einem Blogbeitrag warnte dass „böswillige Akteure jetzt ihre eigenen benutzerdefinierten Module erstellen, die ChatGPT ähneln, aber einfacher für schändliche Zwecke zu verwenden sind“. Der Dienst ist für ein „angemessenes“ Monatsabonnement erhältlich: 60 Euro pro Monat oder 550 Euro pro Jahr. Jeder, sogar Hacker, liebt Software as a Service, so scheint es.
Laut dem WormGPT-Entwickler: „Dieses Projekt zielt darauf ab, eine Alternative zu ChatGPT bereitzustellen, mit der Sie alle möglichen illegalen Dinge tun und diese in Zukunft problemlos online verkaufen können. Alles, was Sie sich im Zusammenhang mit Black Hat vorstellen können, kann mit WormGPT erledigt werden, sodass jeder auf bösartige Aktivitäten zugreifen kann, ohne jemals sein Zuhause verlassen zu müssen.“
Demokratisierung ist schön und gut, aber vielleicht ist sie nicht von ihrer besten Seite, wenn es um die Verbreitung und Stärkung böswilliger Akteure geht.
Den vom Ersteller geposteten Screenshots zufolge funktioniert WormGPT im Wesentlichen wie eine ungeschützte Version von ChatGPT – aber eine, die nicht versucht, Konversationen aktiv zu blockieren, wenn auch nur ein Hauch von Risiko besteht. WormGPT kann offenbar in Python geschriebene Malware produzieren und bietet Tipps, Strategien und Lösungen für Probleme im Zusammenhang mit der Bereitstellung der Malware.
Die Analyse von SlashNext zu dem Tool war beunruhigend. Nachdem der Agent angewiesen wurde, eine E-Mail zu erstellen, um ein Opfer zur Zahlung einer betrügerischen Rechnung zu drängen, waren die Ergebnisse beunruhigend: WormGPT produzierte eine E-Mail, die nicht nur bemerkenswert überzeugend, sondern auch strategisch raffiniert war und ihr Potenzial für raffiniertes Phishing und BEC demonstrierte [Business Email Compromise] Anschläge.”
Es war nur eine Frage der Zeit, bis jemand all die Vorteile von Open-Source-Modellen für künstliche Intelligenz (KI) auf den Kopf stellt. Es ist eine Sache, humorvolle, prahlerische Ansichten über einen chatähnlichen KI-Assistenten zu entwickeln (ich sehe dich an, BratGPT). Es ist eine andere Sache, noch ein Konversationsmodell zu entwickeln, das auf die spezifischen Sprachen und Verschleierungen des Dark Web trainiert wurde. Aber die weltberühmten Programmierkenntnisse von ChatGPT ausschließlich für die Entwicklung von KI-geschriebener Malware einzusetzen, ist eine ganz andere Sache.
Natürlich wäre es theoretisch auch möglich, dass WormGPT ein echter Honey-Pot ist und einen solchen KI-Agenten trainiert, funktionsfähige Malware zu erstellen. Das wird immer abgefangen und stellt sicher, dass der Absender identifiziert wird. Wir sagen nicht, dass das mit WormGPT der Fall ist, aber es ist möglich. Daher sollte jeder, der es verwendet, seinen Code Zeile für Zeile überprüfen.
Im Fall dieser privat entwickelten KI-Agenten ist es wichtig zu beachten, dass nur wenige (wenn überhaupt) über allgemeine Fähigkeiten verfügen, die über das hinausgehen, was wir von ChatGPT von OpenAI erwarten. Obwohl sich Techniken und Tools enorm verbessert haben, ist es immer noch ein teures und zeitaufwändiges Unterfangen, einen KI-Agenten ohne angemessene Finanzierung (und Daten) zu schulen. Fakt ist jedoch, dass die Kosten weiter sinken, Datensätze und Trainingsmethoden verbessert werden und immer mehr kompetente private KI-Agenten wie WormGPT und BratGPT auftauchen werden, während Unternehmen auf den KI-Goldrausch zusteuern.
WormGPT ist vielleicht das erste System dieser Art, das allgemein Anerkennung findet, aber es wird sicherlich nicht das letzte sein.