Mit zunehmender Aufregung um ChatGPT und andere generative KI steigt auch das Interesse der Betrüger an der Technologie. In einem neuer Bericht veröffentlicht von Meta, sagt das Unternehmen, dass es einen starken Anstieg von Malware gesehen hat, die als ChatGPT und ähnliche KI-Software getarnt ist.
In einer Erklärung sagte das Unternehmen, dass seine Forscher allein seit März 2023 „zehn Malware-Familien entdeckt haben, die ChatGPT und andere ähnliche Themen verwenden, um Konten im Internet zu kompromittieren“ und dass es mehr als 1.000 bösartige Links von seiner Plattform blockiert hat. Nach zu Meta, beinhalten die Betrügereien oft mobile Apps oder Browsererweiterungen, die sich als ChatGPT-Tools ausgeben. Und obwohl die Tools in einigen Fällen einige ChatGPT-Funktionen bieten, besteht ihr eigentlicher Zweck darin, die Anmeldeinformationen ihrer Benutzer zu stehlen.
In einem Gespräch mit Reportern sagte Guy Rosen, Chief Security Officer von Meta, dass die Betrüger hinter diesen Exploits das steigende Interesse an generativer KI ausnutzen. „Als Branche haben wir dies bei anderen Themen gesehen, die zu ihrer Zeit beliebt waren, wie z. B. Krypto-Betrug, der durch das immense Interesse an digitaler Währung angeheizt wird“, sagte Rosen. „Aus der Perspektive eines schlechten Schauspielers ist ChatGPT also die neue Krypto.“
Meta bemerkte, dass Personen, die Unternehmen auf Facebook verwalten oder die Plattform anderweitig für die Arbeit nutzen, besondere Ziele waren. Betrüger suchen häufig nach den persönlichen Konten der Benutzer, um Zugriff auf eine verbundene Geschäftsseite oder ein Werbekonto zu erhalten, die mit größerer Wahrscheinlichkeit eine verknüpfte Kreditkarte haben.
Um dem entgegenzuwirken, plant Meta die Einführung eines neuen Kontotyps für Unternehmen namens „Meta Work“-Konten. Diese Konten ermöglichen es Benutzern, ohne ein persönliches Facebook-Konto auf die Business Manager-Tools von Facebook zuzugreifen. „Dies wird dazu beitragen, Geschäftskonten sicherer zu halten, wenn Angreifer mit der Kompromittierung eines persönlichen Kontos beginnen“, sagte das Unternehmen in einer Erklärung. Meta sagte, es werde dieses Jahr einen „eingeschränkten“ Test der neuen Arbeitskonten starten und ihn „im Laufe der Zeit“ erweitern.
Darüber hinaus bringt Meta ein neues Tool auf den Markt, mit dem Unternehmen Malware erkennen und entfernen können. Das Tool „leitet Menschen Schritt für Schritt durch das Identifizieren und Entfernen von Malware, einschließlich der Verwendung von Antiviren-Tools von Drittanbietern“, um zu verhindern, dass Unternehmen wiederholt den Zugriff auf Konten verlieren.
Die Forscher von Meta sind nicht die ersten, die vor gefälschten ChatGPT-Tools warnen, die zu gehackten Konten führen. Kürzlich warnten Forscher vor einer Chrome-Erweiterung, die sich als ChatGPT-Software ausgibt und zum Hacken einer Reihe von Facebook-Konten führte. Die Ausbeutung, berichtet von Piepender Computer, wurde als „Lily Collins“-Hack bekannt, weil die Namen auf den Konten der Opfer in „Lilly Collins“ geändert wurden.
Während eines Gesprächs mit Reportern sagte Nathaniel Gliecher, Head of Security Policy bei Meta, dass diese Angriffe oft auch auf Personen abzielen, die mit Unternehmen in Verbindung stehen. „Was sie tun wollen, ist, dieses persönliche Konto zu schließen, um ihren Zugang zu verbrennen und zu verhindern, dass der legitime Benutzer wieder hineinkommt“, sagte er. „Eine der Taktiken, die wir jetzt sehen, ist, dass sie das persönliche Konto nehmen und es umbenennen, um den Namen einer prominenten Berühmtheit zu haben, in der Hoffnung, dass das Konto dadurch gelöscht wird.“ Er fügte hinzu, dass die neuen Arbeitskonten dazu beitragen würden, ähnliche Hacks in Zukunft zu verhindern.