Da sich der Bereich der künstlichen Intelligenz rasant weiterentwickelt, haben Betrüger jetzt Zugriff auf Tools, mit denen sie hochentwickelte Angriffe massenhaft ausführen können, warnt der Mitbegründer des Web3-Sicherheitsunternehmens Quantstamp.
Im Gespräch mit Cointelegraph auf der Korea Blockchain Week erklärte Richard Ma von Quantstamp, dass es Social-Engineering-Angriffe zwar schon seit einiger Zeit gebe, KI Hackern jedoch dabei helfe, „viel überzeugender“ zu werden und die Erfolgsquote ihrer Angriffe zu erhöhen.
Um zu veranschaulichen, wie die neue Generation von KI-gestützten Angriffen aussieht, erinnerte sich Ma daran, was einem Kunden von Quantstamp passierte, als ein Angreifer vorgab, der CTO des Zielunternehmens zu sein.
„Er fing an, einem der anderen Ingenieure im Unternehmen eine Nachricht zu schicken und zu sagen: ‚Hey, wir haben diesen Notfall, hier erfahren Sie, was los ist‘. Er verwickelte sie in eine Reihe von Gesprächen, bevor er sie um irgendetwas bat“, sagte Ma.
Anscheinend gibt es eine Zunahme personenspezifischer, gezielter Betrügereien, anstatt nur Zahlenspiele zu spielen. Mithilfe von KI und ChatGPT können Betrüger schnell Code schreiben, und neue Technologien bedeuten, dass es für Angreifer profitabler ist, bis eine Software entwickelt wird, um sich zu wehren.
Ältere Menschen sind das Ziel— MoistenedTart.blsky.social (@MoistenedTart) 31. August 2023
Ma sagte, dass diese zusätzlichen Schritte die Komplexität der Angriffe erhöhen und die Wahrscheinlichkeit erhöhen, dass jemand wichtige Informationen weitergibt.
„Vor der KI, [scammers] könnte Sie einfach um eine Geschenkkarte oder die Zahlung von Bitcoin bitten, weil es sich um einen Notfall handelt. Jetzt unternehmen sie im Vorfeld viel mehr zusätzliche Schritte im Gespräch, um die Legitimität herzustellen.“
Letztlich, so Ma, sei die größte existenzielle Bedrohung durch hochentwickelte KI das schiere Ausmaß, in dem diese Art von Angriffen ausgeführt werden könne.
Durch den Einsatz automatisierter KI-Systeme könnten Angreifer Social-Engineering-Angriffe und andere raffinierte Betrügereien in Tausenden verschiedener Organisationen durchführen, ohne dass es dabei zu menschlichem Eingreifen kommt.
Wie wirken sich AI-Chat- und ChatGPT-Betrügereien auf die Märkte aus?
Erfahren Sie es von The Market Report-Moderator Sam Bourgi (@forgeforth_) und Marcel Pechman (@noshitcoins) zu unserer neuesten Folge: https://t.co/wrfGQC0aO4 pic.twitter.com/kHH6hcisd9
– Cointelegraph (@Cointelegraph) 27. Februar 2023
„Im Kryptobereich gibt es viele Datenbanken mit allen Kontaktinformationen der Schlüsselpersonen jedes Projekts. Sobald die Hacker Zugriff darauf haben, können sie über eine KI verfügen, die all diesen Menschen auf unterschiedliche Weise Nachrichten sendet“, sagte er.
„Es ist ziemlich schwierig, das gesamte Unternehmen so zu schulen, dass es auf solche Dinge nicht reagieren kann.“
Auch wenn das Ausmaß und die Komplexität von KI-gestützten Betrügereien einschüchternd wirken mögen, hat Ma Einzelpersonen und Organisationen, die sich schützen möchten, einige einfache Ratschläge gegeben.
Verwandt: Krypto-Betrügereien werden mit dem Aufkommen der KI zunehmen
Die wichtigste Schutzmaßnahme besteht darin, den Versand sensibler Informationen per E-Mail oder SMS zu vermeiden. Ma sagte, dass Unternehmen dazu übergehen sollten, die gesamte Kommunikation wichtiger Daten auf Slack oder andere interne Kanäle zu lokalisieren.
„Grundsätzlich sollten Sie sich an den unternehmensinternen Kommunikationskanal halten und alles noch einmal überprüfen.“
Abschließend sagte Ma, dass Unternehmen in Anti-Phishing-Software investieren sollten, die automatisierte E-Mails von Bots und KI filtert. Er sagte, dass Quantstamp Anti-Phishing-Software eines Unternehmens namens IronScales verwende, das E-Mail-basierte Sicherheitsdienste anbietet.
„Wir stehen erst am Anfang dieses Wettrüstens und es wird immer schwieriger, zwischen Menschen und überzeugender KI zu unterscheiden.“
KI-Auge: Apple entwickelt Taschen-KI, Deep-Fake-Music-Deal und hypnotisiert GPT-4