Bei der RSA Sicherheitskonferenz in San Francisco diese Woche lag ein Gefühl der Unausweichlichkeit in der Luft. Bei Vorträgen und Podiumsdiskussionen im weitläufigen Moscone Convention Center, an jedem Anbieterstand auf der Ausstellungsfläche und bei zwanglosen Gesprächen in den Hallen wissen Sie einfach, dass jemand die generative KI und ihre potenziellen Auswirkungen auf die digitale Sicherheit und böswilliges Hacken zur Sprache bringen wird . Das spürt auch NSA-Cybersicherheitsdirektor Rob Joyce.
„Sie können in RSA nicht herumlaufen, ohne über KI und Malware zu sprechen“, sagte er am Mittwochnachmittag während seiner nun jährlichen „State of the Hack“-Präsentation. „Ich denke, wir haben alle die Explosion gesehen. Ich werde nicht sagen, dass es schon geliefert wurde, aber das ist wirklich eine bahnbrechende Technologie.”
In den letzten Monaten haben Chatbots, die auf großen Sprachmodellen basieren, wie ChatGPT von OpenAI, dafür gesorgt, dass sich jahrelange Entwicklung und Forschung im Bereich des maschinellen Lernens konkreter und für Menschen auf der ganzen Welt zugänglicher anfühlt. Aber es gibt praktische Fragen dazu, wie diese neuartigen Tools von Angreifern manipuliert und missbraucht werden, um Malware zu entwickeln und zu verbreiten, die Erstellung von Fehlinformationen und nicht authentischen Inhalten zu fördern und die Fähigkeiten von Angreifern zu erweitern, ihre Hacks zu automatisieren. Gleichzeitig ist die Sicherheitsgemeinschaft bestrebt, generative KI zu nutzen, um Systeme zu verteidigen und einen Schutzvorteil zu erlangen. In diesen frühen Tagen ist es jedoch schwierig, genau aufzuschlüsseln, was als nächstes passieren wird.
Joyce sagte, die National Security Agency erwarte, dass generative KI bereits wirksame Betrügereien wie Phishing befeuern werde. Solche Angriffe beruhen auf überzeugenden und überzeugenden Inhalten, um die Opfer dazu zu bringen, Angreifern unwissentlich zu helfen, sodass die generative KI offensichtliche Verwendungszwecke hat, um schnell maßgeschneiderte Mitteilungen und Materialien zu erstellen.
„Dieser russischstämmige Hacker, der nicht gut Englisch spricht, wird nicht länger eine beschissene E-Mail an Ihre Mitarbeiter schreiben“, sagte Joyce. „Es wird Englisch in der Muttersprache sein, es wird Sinn machen, es wird den Schnüffeltest bestehen … Das ist also heute hier, und wir sehen Gegner, sowohl Nationalstaaten als auch Kriminelle, die anfangen, damit zu experimentieren Generierung vom Typ ChatGPT, um ihnen Möglichkeiten zur englischen Sprache zu bieten.“
Obwohl KI-Chatbots möglicherweise nicht in der Lage sind, vollkommen bewaffnete neuartige Malware von Grund auf neu zu entwickeln, stellte Joyce fest, dass Angreifer die Programmierkenntnisse der Plattformen nutzen können, um kleinere Änderungen vorzunehmen, die große Auswirkungen haben könnten. Die Idee wäre, vorhandene Malware mit generativer KI zu modifizieren, um ihre Eigenschaften und ihr Verhalten so weit zu ändern, dass Scan-Tools wie Antivirensoftware die neue Iteration möglicherweise nicht erkennen und kennzeichnen.
„Es wird helfen, Code neu zu schreiben und ihn so zu gestalten, dass die Signatur und die Attribute davon geändert werden“, sagte Joyce. “Das [is] wird in naher Zukunft eine Herausforderung für uns.“
In Bezug auf die Verteidigung schien Joyce hoffnungsvoll über das Potenzial der generativen KI zur Unterstützung der Big-Data-Analyse und -Automatisierung zu sein. Er nannte drei Bereiche, in denen die Technologie „wirklich vielversprechend“ als „Beschleuniger für die Verteidigung“ ist: das Scannen digitaler Protokolle, das Auffinden von Mustern bei der Ausnutzung von Schwachstellen und die Unterstützung von Organisationen bei der Priorisierung von Sicherheitsproblemen. Er warnte jedoch davor, dass Verteidiger und Gemeinschaften, bevor sie sich im täglichen Leben allgemeiner auf diese Tools verlassen, zunächst untersuchen müssen, wie generative KI-Systeme manipuliert und ausgenutzt werden können.
Vor allem betonte Joyce die düstere und unvorhersehbare Natur des gegenwärtigen Moments für KI und Sicherheit und warnte die Sicherheitsgemeinschaft, sich für das, was wahrscheinlich noch kommen wird, „anzuschnallen“.
„Ich erwarte nicht, dass irgendeine magische technische Fähigkeit, die von KI generiert wird, alle Dinge ausnutzt“, sagte er. Aber „nächstes Jahr, wenn wir hier über einen ähnlichen Jahresrückblick sprechen, werden wir, denke ich, eine Reihe von Beispielen dafür haben, wo es bewaffnet, wo es eingesetzt und wo es erfolgreich war.“