Das Weiße Haus hat einen Wettbewerb angekündigt, der Anreize für die Entwicklung neuer künstlicher Intelligenzsysteme bietet, die auf die Suche nach Software-Schwachstellen in kritischen Infrastrukturen abzielen. Der “KI-Cyber-Herausforderung„ wird ein zweijähriger, von der Regierung geförderter Wettbewerb sein, der die Entwicklung neuer automatisierter Sicherheitslösungen vorantreiben soll, die einige der sensibelsten mit dem Internet verbundenen Systeme des Landes schützen können.
Der Wettbewerb, der am Mittwoch auf der Cybersicherheitskonferenz Blackhat USA 2023 öffentlich bekannt gegeben wurde, wird von DARPA durchgeführt Forschungs- und Entwicklungsagentur des Verteidigungsministeriumsund vergibt fast 20 Millionen US-Dollar an Preisen an die leistungsstärksten Wettbewerbsteilnehmer, wobei der Gewinner insgesamt 4 Millionen US-Dollar an Preisgeldern erhält.
In einem Telefonat mit Reportern am Dienstag äußerten Beamte des Weißen Hauses die Hoffnung, dass das neue Programm ein erster Schritt zur Schaffung bisher beispielloser Cyber-Abwehrmaßnahmen sein würde. Anne Neuberger, stellvertretende nationale Sicherheitsberaterin im Weißen Haus von Joe Biden, sagte, sie habe das Gefühl, dass die Herausforderung Amerika helfen würde, „im Wettlauf gegen die Cyber-Offensivfähigkeiten unserer Gegner die Nase vorn zu behalten“.
Kritische Infrastruktur verteidigen … mit ein wenig Hilfe aus dem Silicon Valley
Die neue KI Die Cyber-Herausforderung (abgekürzt „AIxCC“) wird mehrere verschiedene Phasen haben. Interessierte potenzielle Wettbewerber können ihre Vorschläge nun zur Bewertung beim Small Business Innovation Research-Programm einreichen, und schließlich werden ausgewählte Teams an einer „Qualifikationsveranstaltung“ im Jahr 2024 teilnehmen. Während dieser Veranstaltung werden die 20 besten Teams zu einem Halbfinalwettbewerb auf der diesjährigen DEF CON eingeladen, einer weiteren großen Cybersicherheitskonferenz, bei der das Teilnehmerfeld weiter verkleinert wird.
Interessanterweise haben eine Reihe prominenter KI-fokussierter Unternehmen mit der Regierung zusammengearbeitet, um den Wettbewerb zu unterstützen. Google, Microsoft, OpenAI (das selbst ist eng mit Microsoft verbunden) und Anthropic (was gewesen ist stark finanziert von Google) werden den Wettbewerbsteilnehmern „ihr Fachwissen zur Verfügung stellen und ihre Spitzentechnologie zur Verfügung stellen“, teilte das Weiße Haus am Mittwoch in einer Pressemitteilung mit. Die Unternehmen haben angeboten, ihre Softwaresysteme den Wettbewerbsteilnehmern zugänglich zu machen, damit diese die Software bei der Entwicklung ihrer neuen Sicherheitslösungen nutzen können. Dieselben Unternehmen beteiligten sich kürzlich auch daran ein Gipfel im Weißen Haus Dabei einigten sich die Teilnehmer auf eine Reihe vager „Verpflichtungen“ der Branche, die darauf abzielen, die zerstörerischen Fähigkeiten der KI abzuwehren. Einer der zentralen Diskussionsbereiche auf diesem Gipfel war auch die Schnittstelle zwischen KI und Cybersicherheit.
Um sich den Spitzenplatz im neuen DARPA-Wettbewerb zu sichern, müssen die Teilnehmer Sicherheitslösungen entwickeln, die einige wirklich neuartige Dinge leisten. „Um den ersten Platz und einen Hauptpreis von 4 Millionen US-Dollar zu gewinnen, müssen die Finalisten ein System entwickeln, das kritische Infrastrukturcodes schnell vor Angriffen schützen kann“, sagte Perri Adams, Programmmanager für das Information Innovation Office der DARPA, während eines Zoom-Anrufs mit Reportern am Dienstag . Mit anderen Worten: Die Regierung will eine Software, die in der Lage ist, Risiken selbst zu erkennen und zu mindern.
Der Schwerpunkt dieses Projekts (kritischer Infrastrukturcode) ist wichtig. In der Cybersicherheit wird der Begriff „kritische Infrastruktur„bezieht sich auf lebenswichtige Industriesysteme – Dinge wie Stromnetze, Ölpipelines, Wasserversorgung und andere wichtige digital verbundene physische Systeme. In den letzten Jahren sind Cyberangriffe auf solche Systeme immer häufiger geworden. Vor allem die Ransomware 2021 Angriff auf Colonial Pipelinedie sich während Bidens erstem Amtsjahr ereignete, drohte, lebenswichtige Energieflüsse in weiten Teilen des Südostens der Vereinigten Staaten zu unterbrechen, und wurde als a angesehen Weckruf für diejenigen im industriellen Sicherheitsbereich.
Automatisierung der Cybersicherheit
Es ist leicht, diesen Wettbewerb als einen Versuch der Biden-Regierung zu sehen, zwei Fliegen mit einer Klappe zu schlagen. Während das Weiße Haus dies zuvor getan hat machte es bekannt dass es die Sicherheit kritischer Infrastrukturen verbessern will, gab es auch viel Geschwätz darüber, was KI zur Automatisierung des Cybersicherheitsbereichs tun kann. Bei Erfolg könnte dieser Wettbewerb beide Ziele gleichzeitig erreichen.
Technisch gesehen verspricht das neue Programm, den Prozess zu automatisieren Insektenjagd, was lange Zeit eine unvollkommene Kunst war. Im Moment ist das Internet positiv Schwimmen mit Sicherheitslöchern und das einzige Bollwerk gegen diese Lücken sind sogenannte „Bug Hunter“, sicherheitsbewusste Nerds, die nach Schwachstellen suchen und diese an betroffene Unternehmen melden (normalerweise gegen eine geringe Gebühr). Die Zukunft, die sich der neue DARPA-Wettbewerb vorstellt, ist eine, in der automatisierte Systeme mit hoher Geschwindigkeit nach Schwachstellen suchen, diese aufdecken und „beheben“ und so hoffentlich böswillige Cyberkriminelle oder staatliche Bedrohungsakteure besiegen, die die Fehler ausnutzen wollen, um Chaos anzurichten .
Allerdings ist unklar, wie einige davon noch funktionieren nicht perfekte Elemente Die Entwicklung bestehender KI-Systeme kann sich auf die Form der entwickelten Lösungen auswirken. Tatsächlich steckt die künstliche Intelligenz noch in den Kinderschuhen und es ist noch nicht ganz klar, wie die Wettbewerbsteilnehmer die KI-Systeme einiger der stärksten Spieler des Silicon Valley tatsächlich nutzen werden. Kurz gesagt: Wie sich das alles auswirken wird, ist noch unbekannt, aber es genügt zu sagen, dass die Wettbewerbsteilnehmer mutig dorthin gehen werden, wo Infosec noch nie zuvor war.