KI-Kontrolle über Atomwaffen zu übertragen, könnte einen apokalyptischen Konflikt auslösen, warnte ein führender Experte.
Da die KI eine immer größere Rolle bei der Kontrolle verheerender Waffen spielt, steigt die Wahrscheinlichkeit, dass die Technologie einen Fehler macht und den Dritten Weltkrieg auslöst.
Dazu gehören der B-21-Atombomber der USA, Chinas KI-Hyperschallraketen und die russische Atomdrohne Poseidon.
Schreiben für die Bulletin der Atomwissenschaftler, warnte Experte Zachary Kellenborn, Policy Fellow an der Schar School of Policy and Government: „Wenn künstliche Intelligenzen Atomwaffen kontrollieren würden, könnten wir alle tot sein.“
Er fuhr fort: „Militärs bauen zunehmend autonome Funktionen in Waffensysteme ein“, und fügte hinzu, dass „es keine Garantie dafür gibt, dass einige Militärs die KI nicht mit nuklearen Starts beauftragen.“
Kellenborn, der sich selbst als “Mad Scientist” der US-Armee bezeichnet, erklärte, dass “Fehler” das größte Problem bei autonomen Atomwaffen seien.
Er sagte: „In der realen Welt können Daten auf alle möglichen Arten voreingenommen oder unvollständig sein.“
Kellenborn fügte hinzu: „Im Zusammenhang mit Atomwaffen verfügt eine Regierung möglicherweise nur über wenige Daten über feindliche Militärplattformen; vorhandene Daten können strukturell voreingenommen sein, indem sie sich beispielsweise auf Satellitenbilder stützen; oder Daten können offensichtliche, erwartete Abweichungen wie z Bilder, die bei Nebel, Regen oder Bewölkung aufgenommen wurden.”
Das Training eines KI-Programms für Atomwaffen stellt ebenfalls eine große Herausforderung dar, da Atomwaffen glücklicherweise nur zweimal in der Geschichte in Hiroshima und Nagasaki eingesetzt wurden, was bedeutet, dass jedes System Schwierigkeiten haben würde, es zu lernen.
Trotz dieser Bedenken sind bereits eine Reihe von KI-Militärsystemen, einschließlich Atomwaffen, auf der ganzen Welt im Einsatz.
TOTE HAND
4
In den letzten Jahren hat Russland auch sein sogenanntes „Doomsday-Gerät“, bekannt als „Dead Hand“, aufgerüstet.
Diese letzte Verteidigungslinie in einem Atomkrieg würde jede russische Atombombe gleichzeitig abfeuern und die totale Zerstörung des Feindes garantieren.
Es wurde erstmals während des Kalten Krieges entwickelt und soll in den letzten Jahren ein KI-Upgrade erhalten haben.
Im Jahr 2018 sagte der Experte für nukleare Abrüstung, Dr. Bruce Blair Tagesstern Online Er glaubt, dass das als „Perimeter“ bekannte System „anfällig für Cyberangriffe“ ist, die sich als katastrophal erweisen könnten.
Dead-Hand-Systeme sollen als Backup dienen, falls die Nuklearkommandobehörde eines Staates getötet oder anderweitig gestört wird.
Die US-Militärexperten Adam Lowther und Curtis McGuffin behaupteten in einem Artikel aus dem Jahr 2019, dass die USA „ein automatisiertes strategisches Reaktionssystem auf der Grundlage künstlicher Intelligenz“ in Betracht ziehen sollten.
POSEIDON ATOMDROHNE
Im Mai 2018 startete Wladimir Putin Russlands Unterwasser-Atomdrohne, von der Experten warnten, dass sie 300-Fuß-Tsunamis auslösen könnte.
Die Atomdrohne Poseidon, die bis 2027 fertiggestellt werden soll, soll feindliche Marinestützpunkte mit zwei Megatonnen Atomkraft auslöschen.
In Dokumenten der US Navy als “Intercontinental Nuclear-Powered Nuclear-Armed Autonomous Torpedo” oder “Autonomous Undersea Vehicle” vom Congressional Research Service beschrieben, soll es im Falle eines Atomangriffs als Zweitschlagswaffe eingesetzt werden Konflikt.
Die große unbeantwortete Frage zu Poseidon ist; was kann es autonom tun.
Kellenborn warnt davor, dass es unter bestimmten Bedingungen möglicherweise die Erlaubnis erhalten könnte, autonom anzugreifen.
Er sagte: „Was ist zum Beispiel, wenn in einem Krisenszenario, in dem die russische Führung einen möglichen Atomangriff befürchtet, Poseidon-Torpedos in einem Loiter-Modus abgefeuert werden? Es könnte sein, dass die Poseidon, wenn sie die Kommunikation mit ihrem U-Boot verliert, einen Angriff startet .”
Als Putin damals den Start ankündigte, prahlte er damit, dass die Waffe „kaum Schwachstellen“ aufweisen würde und „nichts auf der Welt in der Lage sein wird, ihr zu widerstehen“.
Experten warnen davor, dass die größte Bedrohung darin besteht, tödliche Tsunamis auszulösen, die, wie der Physiker Rex Richardson gegenüber Business Insider sagte, dem Tsunami von Fukushima 2011 entsprechen könnten.
B21 BOMBER
Die USA haben einen ferngesteuerten Bomber im Wert von 550 Millionen Dollar gestartet, der Atomwaffen abfeuern und sich vor feindlichen Raketen verstecken kann.
Im Jahr 2020 wurde das Stealth-Flugzeug B-21 der US Air Force vorgestellt, der erste neue US-Bomber seit mehr als 30 Jahren.
Es kann nicht nur ferngesteuert werden, sondern kann auch mithilfe künstlicher Intelligenz selbst fliegen, um Ziele auszuwählen und eine Entdeckung ohne menschliches Zutun zu vermeiden.
Obwohl das Militär darauf besteht, dass ein menschlicher Bediener immer die letzte Entscheidung darüber treffen wird, ob ein Ziel getroffen werden soll oder nicht, kommen Informationen über das Flugzeug nur langsam heraus.
KI-KAMPFPILOTEN & HYPERSCHALLRAKETEN
Letztes Jahr prahlte China damit KI-Kampfpiloten waren „besser als Menschen“ und ihre Nicht-KI-Pendants in simulierten Luftkämpfen abgeschossen.
Die offizielle Zeitung PLA Daily des chinesischen Militärs zitierte einen Piloten, der behauptete, die Technologie habe die Bewegungen seiner Feinde gelernt und könne sie nur einen Tag später besiegen.
Der chinesische Brigadekommandant Du Jianfeng behauptete, die KI-Piloten hätten auch dazu beigetragen, die menschlichen Teilnehmer zu besseren Piloten zu machen, indem sie ihre Flugtechniken verbesserten.
Letztes Jahr behauptete China, dass seine KI-gesteuerten Hyperschallraketen Ziele mit 10-mal höherer Genauigkeit treffen können als eine von Menschen gesteuerte Rakete.
Chinesische Militärraketenwissenschaftler, die in der Zeitschrift Systems Engineering and Electronics schreiben, schlugen vor, die Software der Waffe mit künstlicher Intelligenz „on the fly“ zu schreiben, was bedeutet, dass menschliche Kontroller keine Ahnung hätten, was nach dem Drücken des Startknopfs passieren würde.
SCHACHMATT AI KRIEGSFLUGZEUG
Im Jahr 2021 stellte Russland einen neuen KI-Stealth-Kampfjet vor – und griff gleichzeitig die Royal Navy an.
Das 1.500 Meilen pro Stunde schnelle Flugzeug namens Checkmate wurde auf einer russischen Flugshow von einem begeisterten Wladimir Putin gestartet.
Eine Anzeige für das autonome Flugzeug – das sich vor seinen Feinden verstecken kann – zeigte ein Bild der HMS Defender der Royal Navy im Visier des Jets mit der Überschrift: „Wir sehen uns“.
Wenn künstliche Intelligenzen Atomwaffen kontrollieren würden, könnten wir alle tot sein
Zachary Kellenborn
Die Welt ist bereits einem verheerenden Atomkrieg nahe gekommen, der nur durch menschliche Beteiligung verhindert werden konnte.
Am 27. September 1983 war der sowjetische Soldat Stanislav Petrov ein diensthabender Offizier in einer geheimen Kommandozentrale südlich von Moskau, als ein erschreckender Alarm losging.
Es signalisierte, dass die Vereinigten Staaten Interkontinentalraketen mit Atomsprengköpfen gestartet hatten.
Konfrontiert mit einer unmöglichen Wahl – den Alarm melden und möglicherweise den 3. Weltkrieg auslösen oder darauf vertrauen, dass es sich um einen Fehlalarm handelt – entschied sich Petrov für Letzteres.
Später sagte er: “Ich habe mich kategorisch geweigert, den 3. Weltkrieg begonnen zu haben.”
Kellenberg sagte, dass Petrov eine menschliche Entscheidung getroffen habe, dem automatischen Starterkennungssystem nicht zu vertrauen, und erklärte: „Der Computer lag falsch; Petrov hatte Recht. Die falschen Signale kamen vom Frühwarnsystem, das die Reflexion der Sonne von den Wolken mit Raketen verwechselte. Aber wenn Petrov war eine Maschine gewesen, die darauf programmiert war, automatisch zu reagieren, wenn das Vertrauen ausreichend hoch war, dass ein Fehler einen Atomkrieg ausgelöst hätte.
Er fügte hinzu: „Es gibt keine Garantie dafür, dass ein Militär die KI nicht mit Nuklearstarts beauftragt; das Völkerrecht schreibt nicht vor, dass immer ein ‚Petrow‘ den Knopf bewachen sollte. Das sollte sich bald ändern.“
4
4