Ein Insider der nationalen Sicherheit berechnet die Gefahren der KI


Eine Risikoart, die Sie schon seit langem sehr interessiert, ist das „Birisiko“. Was ist das am schlimmsten was könnte passieren? Führen Sie uns durch.

Ich begann im öffentlichen Gesundheitswesen, bevor ich in der nationalen Sicherheit arbeitete und mich mit der Bekämpfung von Infektionskrankheiten wie Malaria und Tuberkulose beschäftigte. In 2002, Das erste Virus wurde von Grund auf synthetisiert bei einem Darpa-Projekt, und es war eine Art „Oh Mist“-Moment für die Biowissenschaften und die Gemeinschaft des öffentlichen Gesundheitswesens, als ihnen klar wurde, dass die Biologie zu einer Ingenieursdisziplin werden würde, die möglicherweise missbraucht werden könnte. Ich habe mit Veteranen der Pockenausrottungskampagne zusammengearbeitet und sie dachten: „Mist, wir haben einfach Jahrzehnte damit verbracht, eine Krankheit auszurotten, die jetzt von Grund auf synthetisiert werden kann.“

Dann wandte ich mich der Arbeit im Bereich Biosicherheit zu und versuchte herauszufinden: Wie können wir die Sicherheit rund um Biolabore erhöhen, damit sie weniger wahrscheinlich genutzt werden? Wie können wir Biowaffenprogramme erkennen? Leider gibt es sie an einigen Orten der Welt immer noch in großer Zahl. Und wie können wir mehr Sicherheit in die Gesellschaft einbauen, damit wir widerstandsfähiger sind, nicht nur im Hinblick auf eine künstliche Pandemie, sondern auch auf natürliche Pandemien?

Es gibt nach wie vor eine Menge Verletzlichkeit in der Gesellschaft. Covid war ein Beweis dafür. Historisch gesehen war dies ein relativ mildes Virus – die Sterblichkeitsrate bei Infektionen lag bei weniger als 1 Prozent –, wohingegen es einige natürliche Viren gibt, deren Sterblichkeitsrate weit über 50 Prozent liegt. Es gibt synthetische Viren, die eine nahezu 100-prozentige Letalität aufweisen und dennoch genauso übertragbar sind wie SARS-CoV-2. Obwohl wir wissen, wie man Impfstoffe entwickelt und sehr schnell herstellt, dauert ihre Zulassung heute ungefähr genauso lange wie vor etwa 20 Jahren. Die Zeit, die man für die Impfung einer Bevölkerung benötigen würde, ist also heute in etwa die gleiche wie für unsere Eltern und sogar für unsere Großeltern.

Als ich 2002 begann, mich für Biosicherheit zu interessieren, kostete die Entwicklung eines Poliovirus, eines sehr, sehr kleinen Virus, viele Millionen Dollar. Die Synthese eines Pockenvirus, eines sehr großen Virus, hätte fast eine Milliarde US-Dollar gekostet. Heute belaufen sich die Kosten auf weniger als 100.000 US-Dollar, sodass sie in diesem Zeitraum um das Zehntausendfache gesunken sind. Mittlerweile haben sich die Kosten für Impfstoffe in diesem Zeitraum sogar verdreifacht. Die Asymmetrie zwischen Verteidigung und Angriff geht in die falsche Richtung.

Und was ist Ihrer Meinung nach unser größter Gegner bei Biorisiken?

An erster Stelle steht die Natur. Die Evolution natürlicher Viren geht weiter. Wir werden in Zukunft virale Pandemien haben. Einige von ihnen werden schlimmer sein als Covid, andere werden nicht so schlimm sein wie Covid, aber wir müssen gegen beides widerstandsfähig sein. Covid hat nur die US-Wirtschaft gekostet mehr als 10 Billionen US-DollarUnd doch investieren wir in die Verhinderung der nächsten Pandemie vielleicht zwei bis drei Milliarden US-Dollar an Bundesinvestitionen.

Eine weitere Kategorie sind vorsätzliche biologische Angriffe. Aum Shinrikyo war eine Weltuntergangskult in Japan, die ein biologisches Waffenprogramm hatte. Sie glaubten, dass sie eine Prophezeiung erfüllen würden, indem sie jeden auf dem Planeten töteten. Glücklicherweise arbeiteten sie mit der Biologie der 1990er Jahre, die nicht so ausgefeilt war. Leider griffen sie dann zu chemischen Waffen und starteten die Saringas-Angriffe in Tokio.

Heutzutage gibt es Einzelpersonen und Gruppen, die die Massenvernichtung anstreben und zunehmend Interesse an der Biologie als Waffe zeigen. Was sie daran hindert, die Biologie effektiv zu nutzen, sind keine Kontrollen der Werkzeuge oder der Rohstoffe, denn diese sind mittlerweile alle in vielen Labors und bei eBay erhältlich – einen DNA-Synthesizer kann man mittlerweile für deutlich weniger als 100.000 US-Dollar kaufen. Alle Materialien und Verbrauchsmaterialien, die Sie benötigen, erhalten Sie in den meisten Fachgeschäften für wissenschaftlichen Bedarf.

Was einer apokalyptischen Gruppe fehlen würde, ist das Know-how, diese Werkzeuge in eine biologische Waffe umzuwandeln. Es besteht die Sorge, dass KI das Know-how breiter verfügbar macht. Einige die Forschung gemacht von [AI safety and research company] Anthropic hat Risikobewertungen untersucht, um herauszufinden, ob diese Tools von jemandem missbraucht werden könnten, der keinen ausgeprägten Bio-Hintergrund hat. Könnten sie grundsätzlich eine Ausbildung auf Hochschulniveau von einem digitalen Tutor in Form eines großen Sprachmodells erhalten? Im Moment wahrscheinlich nicht. Aber wenn man sich die Fortschritte der letzten Jahre anschaut, wird deutlich, dass die Eintrittsbarriere für jemanden, der einen biologischen Angriff durchführen möchte, immer kleiner wird.

source-114

Leave a Reply