Das erste Mal Wenn wir reden, geht es Joep Meindertsma nicht gut. Er bricht in Tränen aus, als er ein Gespräch beschreibt, in dem er seine Nichte vor der Gefahr warnte, dass künstliche Intelligenz einen gesellschaftlichen Zusammenbruch verursachen könnte. Danach bekam sie eine Panikattacke. „Ich weine jeden zweiten Tag“, sagt er über Zoom von seinem Zuhause in der niederländischen Stadt Utrecht aus. „Jedes Mal, wenn ich mich von meinen Eltern oder Freunden verabschiede, kommt es mir vor, als wäre es das letzte Mal.“
Meindertsma, 31 Jahre alt und Miteigentümer eines Datenbankunternehmens, interessiert sich seit einigen Jahren für KI. Aber er begann sich wirklich Sorgen über die Bedrohung zu machen, die die Technologie für die Menschheit darstellen könnte, als Open AI sein neuestes Sprachmodell veröffentlichte. GPT-4, März. Seitdem hat er miterlebt, wie der durchschlagende Erfolg des Chatbots ChatGPT – der zunächst auf GPT-3 und dann auf GPT-4 basiert – der Welt vor Augen führt, wie weit die KI fortgeschritten ist und große Technologieunternehmen aufholen müssen. Und er hat gesehen, wie Pioniere wie Geoffrey Hinton, der sogenannte Pate der KI, vor den Gefahren warnten, die mit den Systemen verbunden sind, die sie mitentwickelt haben. „Die KI-Fähigkeiten entwickeln sich viel schneller weiter, als praktisch jeder vorhergesagt hat“, sagt Meindertsma. „Wir riskieren den sozialen Zusammenbruch. Wir riskieren die Ausrottung der Menschheit.“
Einen Monat vor unserem Gespräch ging Meindertsma nicht mehr zur Arbeit. Er war so von der Idee fasziniert, dass KI die menschliche Zivilisation zerstören würde, dass es ihm schwer fiel, an etwas anderes zu denken. Er hatte das Gefühl, dass er etwas tun musste, um eine Katastrophe abzuwenden. Kurz darauf gründete er Pause AI, eine Basisprotestgruppe, die sich, wie der Name schon sagt, für einen Stopp der Entwicklung von KI einsetzt. Und seitdem hat er eine kleine Gruppe von Anhängern um sich geschart, die in Brüssel, London, San Francisco und Melbourne protestiert haben. Diese Demonstrationen waren klein – jeweils weniger als zehn Personen –, aber Meindertsma hat in hohen Positionen Freunde gefunden. Er sagt, er sei bereits eingeladen worden, mit Beamten sowohl im niederländischen Parlament als auch bei der Europäischen Kommission zu sprechen.
Die Vorstellung, dass KI die Menschheit auslöschen könnte, klingt extrem. Aber es ist eine Idee, die sowohl im Technologiesektor als auch in der Mainstream-Politik an Bedeutung gewinnt. Hinton kündigte im Mai seine Position bei Google und startete eine weltweite Interviewrunde, in der er das Gespenst beschwor, dass Menschen angesichts der fortschreitenden Technologie nicht mehr in der Lage seien, die KI zu kontrollieren. Im selben Monat unterzeichneten Branchenführer – darunter die CEOs der KI-Labore Google DeepMind, OpenAI und Anthropic – einen Brief, in dem sie das „Risiko des Aussterbens“ anerkannten, und der britische Premierminister Rishi Sunak gab als erster Regierungschef öffentlich zu, dass er ebenfalls glaubt dass KI ein existenzielles Risiko für die Menschheit darstellt.
Meindertsma und seine Anhänger geben einen Einblick in die Art und Weise, wie diese Warnungen durch die Gesellschaft dringen, ein neues Phänomen der KI-Angst hervorrufen und einer jüngeren Generation – von der sich viele bereits große Sorgen über den Klimawandel machen – einen neuen Grund zur Panik vor der Zukunft geben. A Umfrage Wie das Meinungsforschungsinstitut YouGov herausfand, ist der Anteil der Menschen, die befürchten, dass künstliche Intelligenz zu einer Apokalypse führen könnte, im letzten Jahr stark gestiegen. Hinton bestreitet, dass er möchte, dass die KI-Entwicklung vorübergehend oder auf unbestimmte Zeit gestoppt wird. Aber seine öffentlichen Äußerungen über das Risiko, das KI für die Menschheit darstellt, haben dazu geführt, dass eine Gruppe junger Menschen das Gefühl hat, dass es keine andere Wahl gibt.
An verschiedene Menschen, „Existenzielles Risiko“ bedeutet verschiedene Dinge. „Das Hauptszenario, über das ich mir persönlich Sorgen mache, ist der soziale Zusammenbruch aufgrund groß angelegter Hackerangriffe“, sagt Meindertsma und erklärt, er sei besorgt darüber, dass KI zur Herstellung billiger und zugänglicher Cyberwaffen eingesetzt werden könnte, mit denen Kriminelle „die effektiv ausschalten könnten“. gesamtes Internet.“ Dieses Szenario halten Experten für äußerst unwahrscheinlich. Aber Meindertsma macht sich immer noch Sorgen um die Widerstandsfähigkeit der Bank- und Lebensmittelvertriebsdienste. „Die Menschen werden in einer Stadt keine Nahrung finden können. Die Leute werden kämpfen“, sagt er. „Ich denke, viele Milliarden werden sterben.“