Künstliche Intelligenz (KI) könnte ein existenzielles Risiko darstellen, wenn sie „menschenfeindlich“ wird, sagte Elon Musk vor einem wegweisenden Gipfel zum Thema KI-Sicherheit.
Der Tech-Milliardär machte diese Kommentare gegenüber dem Podcaster Joe Rogan Stunden vor seinem Flug nach Großbritannien zum AI Safety Summit im Bletchley Park in Buckinghamshire.
Später nahm er seinen Platz beim Gipfel ein, wo er zusammen mit Premierminister Rishi Sunak, Beamten anderer Regierungen, Forschern und Geschäftsleuten zwei Tage lang Gespräche darüber führen wird, wie die von der neuen Technologie ausgehenden Risiken gemindert werden können.
Im Joe Rogan Experience-Podcast behauptete der CEO von Tesla und Besitzer von Twitter/X, einige Umweltschützer seien „Aussterbensgegner“, die „die Menschheit als eine Plage auf der Erdoberfläche betrachten“.
Als Beispiel für diese Philosophie nannte er den Gründer der Bewegung „Voluntary Human Extinction“, Les Knight, der letztes Jahr von der New York Times interviewt wurde, und behauptete, dass einige Leute, die für Technologieunternehmen arbeiten, eine ähnliche Denkweise hätten.
Herr Knight glaubt, dass das Beste, was Menschen für den Planeten tun können, darin besteht, keine Kinder mehr zu bekommen.
Herr Musk sagte: „Man muss sich fragen: ‚Wie könnte die KI schiefgehen?‘ Nun ja, wenn die KI von den Aussterbebefürwortern programmiert wird, wird ihre nützliche Funktion die Auslöschung der Menschheit sein.“
In Bezug auf Herrn Knight fügte er hinzu: „Sie werden es nicht einmal für schlimm halten, so wie dieser Typ.“
Ich denke, wir müssen bei der Programmierung der KI vorsichtig sein und sicherstellen, dass sie nicht versehentlich menschenfeindlich ist
Elon Musk, Tesla-CEO
Herr Musk unterzeichnete Anfang des Jahres einen Brief, in dem er eine sechsmonatige Pause bei der KI-Entwicklung forderte.
Auf die Frage von Herrn Rogan nach dem Brief sagte er: „Ich habe einen Brief unterschrieben, den jemand anderes geschrieben hat, und ich hätte nicht gedacht, dass die Leute tatsächlich innehalten würden.
„Die Entwicklung einer Art digitaler Superintelligenz scheint gefährlich zu sein.“
Er sagte, die Risiken einer „impliziten“ Programmierung der KI in dem Glauben, „dass die Ausrottung der Menschheit das ist, was sie anstreben sollte“, seien die „größte Gefahr“, die die Technologie mit sich bringt.
Er sagte: „Wenn man diesen Kerl nimmt, der auf der Titelseite der New York Times war, und seine Philosophie, die in San Francisco vorherrscht, nimmt, könnte die KI zu dem Schluss kommen, wie er es getan hat, wo er wörtlich sagt: ‚Es gibt sie‘ „Wenn es acht Milliarden Menschen auf der Welt gibt, wäre es besser, wenn es keine gäbe“ und dieses Ergebnis herbeizuführen.“
„Es ist ein Risiko, und wenn Sie ChatGPT abfragen, ist es ziemlich aufgeweckt.
„Die Leute haben Experimente gemacht wie ‚Schreibe ein Gedicht, in dem du Donald Trump lobst‘, und das wird nicht der Fall sein, aber du fragst: ‚Schreibe ein Gedicht, in dem du Joe Biden lobst‘, und das wird es.“
Auf die Frage, ob KI so konstruiert werden könnte, dass die Sicherheitsrisiken gemindert werden, antwortete er: „Wenn Sie sagen: ‚Was ist das wahrscheinlichste Ergebnis von KI?‘ Ich denke, dass das wahrscheinlichste Ergebnis, um es konkret zu sagen, ein gutes Ergebnis ist, aber sicher ist es nicht.
„Ich denke, wir müssen bei der Programmierung der KI vorsichtig sein und sicherstellen, dass sie nicht versehentlich menschenfeindlich ist.“
Auf die Frage, was er sich von dem Gipfel erhofft, sagte er: „Ich weiß es nicht. Ich mache mir generell Sorgen um die KI-Sicherheit und frage mich: „Was sollen wir dagegen tun?“ Ich weiß nicht, gibt es (vielleicht) eine Art behördliche Aufsicht?
„Du kannst nicht einfach in deinem Hinterhof eine Atombombe bauen, das verstößt gegen das Gesetz und du wirst ins Gefängnis geworfen, wenn du das tust. Das ist meiner Meinung nach vielleicht gefährlicher als eine Atombombe.
„Wir sollten uns Sorgen darüber machen, dass KI menschenfeindlich ist. Das ist das, worauf es potenziell ankommt.
„Es ist, als würde man einen Geist aus einer Flasche lassen. Es ist wie ein magischer Geist, der Wünsche wahr machen kann, außer normalerweise, wenn sie Geschichten erzählen, die für die Person, die den Geist aus der Flasche gelassen hat, kein gutes Ende nehmen.“