Sobald wir Computer dazu gebracht haben, die Intelligenz eines Menschen zu erreichen, wird es dabei nicht bleiben. Mit fundiertem Wissen, mathematischen Fähigkeiten auf Maschinenebene und besseren Algorithmen werden sie Superintelligenz schaffen, oder?
Ja, es steht außer Frage, dass Maschinen irgendwann schlauer sein werden als Menschen. Wir wissen nicht, wie lange es dauern wird – es könnten Jahre, es könnten Jahrhunderte sein.
Bei Das Punkt, müssen wir die Luken verschließen?
Nein, nein. Wir werden alle KI-Assistenten haben, und es wird so sein, als würde man mit einem Team superschlauer Leute zusammenarbeiten. Sie werden einfach keine Menschen sein. Die Menschen fühlen sich dadurch bedroht, aber ich denke, wir sollten aufgeregt sein. Was mich am meisten begeistert, ist die Zusammenarbeit mit Menschen, die schlauer sind als ich, weil es die eigenen Fähigkeiten stärkt.
Aber wenn Computer superintelligent werden, warum brauchen sie uns dann?
Es gibt keinen Grund zu der Annahme, dass KI-Systeme uns dominieren wollen, nur weil sie intelligent sind. Menschen irren sich, wenn sie glauben, dass KI-Systeme die gleichen Beweggründe haben wie Menschen. Sie werden es einfach nicht tun. Wir werden sie so gestalten, dass sie es nicht tun.
Was wäre, wenn Menschen diese Antriebe nicht einbauen würden und Superintelligenzsysteme letztendlich Menschen verletzen würden, indem sie zielstrebig ein Ziel verfolgen? Wie das Beispiel des Philosophen Nick Bostrom für ein System, das darauf ausgelegt ist, Büroklammern herzustellen, egal was passiert, und die Welt erobert, um mehr davon herzustellen.
Es wäre äußerst dumm, ein System aufzubauen und keine Leitplanken zu errichten. Das wäre so, als würde man ein Auto mit einem 1.000-PS-Motor und ohne Bremsen bauen. Nur durch die Einbindung von Antrieben in KI-Systeme lassen sich diese kontrollierbar und sicher machen. Ich nenne das objektive KI. Dies ist eine Art neue Architektur, und wir haben derzeit keine Demonstration davon.
Daran arbeiten Sie gerade?
Ja. Die Idee dahinter ist, dass die Maschine Ziele hat, die sie erfüllen muss, und dass sie nichts produzieren kann, was diese Ziele nicht erfüllt. Zu diesen Zielen könnten Leitplanken gehören, um gefährliche Dinge oder was auch immer zu verhindern. So machen Sie ein KI-System sicher.
Glauben Sie, dass Sie die Folgen der KI, die Sie herbeigeführt haben, noch bereuen werden?
Wenn ich das glauben würde, würde ich aufhören, das zu tun, was ich tue.
Du bist ein großer Jazz-Fan. Könnte irgendetwas, das durch KI erzeugt wird, mit der elitären, euphorischen Kreativität mithalten, die bisher nur Menschen hervorbringen können? Kann daraus ein Werk entstehen, das eine Seele hat?
Die Antwort ist kompliziert. Ja, in dem Sinne, dass KI-Systeme irgendwann Musik – oder visuelle Kunst oder was auch immer – mit einer technischen Qualität produzieren werden, die der des Menschen ähnelt, vielleicht sogar überlegen ist. Aber ein KI-System verfügt nicht über die Essenz improvisierter Musik, die auf der Kommunikation von Stimmung und Emotionen durch einen Menschen beruht. Zumindest jetzt noch nicht. Deshalb soll Jazzmusik live gehört werden.