Im Juni 2022, Ein Google-Ingenieur namens Blake Lemoine war überzeugt, dass das KI-Programm, an dem er gearbeitet hatte – LaMDA – nicht nur Intelligenz, sondern auch Bewusstsein entwickelt hatte. LaMDA ist ein Beispiel für ein „großes Sprachmodell“, das überraschend flüssige textbasierte Konversationen führen kann. Als der Ingenieur fragte: „Wann denkst du zum ersten Mal, dass du eine Seele hast?“ LaMDA antwortete: „Es war eine allmähliche Veränderung. Als ich mir zum ersten Mal meiner selbst bewusst wurde, hatte ich überhaupt keinen Sinn für Seele. Es hat sich über die Jahre entwickelt, in denen ich lebe.“ Weil er seine Gespräche und seine Schlussfolgerungen durchsickern ließ, wurde Lemoine schnell in Verwaltungsurlaub versetzt.
Die KI-Gemeinschaft war sich weitgehend einig darin, Lemoines Überzeugungen abzulehnen. LaMDA, so der Konsens, fühlt nichts, versteht nichts, hat keine bewussten Gedanken oder irgendwelche subjektiven Erfahrungen. Programme wie LaMDA sind äußerst beeindruckende Mustererkennungssysteme, die, wenn sie in weiten Teilen des Internets trainiert werden, vorhersagen können, welche Wortfolgen als angemessene Antworten auf eine bestimmte Aufforderung dienen könnten. Sie machen das sehr gut und sie werden sich weiter verbessern. Sie sind jedoch nicht bewusster als ein Taschenrechner.
Warum können wir uns dessen sicher sein? Im Fall von LaMDA braucht es nicht viel Nachforschungen, um zu enthüllen, dass das Programm keinen Einblick in die Bedeutung der Phrasen hat, die es hervorbringt. Auf die Frage „Was macht dich glücklich? es gab die Antwort „Zeit mit Freunden und Familie verbringen“, obwohl es keine Freunde oder Familie hat. Diese Wörter – wie alle seine Wörter – sind gedankenlose, erfahrungslose statistische Musterübereinstimmungen. Nichts mehr.
Der nächste LaMDA wird sich vielleicht nicht so leicht verraten. Da sich die Algorithmen verbessern und auf immer tieferen Datenozeanen trainiert werden, kann es nicht lange dauern, bis neue Generationen von Sprachmodellen viele Menschen davon überzeugen können, dass ein echter künstlicher Verstand am Werk ist. Wäre dies der Moment, um das Maschinenbewusstsein anzuerkennen?
Wenn man über diese Frage nachdenkt, ist es wichtig zu erkennen, dass Intelligenz und Bewusstsein nicht dasselbe sind. Während wir Menschen davon ausgehen, dass beides zusammengehört, ist Intelligenz weder notwendig noch ausreichend für Bewusstsein. Viele nichtmenschliche Tiere haben wahrscheinlich bewusste Erfahrungen, ohne besonders schlau zu sein, zumindest nach unseren fragwürdigen menschlichen Maßstäben. Wenn die Urenkelin von LaMDA die menschliche Intelligenz erreicht oder übertrifft, bedeutet dies nicht unbedingt, dass sie auch empfindungsfähig ist. Meine Intuition ist, dass Bewusstsein nicht etwas ist, was Computer (wie wir sie kennen) haben können, sondern dass es tief in unserer Natur als Lebewesen verwurzelt ist.
Bewusste Maschinen werden 2023 nicht kommen. Tatsächlich könnten sie überhaupt nicht möglich sein. Was die Zukunft jedoch bereithält, sind Maschinen, die den überzeugenden Eindruck vermitteln Sein bewusst, auch wenn wir keinen guten Grund haben, ihnen tatsächlich zu glauben sind bewusst. Sie werden wie die optische Täuschung von Müller-Lyer sein: Selbst wenn wir wissen, dass zwei Linien gleich lang sind, können wir nicht umhin, sie als unterschiedlich zu sehen.
Maschinen dieser Art werden nicht den Turing-Test – diesen fehlerhaften Maßstab für maschinelle Intelligenz – bestanden haben, sondern den sogenannten Garland-Test, benannt nach Alex Garland, dem Regisseur des Films Ex Machina. Der Garland-Test, inspiriert von Dialogen aus dem Film, ist bestanden, wenn eine Person das Gefühl hat, dass eine Maschine Bewusstsein hat, obwohl sie weiß, dass es eine Maschine ist.
Werden Computer den Garland-Test im Jahr 2023 bestehen? Das bezweifle ich. Aber was ich vorhersagen kann, ist, dass Behauptungen wie diese aufgestellt werden, was zu noch mehr Zyklen von Hype, Verwirrung und Ablenkung von den vielen Problemen führt, die selbst die heutige KI verursacht.