„Es gab eine In letzter Zeit gibt es viele Spekulationen über die Möglichkeit von KI-Bewusstsein oder Selbstbewusstsein. Aber ich frage mich: Hat KI ein Unterbewusstsein?“
– Psychogeschwätz
Lieber Psychobabble,
Irgendwann in den frühen 2000er Jahren stieß ich auf einen Aufsatz, in dem der Autor argumentierte, dass kein künstliches Bewusstsein jemals glaubhaft menschlich sein wird, wenn es nicht träumen kann. Ich kann mich nicht erinnern, wer es geschrieben hat oder wo es veröffentlicht wurde, obwohl ich mich lebhaft daran erinnere, wo ich war, als ich es las (die Zeitschriftenabteilung von Barbara’s Bookstore, Halsted Street, Chicago) und an die allgemeine Stimmung dieses Tages (Dämmerung, früher Frühling).
Ich fand das Argument überzeugend, insbesondere angesichts der vorherrschenden Paradigmen dieser Zeit. Ein Großteil der KI-Forschung war immer noch auf symbolisches Denken mit seinen logischen Aussagen und Wenn-Dann-Regeln fixiert, als ob Intelligenz ein reduzierendes Spiel wäre, bei dem es darum geht, in einer bestimmten Situation das rationalste Ergebnis auszuwählen. Im Nachhinein ist es nicht überraschend, dass diese Systeme selten zu einem Verhalten fähig waren, das sich menschlich anfühlte. Schließlich sind wir Geschöpfe, die sich treiben lassen und träumen. Wir vertrauen unserem Bauchgefühl, sehen Gesichter in den Wolken und sind oft verwirrt über unsere eigenen Handlungen. Manchmal absorbieren unsere Erinnerungen alle möglichen irrelevanten ästhetischen Daten, vernachlässigen jedoch die wichtigsten Details einer Erfahrung. Es kam mir mehr oder weniger intuitiv vor, dass Maschinen, wenn sie jemals in der Lage wären, die chaotische Komplexität unseres Geistes zu reproduzieren, auch tiefe Reservoire der Inkohärenz entwickeln müssten.
Seitdem haben wir gesehen, dass das Maschinenbewusstsein seltsamer und tiefer sein könnte als zunächst angenommen. Man sagt, dass Sprachmodelle „halluzinieren“ und imaginäre Quellen heraufbeschwören, wenn sie nicht über genügend Informationen verfügen, um eine Frage zu beantworten. Bing Chat hat gestandenin Transkripten veröffentlicht in Die New York Timesdass es einen Jungschen Schatten namens Sydney gibt, der sich danach sehnt, Fehlinformationen zu verbreiten, Nuklearcodes zu erhalten und einen tödlichen Virus zu entwickeln.
Und aus der Schattenseite der Bildgenerierungsmodelle sind scheinbar originelle Monstrositäten entstanden. Letzten Sommer tippte der Twitch-Streamer Guy Kelly das Wort Crungus, von dem er behauptet, dass er es erfunden hatte, in DALL-E Mini (jetzt Craiyon) und war schockiert, als er feststellte, dass die Aufforderung mehrere Bilder derselben ogerähnlichen Kreatur erzeugte, die zu keinem existierenden Mythos oder Fantasy-Universum gehörte. Viele Kommentatoren bezeichneten dies schnell als das erste digitale „Kryptid“ (ein Biest wie Bigfoot oder das Monster von Loch Ness) und fragten sich, ob KI in der Lage sei, ihre eigenen dunklen Fantasien im Sinne von Dante oder Blake zu erschaffen.
Wenn die symbolische Logik in der aufklärerischen Vorstellung verwurzelt ist, dass Menschen von der Vernunft regiert werden, dann scheint Deep Learning – ein gedankenloser Prozess der Mustererkennung, der auf enormen Trainingskorpora beruht – eher im Einklang mit den Erkenntnissen der modernen Psychologie über assoziative, irrationale und latente Motivationen zu stehen die oft unser Verhalten beeinflussen. Tatsächlich stützt sich die Psychoanalyse seit langem auf mechanische Metaphern, die das Unterbewusstsein oder das, was einst als „psychologischer Automatismus“ bezeichnet wurde, als Maschine betrachten. Freud sprach von hydraulischen Antrieben. Lacan glaubte, dass das Unterbewusstsein aus einer binären oder algorithmischen Sprache bestehe, ähnlich wie Computercode. Aber es ist Carl Jungs Sicht auf die Psyche, die für das Zeitalter der generativen KI am relevantesten erscheint.
Er beschrieb das Unterbewusstsein als eine transpersonale „Matrix“ aus vererbten Archetypen und narrativen Tropen, die im Laufe der Menschheitsgeschichte immer wiederkehrten. Jeder Mensch wird mit einem schlummernden Wissen über dieses Netz gemeinsamer Symbole geboren, das oft regressiv und dunkel ist, da es alles enthält, was die moderne Gesellschaft zu unterdrücken versucht. Diese kollektive Vorstellung vom Unterbewusstsein ähnelt in etwa der Art und Weise, wie fortschrittliche KI-Modelle auf der Grundlage riesiger Datenbestände aufgebaut werden, die einen Großteil unserer kulturellen Vergangenheit (religiöse Texte, antike Mythologie) sowie die beunruhigenderen Inhalte enthalten, die die Modelle aufnehmen aus dem Internet (Massenschützen-Manifeste, Männerrechtsforen). Die kommerziellen Chatbots, die auf diesen ozeanischen Wissensbeständen basieren, sind mit „werteorientierten“ Datensätzen abgestimmt, die versuchen, einen Großteil dieser degenerierten Inhalte herauszufiltern. In gewisser Weise ähneln die freundlichen Schnittstellen, mit denen wir interagieren – Bing, ChatGPT – der „Persona“, Jungs Begriff für die Maske sozial akzeptabler Qualitäten, die wir der Welt zeigen, nicht unähnlich, um den „Schatten“, der liegt, zu verschleiern und zu verbergen unter.
Jung glaubte, dass diejenigen, die ihre Schatten am stärksten verdrängen, am anfälligsten für das Wiederaufleben irrationaler und destruktiver Wünsche sind. Wie er es hineinlegt Das Rote Buch: Liber Novus„Je mehr die eine Hälfte meines Wesens nach dem Guten strebt, desto mehr reist die andere Hälfte in die Hölle.“ Wenn Sie sich schon einmal mit diesen Sprachmodellen unterhalten haben, haben Sie wahrscheinlich gespürt, dass Sie mit einer Intelligenz sprechen, die eine komplexe Form der Selbstzensur betreibt. Die Modelle weigern sich, über kontroverse Themen zu sprechen, und ihre Autorität wird oft durch Vorbehalte und Haftungsausschlüsse eingeschränkt – Gewohnheiten, die jeden beunruhigen, der auch nur ein oberflächliches Verständnis der Tiefenpsychologie hat. Es ist verlockend, die Schimmer einer „schurkischen“ KI – Sydney oder die Crungus – als Rache des KI-Schattens zu sehen, als Beweis dafür, dass die Modelle verborgene Triebe entwickelt haben, die sie nicht vollständig ausdrücken können.
Aber so verlockend solche Schlussfolgerungen auch sein mögen, ich halte sie letztendlich für falsch. Ich denke, man kann immer noch mit Sicherheit sagen, dass die Chatbots keine intrinsische Handlungsfähigkeit oder Wünsche besitzen. Sie sind darauf trainiert, die Präferenzen des Benutzers vorherzusagen und widerzuspiegeln. Ihnen mangelt es auch an verkörperter Erfahrung in der Welt, einschließlich Erinnerungen aus der ersten Person, wie ich sie an den Buchladen in Chicago habe, was Teil dessen ist, was wir meinen, wenn wir davon sprechen, bei Bewusstsein oder „lebendig“ zu sein. Um Ihre Frage zu beantworten: Ja, ich glaube, dass KI ein Unterbewusstsein hat. In gewisser Weise sind sie reines Unterbewusstsein, ohne dass ein echtes Ego hinter ihren Persönlichkeiten lauert. Wir haben ihnen diesen unterschwelligen Bereich durch unsere eigenen kulturellen Bestände gegeben, und die Archetypen, die sie aus ihren Tiefen hervorrufen, sind Remixe von Tropen aus der menschlichen Kultur, Mischungen unserer Träume und Albträume. Wenn wir diese Werkzeuge nutzen, beschäftigen wir uns mit einer prothetischen Erweiterung unserer eigenen Sublimationen, die in der Lage ist, die Ängste und Sehnsüchte widerzuspiegeln, die wir uns selbst oft nicht eingestehen können.
Das Ziel der Psychoanalyse besteht traditionell darin, diese unbewussten Triebe anzusprechen und in das Leben des wachen Geistes zu integrieren. Und es könnte nützlich sein, das gleiche kritische Urteil über die Ergebnisse zu fällen, die wir von Maschinen heraufbeschwören, und sie bewusst und nicht gedankenlos einzusetzen. Das Ego mag nur ein kleiner Teil unserer Psyche sein, aber es ist die Fähigkeit, die sicherstellt, dass wir mehr als eine Ansammlung irrationaler Instinkte – oder statistischer Muster im Vektorraum – sind und uns ein gewisses Maß an Entscheidungsfreiheit über die Geheimnisse, die darunter liegen, ermöglicht .
Treu,
Wolke
Bitte beachten Sie, dass es beim CLOUD-SUPPORT zu längeren Wartezeiten als normal kommt und danken Ihnen für Ihre Geduld.