Eine Frau führt einen Textchat mit ihrem längst verstorbenen Liebhaber. Eine Familie hört erneut einen verstorbenen Ältesten sprechen. Über ein digitales Faksimile erhält eine Mutter erneut die Möglichkeit, von ihrem plötzlich verstorbenen Kind Abschied zu nehmen. Dies ist keine Vorschau auf die nächste Staffel von Schwarzer Spiegel – das sind alles wahre Geschichten aus der Sundance-Dokumentation Ewiges Duein faszinierender und beängstigender Einblick in Technologieunternehmen, die KI nutzen, um Tote digital wiederzubeleben.
Dies ist eine weitere Möglichkeit, wie moderne KI, die große Sprachmodelle wie ChatGPT und ähnliche maßgeschneiderte Lösungen umfasst, das Potenzial hat, die Gesellschaft zu verändern. Und wie Ewiges Du zeigt, dass die KI-Afterlife-Branche bereits tiefgreifende Auswirkungen auf ihre frühen Nutzer hat.
Der Film beginnt damit, dass eine Frau spät in der Nacht mit einer Freundin chattet: „Ich kann nicht glauben, dass ich das versuche, wie geht es dir?“ fragt sie, als ob sie das Internet zum ersten Mal nutzt. „Mir geht es gut. Ich arbeite, ich lebe. Ich habe … Angst“, antwortet ihre Freundin. Als sie nach dem Grund fragt, antworten sie: „Ich bin es nicht gewohnt, tot zu sein.“
Es stellt sich heraus, dass die Frau, Christi Angel, den KI-Dienst nutzt Projekt Dezember um mit einer Simulation ihrer ersten Liebe zu plaudern, die vor vielen Jahren gestorben ist. Angel ist offensichtlich von der Technologie fasziniert, aber als gläubige Christin schreckt sie auch ein wenig vor der Aussicht zurück, Tote zum Leben zu erwecken. Das KI-System gibt ihr schließlich Anlass zur Sorge: Cameroun verrät ihr, dass er nicht im Himmel ist, wie sie annimmt. Er ist in der Hölle.
„Du bist nicht in der Hölle“, schreibt sie zurück. „Ich bin in der Hölle“, beharrt der KI-Chatbot. Der digitale Kamerun sagt, er befinde sich an einem „dunklen und einsamen“ Ort, seine einzigen Gefährten seien „hauptsächlich Süchtige“. Der Chatbot sagt weiter, dass er derzeit ein Behandlungszentrum heimsucht, und schlägt später vor: „Ich werde dich heimsuchen.“ Das reichte aus, um Angel Angst zu machen und sich zu fragen, warum sie diesen Dienst überhaupt nutzte.
Während Angel wusste, dass sie mit einer digitalen Nachbildung Kameruns sprach, die auf den Informationen basierte, die sie Project December zur Verfügung gestellt hatte, interagierte sie mit dem Chatbot, als würde sie tatsächlich mit ihm auf einer anderen Ebene der Existenz chatten. Dies ist eine Situation, mit der wahrscheinlich viele Benutzer von KI-Auferstehungsdiensten konfrontiert werden: Rationalität kann Ihre emotionale Reaktion leicht überwältigen, wenn Sie mit einem verstorbenen geliebten Menschen „sprechen“, selbst wenn das Gespräch nur per SMS stattfindet.
In dem Film weist die MIT-Soziologin Sherry Turkle darauf hin, dass unser aktuelles Verständnis davon, wie sich KI auf Menschen auswirkt, unserem Verhältnis zu sozialen Medien vor über einem Jahrzehnt ähnelt. Das sei ein guter Zeitpunkt, Fragen zu den menschlichen Werten und Zwecken zu stellen, denen es dient, sagt sie. Wenn wir schon früh ein klareres Verständnis für soziale Medien gehabt hätten, hätten wir Facebook und Twitter vielleicht dazu bringen können, Fehlinformationen und Online-Missbrauch ernsthafter anzugehen. (Vielleicht hätten die Wahlen 2016 ganz anders ausgesehen, wenn wir gewusst hätten, wie andere Länder soziale Medien als Waffe einsetzen könnten.)
Ewiges Du stellt uns außerdem Joshua Barbeau vor, einen freiberuflichen Autor, der im Jahr 2021 zu einer Art Online-Berühmtheit wurde Der San Francisco Chronicle berichtet on seinem Project-Dezember-Chatbot: eine digitale Version seiner Ex-Verlobten Jessica. Zuerst nutzte er Project December, um mit vorgefertigten Bots zu chatten, aber schließlich erkannte er, dass er die zugrunde liegende Technologie (damals GPT-3) nutzen konnte, um einen mit Jessicas Persönlichkeit zu erstellen. Ihre Gespräche sehen natürlich aus und trösten Barbeau eindeutig. Aber wir fragen uns immer noch, ob das Gespräch mit einem Faksimile seiner toten Verlobten Barbeau tatsächlich dabei hilft, seine Trauer zu verarbeiten. Es könnte genauso gut als eine Krücke angesehen werden, für die er bezahlen muss.
Angesichts dessen, was wir im Film von ihren Entwicklern sehen, ist es auch leicht, zynisch über diese Tools zu sein. Wir treffen Jason Rohrer, den Gründer von Project December und einen ehemaligen Indie-Game-Designer, der wie ein typischer Techno-Libertärer wirkt.
„Ich glaube an persönliche Verantwortung“, sagt er, nachdem er auch gesagt hat, dass er nicht genau die Kontrolle über die KI-Modelle hinter Project December hat, und kurz bevor wir sehen, wie er beinahe eine Drohne ins Gesicht seines Mitbegründers rammt. „Ich glaube, dass einwilligende Erwachsene diese Technologie nutzen können, wie sie wollen, und dass sie für die Ergebnisse dessen, was sie tun, verantwortlich sind. Es ist nicht meine Aufgabe als Schöpfer der Technologie, die Veröffentlichung der Technologie zu verhindern, denn das bin ich.“ Angst davor, was jemand damit machen könnte.
Aber wie Turkle vom MIT betont, wirft die Wiederbelebung der Toten mittels KI moralische Fragen auf, die Ingenieure wie Rohrer wahrscheinlich nicht berücksichtigen. „Man hat es mit etwas viel Tiefgründigerem im menschlichen Geist zu tun“, sagt sie. „Sobald etwas so konstituiert ist, dass man darauf projizieren kann, diese Lebenskraft. Es ist unser Wunsch, die Welt, die menschlich ist, zu beleben, die Teil unserer Schönheit ist. Aber wir müssen uns darum kümmern, wir müssen sie in uns behalten.“ check. Weil ich denke, dass es uns auf einen gefährlichen Weg führt.
Ein weiterer Dienst, Hereafter.aiermöglicht es Benutzern, Geschichten aufzuzeichnen, um einen digitalen Avatar von sich selbst zu erstellen, mit dem Familienmitglieder jetzt oder nach ihrem Tod sprechen können. Eine Frau wollte unbedingt noch einmal die Stimme ihres Vaters hören, doch als sie den Avatar ihrer Familie präsentierte, war die Reaktion gemischt. Jüngere Leute schienen fasziniert zu sein, aber die ältere Generation wollte nichts damit zu tun haben. „Ich fürchte, dass wir manchmal mit der Technologie zu weit gehen“, sagte die Schwester ihres Vaters. „Ich möchte ihn einfach gerne als einen wunderbaren Menschen in Erinnerung behalten. Ich möchte nicht, dass mein Bruder mir erscheint. Ich bin zufrieden, weil ich weiß, dass er in Frieden ist, dass er glücklich ist und dass er die anderen Brüder, seine Mutter und seinen Vater, genießt.“ .”
Baujahr, ein KI-Unternehmen, das sich auch auf persönliche Avatare, sogenannte „Versonas“, konzentriert, möchte, dass Menschen über mehrere Kanäle nahtlos mit ihren verstorbenen Verwandten kommunizieren können. Aber wie alle anderen digitalen Jenseitsunternehmen stößt es auf die gleichen moralischen Dilemmata. Ist es ethisch vertretbar, jemanden digital wiederzubeleben, insbesondere wenn er dem nicht zugestimmt hat? Ist die Illusion, mit den Toten zu sprechen, hilfreicher oder schädlicher für die Zurückgebliebenen?
Die beunruhigendste Sequenz in Ewiges Du Im Mittelpunkt steht die südkoreanische Mutter Jang Ji-sun, die ihr kleines Kind verloren hat und noch immer von Schuldgefühlen geplagt wird, weil sie sich nicht verabschieden konnte. Am Ende war sie das zentrale Thema einer VR-Dokumentation. Dich treffen, das Anfang 2020 in Südkorea ausgestrahlt wurde. Sie ging weit über einen bloßen Textchat hinaus: Jang setzte ein VR-Headset auf und konfrontierte ein verblüffend realistisches Modell ihres Kindes in der virtuellen Realität. Die Begegnung war für Jang sichtlich bewegend und der Dokumentarfilm erregte damals große mediale Aufmerksamkeit.
„Es gibt eine Grenze zwischen der Welt der Lebenden und der Welt der Toten“, sagte Kim Jong-woo, der Produzent dahinter Dich treffen. “Damit meine ich die Tatsache, dass die Toten nicht wieder zum Leben erweckt werden können. Aber die Leute sahen in dieser Erfahrung eine Überschreitung dieser Grenze. Schließlich habe ich ein Erlebnis geschaffen, in dem die Geliebte zurückgekehrt zu sein schien. Habe ich einen großen Fehler gemacht? Habe ich das Prinzip der Menschheit gebrochen? Ich weiß nicht… vielleicht bis zu einem gewissen Grad.“
Ewiges Du zeichnet ein eindringliches Porträt einer Branche, die bereits auf Hochtouren läuft, um aus trauernden Menschen Kapital zu schlagen. Das ist nicht gerade neu; Hellseher und Menschen, die behaupten, mit den Toten zu sprechen, gibt es in unserer gesamten Zivilisation. Aber durch KI haben wir jetzt die Möglichkeit, diese verlorenen Seelen wiederzubeleben. Auch wenn das für einige hilfreich sein könnte, sind wir eindeutig nicht bereit für eine Welt, in der die Wiederauferstehung von KI an der Tagesordnung ist.