Gruselige KI-Chatbots der Toten könnten den Hinterbliebenen einen „unerwünschten digitalen Spuk“ mit schwerwiegenden psychologischen Folgen bereiten, warnen Experten.
Sogenannte KI-„Ghostbots“ können ihre Lieben sogar digital über das Grab hinaus verfolgen.
Online-Plattformen, die es Menschen ermöglichen, verlorene Verwandte virtuell wiederzubeleben, sind in den letzten Jahren explodiert.
Die unheimliche Technologie ist in der Lage, anhand des digitalen Fußabdrucks, den sie hinterlassen hat, Sprachmuster und Persönlichkeitsmerkmale eines Verstorbenen zu simulieren.
Eine Person kann eine KI-Simulation als Abschiedsgeschenk für geliebte Menschen hinterlassen, die nicht bereit sind, ihre Trauer auf diese Weise zu verarbeiten
Dr. Katarzyna Nowaczyk-Basinska
Forscher der Universität Cambridge sagen jedoch, dass KI-Chatbots neue Sicherheitsmaßnahmen benötigen, um psychische Schäden zu verhindern.
Sie befürchten, dass einige Benutzer auch „starke emotionale Bindungen“ zur Simulation entwickeln könnten, was sie besonders anfällig für Manipulationen macht.
„Es ist von entscheidender Bedeutung, dass digitale Jenseitsdienste die Rechte und Zustimmung nicht nur derjenigen berücksichtigen, die sie nachbilden, sondern auch derjenigen, die mit den Simulationen interagieren müssen“, sagte Dr. Tomasz Hollanek, Mitautor des Papiers.
„Diese Dienste laufen Gefahr, den Menschen großen Kummer zu bereiten, wenn sie unerwünschter digitaler Verfolgung durch alarmierend genaue KI-Nachbildungen ihrer Verstorbenen ausgesetzt sind.“
„Die möglichen psychologischen Auswirkungen könnten, insbesondere in einer ohnehin schwierigen Zeit, verheerend sein.“
In der Studie des Leverhulme Centre for the Future of Intelligence in Cambridge heißt es weiter, dass es sich bei dem Bereich um ein „hohes Risiko“ handele.
Sie befürchten, dass Unternehmen Deadbots auch nutzen könnten, um den Nutzern schamlos Produkte in der Art eines verstorbenen geliebten Menschen anzubieten, oder Kinder beunruhigen könnten, indem sie darauf bestehen, dass ein toter Elternteil immer noch „bei Ihnen“ sei.
Wenn sich die Lebenden anmelden, um nach ihrem Tod virtuell neu erschaffen zu werden, könnte ihr Chatbot von Unternehmen genutzt werden, um überlebende Familienangehörige und Freunde mit unerwünschten Benachrichtigungen, Erinnerungen und Aktualisierungen über die von ihnen angebotenen Dienste zuzuspammen – so als würden sie digital „von den Toten gestalkt“. “ – schreiben sie in der Zeitschrift Philosophy and Technology.
Menschen, die sich zunächst durch den Deadbot trösten lassen, können durch die täglichen Interaktionen erschöpft sein, die zu einer „überwältigenden emotionalen Belastung“ werden.
Und lebende Familienangehörige haben möglicherweise keine Möglichkeit, den Dienst abzubrechen, wenn ihr inzwischen verstorbener Angehöriger einen langfristigen Vertrag mit einem digitalen Jenseitsdienst unterzeichnet hat.
„Schnelle Fortschritte in der generativen KI bedeuten, dass fast jeder mit Internetzugang und etwas Grundwissen einen verstorbenen geliebten Menschen wiederbeleben kann“, sagte Co-Autorin Dr. Katarzyna Nowaczyk-Basinska.
„Dieser Bereich der KI ist ein ethisches Minenfeld.
„Es ist wichtig, die Würde des Verstorbenen in den Vordergrund zu stellen und sicherzustellen, dass diese nicht durch finanzielle Motive, beispielsweise durch digitale Jenseitsdienste, beeinträchtigt wird.“
„Gleichzeitig kann eine Person eine KI-Simulation als Abschiedsgeschenk für geliebte Menschen hinterlassen, die nicht bereit sind, ihre Trauer auf diese Weise zu verarbeiten.
„Die Rechte sowohl der Datenspender als auch derjenigen, die mit KI-Diensten nach dem Tod interagieren, sollten gleichermaßen geschützt werden.“
Dr. Hollanek fügte hinzu, dass es Möglichkeiten geben sollte, „Deadbots auf würdige Weise in den Ruhestand zu schicken, was möglicherweise eine „Form der digitalen Beerdigung“ erfordert.
Die Forscher empfehlen Altersbeschränkungen für Deadbots und fordern außerdem „sinnvolle Transparenz“, um sicherzustellen, dass Benutzer stets wissen, dass sie mit einer KI interagieren.
Dr. Nowaczyk-Basinska sagte: „Wir müssen jetzt darüber nachdenken, wie wir die sozialen und psychologischen Risiken der digitalen Unsterblichkeit abmildern, denn die Technologie ist bereits vorhanden.“
Lesen Sie mehr über Künstliche Intelligenz
Alles, was Sie über die neuesten Entwicklungen in der Künstlichen Intelligenz wissen müssen