Auch wenn die Welt immer noch in ihrem Versuch taumelt, die Wellen der Einführung von ChatGPT und verschiedenen KI-basierten Systemen zu verstehen und zu absorbieren – deren Staub sich noch lange legen wird – fahren Wissenschaftler mit ihren eigenen Anwendungen von Generative Pre-Trained fort Transformers (GPT) und LLM (Large Language Models). Und gem Wissenschaftlicher Amerikaner, Eine der neuesten Anwendungen dieser Art ist ein GPT-basiertes Modell, das seine Eingabeaufforderungen nicht aus menschlichem Text, sondern direkt aus dem Kopf des Benutzers bezieht.
Entwickelt von einem Forschungsteam der University of Texas at Austin und veröffentlicht in einem Artikel in der Zeitschrift Natur (öffnet in neuem Tab), Ihr GPT-Modell interpretiert die Gehirnaktivität einer Person über ihren Blutfluss, wie in einem fMRT (funktionelle Magnetresonanztomographie) gezeigt, und ermöglicht den Zugriff auf das, was der Benutzer „hört, sagt oder sich vorstellt“. Und das ohne invasive Eingriffe oder Befestigung am Patienten selbst. Es gab eine klare Gelegenheit, das neue Modell BrainGPT zu nennen, aber jemand ignorierte dieses Memo: Die Forscher bezeichnen ihr „Gehirnlese“-Modell stattdessen als GPT-1.
Die Forscher stellen fest, dass GPT-1 aufgrund der verwendeten fMRI-Technik bestimmte Wörter, an die ein Proband denken könnte, nicht analysieren kann; und weil das Modell auf einer höheren Abstraktionsebene arbeitet (es extrapoliert die Bedeutung aus der Gehirnaktivität, anstatt nach der Bedeutung selbst zu suchen), gehen einige Details bei der Übersetzung verloren. Beispielsweise hörte sich ein Forschungsteilnehmer eine Aufzeichnung an, auf der stand: “Ich habe noch keinen Führerschein.” Bei der Verarbeitung der fMRT-Daten, die von dem Moment an generiert wurden, als die Teilnehmerin die Worte hörte, gab GPT-1 den ursprünglichen Satz mit der Bedeutung „Sie hat noch nicht einmal begonnen, Autofahren zu lernen“ zurück. Also nein – es transkribiert unsere Gedanken nicht wörtlich – aber es versteht ihre allgemeine Bedeutung oder „das Wesentliche“, wie die Forscher einige der Ergebnisse von GPT-1 charakterisierten.
All dies wirft eine unmittelbare Frage auf: Wohin führt uns das?
Theoretisch ist Technologie an sich nicht bösartig. Technologie ist eine Abstraktion, ein Konzept, das dann für einen bestimmten Zweck verwendet werden kann. In einem Vakuum könnte GPT-1 ALS- oder Aphasie-Patienten bei der Kommunikation helfen. Auch in einem Vakuum könnten Technologien wie diese von Benutzern genutzt werden, um ihre Gedanken „aufzuzeichnen“ (stellen Sie sich eine Notizen-App vor, die mit Ihren eigenen Gedanken verknüpft ist, oder eine AutoGPT-Installation, die Ihre Ideen huckepack trägt), und so neue Möglichkeiten für sich selbst eröffnen. Wissen und vielleicht sogar neue Wege für die Psychotherapie.
Aber während wir hier sind, können wir auch einige andere, weniger vorteilhafte Umnutzungen der Technologie einwerfen, z. B. die Verwendung, um Informationen direkt aus dem Gehirn eines unwilligen Subjekts zu extrahieren. Nicht-invasiv zu sein, ist dort sowohl eine Stärke als auch eine Schwäche. Und da ist auch die Sache mit der Technologie selbst: fMRI-Geräte verbrauchen ganze Räume und Millionen von Budget-Dollar, wo immer sie gefunden werden, was die Anwendungen stark einschränkt.
Trotzdem scheint es, dass das „Bereitschafts“-Element der Kommunikation – diese Wahl, unsere eigenen Gedanken zu äußern, sie in die wirkliche Welt zu bringen – auf dem Weg der Zerstörung ist. Die Forscher selbst haben in ihrer Studie auf mögliche Missbräuche und negative Auswirkungen der Technologie aufmerksam gemacht – etwas, das sowohl in der akademischen als auch in der privaten Forschung viel seltener vorkommt, als es sollte.
„Unsere Datenschutzanalyse legt nahe, dass die Subjektkooperation derzeit sowohl zum Trainieren als auch zum Anwenden des Decoders erforderlich ist“, heißt es dort. „Zukünftige Entwicklungen könnten es Decodern jedoch ermöglichen, diese Anforderungen zu umgehen. Darüber hinaus könnten Decodervorhersagen, selbst wenn sie ohne die Zusammenarbeit der Subjekte ungenau sind, absichtlich für böswillige Zwecke falsch interpretiert werden. Aus diesen und anderen unvorhergesehenen Gründen ist es entscheidend, das Bewusstsein für die Risiken zu schärfen der Gehirndecodierungstechnologie und verabschieden Richtlinien, die die geistige Privatsphäre jeder Person schützen.”
Da wir an der Tür stehen, hinter der unsere Gedanken nicht mehr sicher sind, ist das in der Tat eine weise Haltung.