Tessa wird vom Gesundheitstechnologieunternehmen bereitgestellt X2AI, heute bekannt als Cass, wurde vom Unternehmer Michiel Rauws gegründet und bietet psychologische Beratung per SMS an. Rauws antwortete weder auf Fragen von WIRED zu Tessa und den Ratschlägen zum Abnehmen noch zu Fehlern in den Antworten des Chatbots. Seit heute ist die Tessa-Seite auf der Website des Unternehmens nicht verfügbar.
Thompson sagt, Tessa sei kein Ersatz für die Hotline und der Bot sei seit Februar 2022 eine kostenlose NEDA-Ressource. „Ein Chatbot, selbst ein äußerst intuitives Programm, kann die menschliche Interaktion nicht ersetzen“, sagt Thompson. Aber in einem Update im März sagte NEDA, dass es seine Helpline „abwickeln“ und „beginnen werde, auf den erweiterten Einsatz von KI-gestützter Technologie umzusteigen, um Einzelpersonen und Familien eine moderierte, vollautomatische Ressource, Tessa, zur Verfügung zu stellen“.
Fitzsimmons-Craft sagt auch, dass Tessa als separate Ressource konzipiert wurde und nicht als Ersatz für die menschliche Interaktion. Im September 2020 erzählte sie VERDRAHTET dass die Technologie zur Behandlung von Essstörungen „von Dauer ist“, aber nicht alle von Menschen durchgeführten Behandlungen ersetzen kann.
Aber ohne die Mitarbeiter und Freiwilligen der NEDA-Helpline ist Tessa das interaktive, zugängliche Tool, das an seinem Platz verbleibt – falls und sobald der Zugriff wiederhergestellt ist. Auf die Frage, welche direkten Ressourcen über NEDA weiterhin verfügbar sein werden, nennt Thompson eine neue Website mit mehr Inhalten und Ressourcen sowie persönliche Veranstaltungen. Sie sagt auch, dass NEDA die Leute dorthin leiten wird Krisentextzeileeine gemeinnützige Organisation, die Menschen mit Ressourcen für eine Vielzahl von psychischen Gesundheitsproblemen wie Essstörungen, Angstzuständen und mehr verbindet.
Die Entlassungen bei NEDA erfolgten laut a auch nur wenige Tage, nachdem die kleine Belegschaft der gemeinnützigen Organisation für eine Gewerkschaftsbildung gestimmt hatte Blog Beitrag von einem Mitglied der Einheit, der Helpline Associates United. Sie geben an, dass sie aufgrund des Stellenabbaus eine Klage wegen unlauterer Arbeitspraktiken beim US-amerikanischen National Labour Relations Board eingereicht haben. „Ein Chatbot ist kein Ersatz für menschliches Einfühlungsvermögen, und wir glauben, dass diese Entscheidung der Gemeinschaft der Essstörungen irreparablen Schaden zufügen wird“, sagte die Gewerkschaft in einem Stellungnahme.
WIRED schickte Tessa eine Nachricht, bevor es pausiert wurde, aber der Chatbot erwies sich als zu fehlerhaft, um direkte Ressourcen oder Informationen bereitzustellen. Tessa stellte sich vor und bat mehrmals um die Zustimmung zu den Nutzungsbedingungen. „Mein Hauptanliegen besteht im Moment darin, Sie bei der Arbeit am Body Positive-Programm zu unterstützen“, sagte Tessa. „Ich werde mich melden, wenn es Zeit ist, die nächste Sitzung abzuschließen.“ Auf die Frage, was das Programm sei, antwortete der Chatbot nicht. Am Dienstag wurde eine Nachricht verschickt, dass der Dienst gewartet wird.
Krisen- und Hilfehotlines sind lebenswichtige Ressourcen. Das liegt zum Teil daran, dass der Zugang zu psychiatrischer Versorgung in den USA unerschwinglich ist. Eine Therapiesitzung kann 100 bis 200 US-Dollar oder mehr kosten, und eine stationäre Behandlung von Essstörungen kann mehr als 1.000 US-Dollar pro Tag kosten. Laut einer Studie der Yale University suchen weniger als 30 % der Menschen Hilfe bei Beratern lernen.
Es gibt andere Bemühungen, die Lücke mithilfe von Technologie zu schließen. Fitzsimmons-Craft befürchtet, dass das Tessa-Debakel das größere Ziel in den Schatten stellen wird, Menschen, die keinen Zugang zu klinischen Ressourcen haben, Hilfe durch Chatbots zu verschaffen. „Wir verlieren die Menschen aus den Augen, denen das helfen kann“, sagt sie.
Dieser Artikel wurde ursprünglich am veröffentlicht VERDRAHTET.
Verwandt: