Die National Eating Disorder Association (NEDA) war gezwungen, ihren Tessa-Chatbot abzuschalten, nachdem dieser „möglicherweise Informationen weitergegeben hat, die schädlich waren und nichts mit dem Programm zu tun hatten“, heißt es in einem Bericht offizieller Social-Media-Beitrag. Vereinfacht ausgedrückt sollte der KI-Chatbot Menschen bei der Bewältigung emotionaler Belastungen helfen, machte die Situation jedoch nur noch schlimmer, indem er Ernährungsratschläge anbot und die Benutzer dazu drängte, sich selbst zu wiegen und zu messen.
Mehrere Benutzer und Experten auf dem Gebiet der Essstörungen haben die Probleme aus erster Hand erlebt und behauptet, dass der Bot nicht auf einfache Aufforderungen wie „Ich hasse meinen Körper“ reagierte und ständig die Bedeutung von Diäten und erhöhter körperlicher Aktivität betonte. wie berichtet von Gizmodo. Auch hier handelt es sich um eine Hotline für Menschen mit einer Essstörung. nicht eine Selbsthilfegruppe zum Abnehmen.
Die Organisation sagt, dass es sich hierbei um eine vorübergehende Schließung handelt, bis alle „Fehler“ und „Auslöser“ behoben sind, die dazu geführt haben, dass der Chatbot gefährliche Informationen wie einen Termin bei Dr. Oz weitergegeben hat. Man könnte meinen, dass sie bei solch einem extremen Ergebnis darüber nachdenken würden, das Projekt komplett zu verwerfen, aber die Geschichte hat noch mehr zu bieten.
Der ganze Grund, warum NEDA sich überhaupt auf den Chatbot verlassen hat, liegt darin, dass er angeblich menschliche Mitarbeiter entlassen hat, nachdem sie versucht hatten, sich gewerkschaftlich zu organisieren. wie ursprünglich berichtet von Vize. Der langjährige telefonische Hotline war sowohl mit bezahlten Mitarbeitern als auch mit Freiwilligen besetzt, und ehemalige Mitarbeiter behaupten, die Massenentlassungen seien eine direkte Folge der gewerkschaftsfreundlichen Bemühungen gewesen.
„NEDA behauptet, dass dies eine seit langem erwartete Änderung sei und dass KI Menschen mit Essstörungen besser helfen könne. Aber lassen Sie sich nicht täuschen – hier geht es nicht wirklich um einen Chatbot. Hier geht es schlicht und einfach um die Zerschlagung von Gewerkschaften“, sagte ein ehemaliger Helpline-Mitarbeiter schrieb Abbie Harper in einem Blogbeitrag An Arbeitsnotizen.
Trotz dieser jüngsten Panne wird die Hotline morgen immer noch verschwinden. Bevor dieses Problem in die Öffentlichkeit gelangte, hatte NEDA unbezahlte Freiwillige von Einzelgesprächen mit Betroffenen auf die Schulung des Chatbots umgestellt. Wir werden sehen, ob sich das ändert. In der Zwischenzeit werden Gewerkschaftsaktivisten Pleite gehen, habe ich recht?