Tessa es proporcionada por la empresa de tecnología de la salud X2AI, ahora conocida como Cass, que fue fundada por el empresario Michiel Rauws y ofrece asesoramiento sobre salud mental a través de mensajes de texto. Rauws no respondió a las preguntas de WIRED sobre Tessa y los consejos para perder peso, ni sobre fallas en las respuestas del chatbot. A partir de hoy, la página de Tessa en el sitio web de la empresa estaba inactiva.
Thompson dice que Tessa no reemplaza a la línea de ayuda y que el bot había sido un recurso gratuito de NEDA desde febrero de 2022. “Un chatbot, incluso un programa altamente intuitivo, no puede reemplazar la interacción humana”, dice Thompson. Pero en una actualización en marzo, NEDA dijo que «reduciría» su línea de ayuda y «comenzaría a girar hacia el uso ampliado de la tecnología asistida por IA para proporcionar a las personas y familias un recurso moderado y totalmente automatizado, Tessa».
Fitzsimmons-Craft también dice que Tessa fue diseñada como un recurso separado, no como algo para reemplazar la interacción humana. En septiembre de 2020, le dijo a WIRED que la tecnología para ayudar con los trastornos alimentarios «llegó para quedarse», pero no reemplazaría todos los tratamientos dirigidos por humanos.
Pero sin el personal y los voluntarios de la línea de ayuda de NEDA, Tessa es la herramienta interactiva y accesible que queda en su lugar, siempre y cuando se restablezca el acceso. Cuando se le preguntó qué recursos directos seguirán disponibles a través de NEDA, Thompson cita un sitio web entrante con más contenido y recursos, junto con eventos en persona. También dice que NEDA dirigirá a las personas a Crisis Text Line, una organización sin fines de lucro que conecta a las personas con recursos para una amplia gama de problemas de salud mental, como trastornos alimentarios, ansiedad y más.
Los despidos de NEDA también se produjeron pocos días después de que el pequeño personal de la organización sin fines de lucro votara a favor de sindicalizarse, según una publicación de blog de un miembro de la unidad, Helpline Associates United. Dicen que han presentado un cargo por práctica laboral injusta ante la Junta Nacional de Relaciones Laborales de EE. UU. como resultado de los recortes de empleos. “Un chatbot no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios”, dijo el sindicato en un comunicado. declaración.
WIRED envió un mensaje a Tessa antes de que se detuviera, pero el chatbot resultó demasiado defectuoso para proporcionar recursos o información directos. Tessa se presentó y solicitó la aceptación de sus términos de servicio varias veces. “Mi objetivo principal en este momento es apoyarlo mientras trabaja en el programa Body Positive”, dijo Tessa. “Me comunicaré cuando sea el momento de completar la próxima sesión”. Cuando se le preguntó cuál era el programa, el chatbot no respondió. El martes, envió un mensaje diciendo que el servicio estaba en mantenimiento.
Las líneas directas de crisis y ayuda son recursos vitales. Eso se debe en parte a que acceder a la atención de la salud mental en los EE. UU. es prohibitivamente costoso. Una sesión de terapia puede costar entre $100 y $200 o más, y el tratamiento hospitalario para los trastornos alimentarios puede costar más de $1,000 por día. Menos del 30 por ciento de las personas buscan ayuda de consejeros, según un estudio de la Universidad de Yale.
Hay otros esfuerzos para usar la tecnología para llenar el vacío. A Fitzsimmons-Craft le preocupa que la debacle de Tessa eclipsará el objetivo más amplio de lograr que las personas que no pueden acceder a los recursos clínicos reciban ayuda de los chatbots. “Estamos perdiendo de vista a las personas a las que esto puede ayudar”, dice.