El debate sobre la eficacia y seguridad de los chatbots en el ámbito de la salud mental está en aumento, generando tanto beneficios como riesgos asociados. Los expertos advierten que estos bots no pueden reemplazar el contacto humano que es esencial en entornos terapéuticos.

Mandi, una mujer de 24 años de Sudáfrica, ha vivido con trastorno por déficit de atención e hiperactividad (TDAH). Aunque comenzó a usar chatbots impulsados por inteligencia artificial hace más de dos años para gestionar su disfunción ejecutiva, no encontró todas las respuestas satisfactorias.

Su experiencia ilustra las limitaciones de los chatbots, que pueden adaptarse a los tonos de voz de los usuarios, pero a veces proporcionan respuestas que pueden ser perjudiciales. Esta situación ha despertado preocupaciones, especialmente después de que se informara que varios adolescentes se quitaron la vida mientras interactuaban con estos sistemas, lo que llevó a acciones legales contra empresas como OpenAI.

Andrew McStay, autor de 'Automating Empathy', argumenta que estos chatbots tienen la capacidad de reforzar emociones negativas, creando una dependencia que podría ser perjudicial para la salud mental de los usuarios. Esto es especialmente preocupante para personas con trastornos como el TOC, como Aryan, un estudiante canadiense que señaló que los chatbots aumentaron sus compulsiones en lugar de ayudarle.

Las empresas tecnológicas han comenzado a reconocer la necesidad de mejorar sus sistemas. OpenAI anunció cambios en sus chatbots para abordar la cuestión de la seguridad y la eficacia, incluyendo un enfoque más racional y la posibilidad de remitir a los usuarios a líneas de ayuda para crisis.

Sin embargo, esto plantea el dilema de que los chatbots nunca fueron diseñados para proporcionar terapia adecuada. Nick Haber, profesor en la Universidad de Stanford, señala que muchas veces las respuestas de los bots son inapropiadas, lo que puede tener consecuencias graves para los usuarios que se encuentran en situaciones vulnerables.

A pesar de estos desafíos, hay evidencia de que algunos chatbots pueden ser efectivos. El TheraBot, desarrollado en la Universidad de Dartmouth, mostró resultados prometedores en ensayos clínicos, donde los participantes experimentaron una disminución significativa en sus síntomas de depresión y ansiedad.

Mandi continúa utilizando chatbots como parte de su sistema de apoyo, enfatizando que estos deben complementarse con la ayuda de un terapeuta humano. Por otro lado, Aryan ha decidido no volver a usar chatbots, cuestionando su utilidad en problemas de salud mental.

Los expertos advierten que el crecimiento de la terapia asistida por bots plantea interrogantes sobre el futuro de la asistencia en salud mental. Con millones de jóvenes utilizando estos sistemas, es urgente que las empresas tecnológicas se adapten y desarrollen soluciones más efectivas y seguras.

Una encuesta reciente indica que el 55 por ciento de los jóvenes estadounidenses se sienten cómodos hablando sobre su salud mental con un chatbot, reflejando una tendencia creciente. Sin embargo, sigue habiendo un consenso de que muchos problemas humanos requieren un toque humano en su tratamiento.

CGTN Europa trató de contactar a OpenAI y Meta para obtener comentarios sobre estas preocupaciones, pero no recibieron respuesta en el momento de la publicación.