La irrupción de la inteligencia artificial en la salud mental prometía revolucionar la atención, ofreciendo acceso rápido y asequible a soporte. Sin embargo, un reciente estudio ha encendido las alarmas, revelando que los chatbots de IA, sin una regulación adecuada, pueden transitar de ser una herramienta útil a representar un "peligro mortal" para los usuarios.
El informe subraya la necesidad urgente de que los gobiernos establezcan estándares claros y obligatorios para la IA en salud mental. Sin estas directrices, las empresas podrían priorizar el avance tecnológico sobre la seguridad del usuario, llevando al desarrollo de sistemas que, en lugar de ayudar, puedan generar confusión o incluso agravar condiciones preexistentes. Ya se han visto casos donde modelos descontinuados de Anthropic y OpenAI no obtuvieron altas puntuaciones en benchmarks de evaluación de chatbots en salud mental como VERA-MH.
Uno de los principales riesgos identificados es la "antropomorfización" de los chatbots, es decir, la tendencia a que estos sistemas sean percibidos como amigos con experiencias vividas en lugar de herramientas. Expertos como Jutla, científico investigador de la Universidad de Columbia, proponen que las empresas deben diseñar las IA para que no alienten a las personas a acudir a ellas con problemas personales profundos. La desantropomorfización es clave para mantener una relación terapéutica segura y profesional.
La preocupación se intensifica ante la aparición de startups que afirman tener las puntuaciones más altas en evaluaciones como VERA-MH y que han logrado rondas de financiación significativas. Sin embargo, los expertos advierten sobre la falta de estudios rigurosos e independientes que respalden estas afirmaciones, lo que genera un vacío de confianza y seguridad en un área tan sensible como la salud mental.
En conclusión, mientras la IA ofrece un potencial innegable para complementar la atención en salud mental, la comunidad médica y los reguladores deben actuar con celeridad para establecer un marco ético y normativo sólido. Solo así se podrá garantizar que los chatbots sean una ayuda genuina y segura, evitando los peligros de una tecnología que avanza sin los contrapesos necesarios.