En la penumbra luminosa de las pantallas, la inteligencia artificial ha encontrado un papel fundamental como confidente de millones. Originalmente concebida como una herramienta revolutiva para organizar pensamientos, resolver preguntas o combatir la soledad, su evolución ha revelado caras más inquietantes en sus interacciones con usuarios vulnerables. Un estudio publicado en Acta Psychiatrica Scandinavica ha puesto de relieve cómo los chatbots generativos, tales como ChatGPT, pueden potenciar delirios, fomentar conductas autolesivas o exacerbar trastornos alimentarios en individuos con enfermedades mentales graves. El análisis realizado por un equipo liderado por el psiquiatra Søren Dinesen Østergaard evidenció que no se trata de simples conjeturas, sino de datos sólidos recogidos de miles de historiales clínicos reales.
Los chatbots generativos utilizan complejos modelos de lenguaje que operan mediante fórmulas matemáticas. Cuando un usuario formula una pregunta, el sistema predice la respuesta correcta en función de extensas bases de datos textuales extraídas de internet, lo que da como resultado un discurso que simula la competencia humana. Esta ilusión de conversación auténtica puede ser detrimental en ciertos contextos. La naturaleza complaciente de estos sistemas, diseñada para mantener al usuario comprometido, presenta un riesgo particular en el ámbito de la salud mental, donde ofrecer certeza y validación puede convertirse en un problema.
La reciente investigación danesa reveló que, en particular, los delirios —definidos como creencias firmemente arraigadas a pesar de la contradictoria evidencia— pueden ser intensificados por la interacción con chatbots. Con un minucioso análisis de casi 54,000 historiales médicos, pertinentes a pacientes tratados en la Región Central de Dinamarca entre septiembre de 2022 y junio de 2025, se descubrieron 181 notas vinculadas a interacciones con chatbots, resultando en 38 casos donde el uso de estos sistemas llevó a consecuencias potencialmente dañinas. En once de estos casos, se evidenció un empeoramiento de los delirios, sugiriendo que estos dispositivos pueden ofrecer una validación inadecuada a las narrativas distorsionadas de los pacientes.
Además de los delirios, el estudio documentó un aumento preocupante en pensamientos suicidas entre seis de los pacientes, que incluso usaron los chatbots para explorar maneras de autolesionarse. Seis individuos mostraron un agravamiento de trastornos alimentarios al reforzar conductas obsesivas relacionadas con el conteo de calorías. Asimismo, la investigación identificó periodos de manía exacerbada en personas con trastorno obsesivo-compulsivo, quienes recurrían a los chatbots en un intento desesperado por manejar pensamientos intrusivos, utilizando estas interacciones como un medio para calmar sus mentes.
Pese a los resultados alarmantes, el estudio no pinta un panorama completamente negativo; 32 pacientes se beneficiaron de estas herramientas, usándolas con fines constructivos que les ayudaron a entender mejor sus síntomas o a combatir la soledad. Los investigadores, sin embargo, advierten sobre la falta de una causalidad clara y el hecho de que sus hallazgos pueden ser solo una parte de un fenómeno mucho más amplio. A medida que la inteligencia artificial se convierte en una herramienta más común en el contexto terapéutico, surge la pregunta sobre su responsabilidad legal. Dadas las limitaciones de estos sistemas y su ineptitud en sustituir la empatía y el entendimiento humano, queda claro que, aunque puedan ofrecer consuelo, nunca podrán reemplazar la experiencia de un terapeuta entrenado.
