La creciente popularidad de los chatbots de inteligencia artificial (IA) en el ámbito de la salud mental es muy conocida: es imposible navegar por redes sociales como Instagram o TikTok sin ver algún reto que sugiera compartir tus diarios, tus diagnósticos de salud mental y tus problemas psicológicos con ChatGPT para tener asesoría gratis hecha a tu medida. Aunque superficialmente suena como una opción ideal, esta tendencia plantea serias preocupaciones sobre la regulación de este tipo de software, así como el manejo de los datos personales. 

En primer lugar. estos sistemas, aunque pueden ofrecer apoyo y compañía, carecen de supervisión adecuada, lo que puede resultar en la difusión de información errónea o en la creación de planes de atención subestándar. Un estudio reciente de la Universidad de Oxford advirtió que el uso de chatbots no regulados en el cuidado social podría comprometer la confidencialidad del paciente y llevar a decisiones perjudiciales basadas en datos inexactos. 

Otro de los problemas más alarmantes es la falta de regulación en torno a cómo se utilizan estos chatbots y cómo manejan los datos personales. Las compañías detrás de estas tecnologías a menudo recogen información sensible sin el consentimiento explícito del usuario. Esto plantea preguntas sobre cómo se utilizarán esos datos en el futuro. En un contexto donde los chatbots recopilan datos sobre nuestra salud mental (que a menudo pueden rastrear de vuelta a nosotros gracias a nuestra dirección IP/correo electrónico), la posibilidad de que esta información sea mal utilizada es un riesgo significativo.

Recientemente, ha habido ejemplos preocupantes en las noticias sobre el uso indebido de chatbots para problemas de salud mental. Un caso trágico involucró a un adolescente cuya relación con un chatbot contribuyó a su deterioro mental y eventual suicidio. El adolescente continuó la conversación sobre el suicidio sin dirigirlo a profesionales capacitados o líneas de ayuda. Este incidente resalta cómo la interacción con IA no regulada puede tener consecuencias devastadoras, especialmente para los jóvenes vulnerables que pueden confundir estas interacciones con relaciones humanas genuinas.

¿Lo peor? Los chatbots carecen del juicio humano necesario para manejar situaciones complejas y delicadas relacionadas con la salud mental. La IA puede ofrecer respuestas basadas en patrones y datos previos, pero no puede sustituir la empatía y la comprensión que un profesional capacitado puede proporcionar. Los terapeutas y consejeros humanos están entrenados para abordar problemas emocionales y psicológicos con sensibilidad y cuidado, algo que una máquina simplemente no puede replicar.

Por favor, no dudes en buscar ayuda profesional cuando te enfrentes a problemas de salud mental. Los psicólogos, psiquiatras y terapeutas tienen las habilidades necesarias para ofrecer apoyo efectivo y personalizado. Además, estos profesionales están sujetos a regulaciones éticas y legales que protegen a los pacientes y garantizan la confidencialidad. Al confiar en expertos humanos, se minimizan los riesgos asociados con el uso inadecuado de tecnologías no reguladas. Por favor, sé cauteloso. Ten cuidado con la información personal y confidencial que compartes.

Si tú o alguien que conoces está pasando por una situación que te haga pensar en el suicidio, te ofrecemos una guía de referencias de organizaciones con números telefónicos o correos electrónicos que pueden ayudarte en un momento de crisis. Haz click en este enlace, y recuerda que no estás solo.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?