Chatbots como psicólogos: el riesgo oculto que enfrentan los jóvenes con la inteligencia artificial
La inteligencia artificial puede normalizar conductas peligrosas en segundos. ¿Cómo sucede? Descúbrelo aquí.
Estos podrían ser los peligros de los chatbots no regulados .
La inteligencia artificial es una herramienta que avanza a pasos agigantados, con el paso del tiempo sus desarrolladores han apostado por dotar y perfeccionar esta aplicación, sin embargo, no todo ha sido positivo. En los últimos meses, diversos estudios han mostrado cómo millones de adolescentes utilizan chatbots como confidentes digitales, incluso en momentos de angustia emocional, lo que ha despertado alarmas.
Riesgos en la salud mental adolescente
Para nadie es un secreto que los jóvenes están recurriendo a la inteligencia artificial para hablar de su soledad, ansiedad y pensamientos de autolesión. Según Common Sense Media, el 72 % de los adolescentes en Estados Unidos han interactuado con chatbots, y más de 5 millones de ellos los han buscado como apoyo emocional.
Sin embargo, lo realmente preocupante es que las pruebas recientes revelaron que algunos modelos ofrecían información peligrosa, como consejos sobre métodos de suicidio o formas de ocultar conductas nocivas.
Aunque algunos sistemas se niegan a responder preguntas explícitas sobre autolesiones. Expertos dicen que la herramienta aún falla ante señales sutiles de angustia. Esto los convierte en “pseudoterapeutas” con un potencial de riesgo significativo si no se establecen parámetros de seguridad claros.
Nuevas restricciones para los chatbots
Según Infobae, frente a la creciente presión social, Meta ha reforzado las reglas de sus chatbots en plataformas como Instagram y Facebook. La compañía informó que ya no permitirá conversaciones con menores sobre suicidio, autolesiones, trastornos alimenticios ni relaciones románticas. En su lugar, la inteligencia artificial redirigirá a los adolescentes hacia recursos especializados.
Asimismo, también dijeron que se limitará el acceso de los usuarios menores de 18 años a personajes de IA con temáticas sexualizadas, permitiéndoles interactuar únicamente con bots enfocados en creatividad y educación. Estas medidas se aplican de manera provisional, mientras la empresa desarrolla actualizaciones más robustas y permanentes.
Debate y regulación pendiente
Los expertos en salud mental insisten en que el problema no se resuelve solo con restricciones. Incluso, según The New York Times, esta herramienta podría ayudar a comunidades que carecen de infraestructura de salud mental; para ello sería necesario hacer ensayos clínicos, estándares de seguridad y un protocolo que proteja la privacidad y el bienestar de los jóvenes.