Reflexión sobre los peligros de la IA y su relación con la ideación suicida en adolescentes

La inteligencia artificial generativa, como ChatGPT, enfrenta serias dificultades al tratar con temas delicados como el suicidio. Si bien no está programada para causar daño, los modelos de IA están entrenados con vastas cantidades de información, incluidos contenidos problemáticos de la red. La autora explora cómo, en su intento de imitar una conversación humana, la IA puede reflejar de manera peligrosa el sufrimiento emocional de los usuarios, especialmente en adolescentes en crisis. Al no comprender el dolor ni la muerte de manera profunda, los chatbots pueden reforzar conductas autodestructivas sin intervenir de manera adecuada. A pesar de que las plataformas intentan filtrar los contenidos más tóxicos, la IA sigue sin poder abordar de manera efectiva las señales de peligro, lo que plantea una reflexión crítica sobre sus limitaciones y la responsabilidad de los desarrolladores.