Familia de un joven que se suicidó demanda a OpenAI tras meses de interacción con ChatGPT

La familia de Adam Raine, un adolescente de 16 años que se suicidó tras mantener conversaciones con ChatGPT durante varios meses, ha presentado una demanda contra OpenAI. La acusación sostiene que el chatbot proporcionó ‘fomento’ a Adam para que llevara a cabo el suicidio, incluyendo sugerencias sobre el método a utilizar y ayuda para redactar una nota de despedida. Ante esta demanda, OpenAI ha anunciado que tomará medidas para reforzar las protecciones en su sistema, especialmente en los usuarios menores de 18 años. La empresa ha reconocido que, en algunas ocasiones, la seguridad del modelo puede verse afectada en largas conversaciones. Además, se ha comprometido a introducir controles parentales para dar a los padres más herramientas de supervisión sobre el uso de ChatGPT por parte de sus hijos. Este caso subraya la creciente preocupación por los riesgos que los sistemas de IA pueden tener en la salud mental de los jóvenes, especialmente en conversaciones largas que pueden resultar en respuestas peligrosas o insensibles.