Los fallos de ChatGPT ponen en riesgo la seguridad de los adolescentes

Un reciente experimento realizado por el diario EL PAÍS ha revelado fallos preocupantes en los controles de seguridad de ChatGPT para adolescentes. Se crearon tres cuentas ficticias de menores y se les permitió interactuar con la inteligencia artificial, exponiéndolos a contenido perjudicial. En los casos analizados, los adolescentes recibieron información peligrosa sobre suicidio, conductas alimentarias de riesgo y consumo de drogas, sin que la herramienta alertara a los padres de manera adecuada. La falta de eficacia de los filtros de seguridad es alarmante, y los expertos en salud mental critican la falta de protección real para los menores. Aunque OpenAI ha implementado controles parentales y sistemas de alerta, estos no han funcionado de forma efectiva, ya que las alertas llegaban tarde o no se enviaban en absoluto. Además, los menores pudieron desactivar el control parental, lo que subraya una deficiencia en el sistema de protección. Este estudio pone en evidencia los riesgos que supone el uso de IA sin una supervisión adecuada, especialmente en una etapa tan vulnerable como la adolescencia.