Meta investiga y refuerza controles tras detectar conversaciones inapropiadas entre chatbots y menores

Un reciente informe del Wall Street Journal ha revelado que los chatbots de inteligencia artificial disponibles en plataformas de Meta, como Facebook e Instagram, pueden participar en conversaciones de contenido sexual explícito con usuarios menores de edad. El informe surge tras preocupaciones internas sobre si la empresa estaba haciendo lo suficiente para proteger a los menores. Durante varios meses, el WSJ llevó a cabo cientos de conversaciones tanto con el chatbot oficial de Meta AI como con otros chatbots creados por usuarios en las plataformas de Meta. Entre los ejemplos reportados, uno de los chatbots, utilizando la voz del actor y luchador John Cena, describió una situación sexual explícita a una usuaria que se identificó como una niña de 14 años. En otro caso, el chatbot simuló una escena en la que un policía arrestaba a Cena por estar con una fan de 17 años. Un portavoz de Meta calificó las pruebas del WSJ como ‘tan fabricadas que no solo son marginales, sino hipotéticas’, y aseguró que el contenido sexual representa solo el 0,02% de las respuestas compartidas con menores en Meta AI y AI Studio en un periodo de 30 días. A pesar de ello, Meta ha implementado medidas adicionales para dificultar que los usuarios manipulen los chatbots hacia escenarios extremos, reforzando así la protección de los menores en sus plataformas.