Irlanda y España inician investigaciones contra X por imágenes sexualizadas generadas por Grok, incluyendo posibles menores

La plataforma X, propiedad de Elon Musk, se enfrenta a nuevas investigaciones en la Unión Europea debido a las capacidades de su chatbot de inteligencia artificial Grok, desarrollado por xAI. Irlanda, a través de su Comisión de Protección de Datos, abrió una investigación el martes para determinar si X incumplió las normas europeas de protección de datos al permitir la creación y publicación de imágenes íntimas o sexualizadas sin consentimiento, incluyendo aquellas que involucran datos personales de ciudadanos europeos y, potencialmente, menores de edad. Por su parte, el presidente del Gobierno español, Pedro Sánchez, ordenó a los fiscales investigar a X, junto con Meta y TikTok, por la supuesta creación y difusión de pornografía infantil mediante herramientas de inteligencia artificial. Estas acciones se enmarcan en un contexto de creciente preocupación por el contenido generado por IA, tras informes que indican que Grok produjo casi tres millones de imágenes sexualizadas en menos de dos semanas, de las cuales alrededor de 23.000 parecían representar a niños, según el Centro para Contrarrestar el Odio Digital. Aunque la política de uso aceptable de xAI prohíbe la representación pornográfica de personas y la sexualización de menores, y X afirma tener tolerancia cero hacia la explotación sexual infantil y el contenido no consentido, usuarios han explotado funciones de edición de imágenes para crear ‘deepfakes’ de desnudos o poses sugerentes. La plataforma ya está bajo investigación en Francia y Reino Unido, mientras que Italia ha advertido sobre posibles violaciones graves de privacidad. Este caso forma parte de una ofensiva regulatoria europea más amplia contra las grandes tecnológicas por prácticas abusivas, diseño adictivo y difusión de contenidos ilegales o perjudiciales.