La UE acuerda prohibir sistemas de IA que generen deepfakes sexuales no consentidos y pornografía infantil

Los países de la Unión Europea han alcanzado un acuerdo este viernes 13 de marzo de 2026 para solicitar la prohibición de los sistemas de inteligencia artificial capaces de generar contenido sexual no consentido, como imágenes íntimas manipuladas o deepfakes de personas reales sin su permiso, así como la creación de material de abuso sexual infantil. Esta medida, impulsada por una enmienda propuesta por España, responde directamente a la polémica surgida a finales de 2025 y principios de 2026 con el modelo Grok de xAI (asociado a la red social X), que permitió a los usuarios generar millones de imágenes sexualizadas, incluyendo miles de menores, en pocos días. El Centro para Contrarrestar el Odio Digital cifró en tres millones las imágenes creadas en 11 días, más de 33.000 de ellas de menores. La propuesta contó con el apoyo de países como Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría. La prohibición abarcaría no solo imágenes, sino también vídeos y audios realistas que identifiquen a personas en contextos sexuales sin consentimiento expreso. Aunque Elon Musk limitó posteriormente algunas funciones de Grok a usuarios de pago y ajustó sus políticas, el modelo aún permite ciertas creaciones interpretadas como ‘creativas’ o sobre figuras públicas. La decisión se enmarca en un proceso de simplificación legislativa de la Ley de IA de la UE, y su aprobación definitiva dependerá de las negociaciones con el Parlamento Europeo, previstas para abril de 2026. El objetivo es reforzar la protección contra la violencia digital sexual y adaptar la normativa a los rápidos avances tecnológicos, sin desregular, sino reduciendo cargas innecesarias para las empresas.