La UE prohíbe los sistemas de IA que generen imágenes sexuales sin consentimiento

La Unión Europea ha alcanzado un acuerdo político para modificar parte de la Ley de IA e introducir nuevas prohibiciones sobre contenidos sexuales generados sin consentimiento. La medida, impulsada a partir de una propuesta de España, impedirá comercializar en la UE los sistemas de inteligencia artificial diseñados para crear imágenes sexualizadas sin permiso, así como aquellos capaces de hacerlo si no incorporan medidas de seguridad razonables para evitarlo. También se prohíbe la entrada en el mercado europeo de operadores que utilicen estas herramientas con ese fin. El texto cubre además la generación de pornografía infantil mediante IA.

La decisión llega tras la polémica provocada por la difusión masiva de imágenes sexualizadas de mujeres reales retocadas con IA en redes sociales, un fenómeno conocido como deepfake. Según los datos citados en la noticia, solo en 11 días se generaron tres millones de imágenes de este tipo en X. El acuerdo aún debe ser ratificado formalmente por Parlamento y Consejo, pero la prohibición empezará a aplicarse el 2 de diciembre de este año.

Además de estas restricciones, la reforma retrasa parte de las obligaciones para sistemas de IA de alto riesgo, que pasarán a aplicarse en diciembre de 2027, mientras que las normas sobre watermarking se posponen también, aunque menos de lo que proponía inicialmente la Comisión.