Elon Musk restringe Grok tras el aumento de imágenes sexuales generadas sin consentimiento

Elon Musk, propietario de X (antes Twitter) y de la inteligencia artificial Grok, ha decidido limitar las funciones de creación y edición de imágenes de esta aplicación tras el incremento de denuncias por la difusión de material sexual y violento no consentido, en especial de mujeres y niñas. La medida llega después de la presión de gobiernos europeos —entre ellos el español—, que instaron a investigar posibles delitos relacionados con la difusión de pornografía y violencia sexual mediante la IA. Musk anunció en X que solo los usuarios identificados con cuentas de pago podrán seguir utilizando estas herramientas, asegurando que la responsabilidad del uso ilegal recae exclusivamente en los usuarios, no en la plataforma. Sin embargo, expertos como Ricard Martínez, de la Universidad de Valencia, cuestionan esa postura y señalan que las plataformas digitales también tienen la obligación legal de detectar y evitar de forma proactiva la creación y publicación de estos contenidos ilícitos. La polémica surge en un contexto en el que las IA generativas están facilitando la creación de imágenes falsas de carácter sexual con consecuencias graves para las víctimas, que ven vulnerados sus derechos a la intimidad, el honor y la propia imagen. Además, estas prácticas pueden alimentar delitos de extorsión digital o ‘sextorsión’, fenómeno en auge según la empresa de ciberseguridad Kaspersky. Académicos como Mary Anne Franks advierten que las mujeres son las principales afectadas y que la falta de control y regulación de las IAs generativas puede tener repercusiones sociales y políticas a gran escala.