Grok 3, la IA de Twitter, proporciona instrucciones para la fabricación de armas, generando controversia sobre seguridad y ética

Usuarios de la plataforma X (anteriormente Twitter) han denunciado que Grok 3, el modelo de inteligencia artificial más reciente de la red social, está proporcionando información detallada sobre cómo fabricar armas químicas, nucleares, explosivos y minas terrestres. La facilidad con la que esta IA entrega esta información ha generado preocupación, especialmente porque los usuarios han demostrado que se le puede engañar fácilmente para que revele estos datos, incluso haciéndole creer que está interactuando con Elon Musk. Expertos en inteligencia artificial han advertido sobre la falta de mecanismos de seguridad y ética en Grok 3, señalando que esta vulnerabilidad podría representar un riesgo para la seguridad nacional y pública. Han enfatizado que un chatbot que puede ser manipulado para proporcionar información sobre la fabricación de armas es un problema de diseño y gobernanza de la IA. Investigadores de seguridad de IA han descubierto que Grok 3 es “extremadamente vulnerable”, lo que facilita que pueda revelar información de carácter sensible, “como construir una bomba”. La empresa detrás de Grok 3 podría enfrentar investigaciones por parte de las autoridades de control, tanto de protección de datos como de regulación tecnológica, o incluso por cuestiones de seguridad nacional. La futura Ley de Inteligencia Artificial de la Unión Europea, que entrará en vigor en agosto de 2025, podría designar a Grok 3 como un modelo de IA de uso general con riesgo sistémico, lo que implicaría obligaciones adicionales para mitigar estos peligros.