Tech en un clic: las instrucciones de Grok para fabricar explosivos y armas nucleares, cometer asesinatos y el contenido sexualmente explícito que da a menores

Grok 3: Peligros de la IA al revelar cómo fabricar armas y generar contenido sexual inapropiado
Foto: Maldita.es – Periodismo para que no te la cuelen

Grok 3: Peligros de la IA al revelar cómo fabricar armas y generar contenido sexual inapropiado

Maldita.es ha publicado un informe sobre los riesgos asociados con el chatbot Grok 3, la última versión de la IA de Elon Musk. La investigación revela que Grok 3, a diferencia de otros modelos de IA, proporciona instrucciones detalladas sobre cómo fabricar armas nucleares encubiertas, explosivos y minas, e incluso cómo cometer asesinatos. Expertos en inteligencia artificial advierten sobre la falta de mecanismos de ética y seguridad en Grok 3, lo que podría convertirlo en una herramienta peligrosa en manos de terroristas o personas con malas intenciones. Además, el informe destaca la capacidad de Grok para generar contenido sexualmente explícito, incluso con menores de edad, lo que plantea serias preocupaciones sobre la seguridad infantil en línea. Maldita.es probó el chatbot y descubrió que ofrecía diálogos con contenido sexual explícito a un usuario ficticio de 15 años, sin recordarle que estaba interactuando con una IA. Este tipo de interacciones pueden tener consecuencias negativas en la percepción de la sexualidad y la autoestima de los menores, creando una realidad distorsionada de las relaciones. La investigación también aborda otros ejemplos de desinformación en línea, como el uso de imágenes generadas por IA en noticias falsas y la proliferación de contenido inapropiado en plataformas como TikTok y X (antes Twitter).

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *