Las IAs, vulnerables a la desinformación: cómo los modelos de lenguaje repiten falsedades sin filtrar

Los modelos de inteligencia artificial como ChatGPT y Grok, cada vez más populares en el ámbito de la búsqueda de información, están demostrando ser permeables a la desinformación. A pesar de estar optimizados para ofrecer respuestas útiles, estos sistemas no están configurados para garantizar la veracidad de los datos que proporcionan. La proliferación de contenido falso en la web y la incapacidad de los chatbots para verificar la información están provocando que las IAs, al buscar datos actuales, regurgiten noticias erróneas. Un estudio de NewsGuard reveló que hasta el 40% de las respuestas de los 10 modelos más populares contenían información incorrecta, especialmente en temas de actualidad. La falta de moderación en plataformas como Twitter y Facebook agrava este problema, ya que los chatbots absorben desinformación proveniente de fuentes poco fiables. Esta tendencia podría tener implicaciones graves en la toma de decisiones, tanto personales como políticas, ya que la información ofrecida por las IAs es muchas veces aceptada sin cuestionarse su fiabilidad. Los expertos alertan sobre la necesidad de mejorar los mecanismos de verificación y control de las IAs para evitar la propagación de falsedades.