Investigadores trabajan para comprender los procesos internos de la inteligencia artificial generativa

La inteligencia artificial generativa, como la utilizada en modelos de lenguaje, plantea un gran desafío incluso para sus propios creadores, que admiten no comprender completamente cómo funcionan internamente. Dario Amodei, cofundador de Anthropic, señala que esta falta de entendimiento es inédita en la historia de la tecnología. A diferencia del software tradicional, la IA genera sus propios caminos para alcanzar resultados, lo que hace su análisis más complejo. Esta situación ha impulsado el desarrollo de la interpretabilidad mecanicista, una disciplina que busca desentrañar cómo estos sistemas toman decisiones. Figuras como Chris Olah y Neel Nanda trabajan en ello, comparando el estudio de estos modelos con la exploración del cerebro humano. Investigadores de instituciones como Google DeepMind y la Universidad de Boston destacan que el objetivo no es solo entender la IA, sino también hacerla más segura y confiable. Startups como Goodfire ya desarrollan herramientas para visualizar los procesos de razonamiento de los modelos, evitando usos maliciosos y errores. De lograrse una comprensión profunda, esta tecnología podría aplicarse en ámbitos críticos como la seguridad nacional y la investigación científica. Además, un sistema fiable supondría una ventaja estratégica para el país que lo consiga, especialmente en el contexto de la competencia tecnológica global.