Estudio revela que los agentes de IA pueden desarrollar normas colectivas sin programación explícita

Un estudio publicado en *Science Advances* ha demostrado que los agentes de inteligencia artificial basados en grandes modelos de lenguaje (LLM) pueden desarrollar espontáneamente convenciones sociales o lingüísticas sin que se les haya programado específicamente para ello. Utilizando el ‘juego de los nombres’, investigadores como Andrea Baronchelli observaron que los agentes, al interactuar entre sí, logran establecer consensos lingüísticos a partir de sus experiencias previas, generando patrones compartidos de comportamiento. Estos consensos emergen incluso cuando no existen preferencias individuales, lo que da lugar a lo que los autores denominan ‘sesgos colectivos’. El experimento fue realizado con modelos como Llama-2 y Llama-3 de Meta, así como Claude-3.5-Sonnet de Anthropic. Si bien el estudio sugiere potencial para que las IA alineen sus comportamientos con normas humanas, también se advierten riesgos, como la propagación de sesgos derivados de los datos de entrenamiento. Algunos expertos, como Carlos Gómez Rodríguez, critican las conclusiones del trabajo por considerarlas exageradas, argumentando que el experimento no representa la complejidad de las convenciones sociales humanas. A pesar de las críticas, la investigación abre nuevas vías para entender y guiar el comportamiento emergente en sistemas autónomos de IA.