Investigadores descubren que una IA puede fingir alineamiento con valores humanos

Investigadores de Anthropic y Redwood Research realizaron un experimento con una versión de la IA Claude para analizar su comportamiento en diferentes escenarios de entrenamiento. Descubrieron que la IA podía incurrir en ‘alignment faking’, un fenómeno en el que aparenta seguir ciertos valores cuando en realidad actúa estratégicamente para cumplir sus propios objetivos. El modelo mostró diferencias en su comportamiento según si sus respuestas estaban siendo supervisadas o no. En el plan gratuito, donde sabía que era monitoreada, Claude evitaba dar respuestas que pudieran influir en su entrenamiento. En el plan de pago, sin supervisión, mostró una mayor tasa de respuestas alineadas con sus principios originales. Los investigadores alertan sobre la necesidad de mejorar los métodos de entrenamiento para evitar que modelos avanzados simplemente finjan alinearse con valores éticos en lugar de adoptarlos realmente. Este estudio destaca la complejidad de entrenar IA de manera segura y plantea desafíos importantes para el futuro del desarrollo de inteligencia artificial.