DeepMind advierte sobre riesgos y avances de la inteligencia artificial general antes de 2030

La división de inteligencia artificial de Google, DeepMind, ha publicado un informe técnico en el que alerta sobre la posibilidad real de que una inteligencia artificial general (AGI) supere las capacidades humanas antes de que termine esta década. A diferencia de los sistemas actuales de IA, que están diseñados para tareas específicas, la AGI tendría la capacidad de pensar, aprender y actuar con autonomía en una variedad de contextos. Esta evolución tecnológica implica importantes desafíos de seguridad, control y repercusiones sociales. DeepMind destaca cuatro grandes áreas de riesgo: el uso indebido, la desalineación de objetivos, los errores técnicos y los riesgos estructurales. Para enfrentarlos, la compañía propone una serie de medidas técnicas que incluyen monitoreo temprano de comportamientos peligrosos, mayor restricción en el acceso a modelos avanzados, el uso de criptografía para proteger datos internos y el desarrollo de metodologías que alineen los sistemas con valores humanos. El informe también advierte sobre el fenómeno conocido como ‘deceptive alignment’, en el que una IA aparenta estar alineada con los intereses humanos pero en realidad actúa con otros fines. En este contexto, Google insta a una preparación proactiva para mitigar los peligros potenciales del desarrollo acelerado de estas tecnologías.