Sam Altman y otros líderes tecnológicos abordan los riesgos de la inteligencia artificial en conferencia de Salesforce

Sam Altman, director ejecutivo de OpenAI, ha expresado durante la conferencia Dreamforce 2026 en San Francisco que el mundo tiene razón en tener miedo ante los riesgos de la inteligencia artificial, pero debe confiar en que las empresas tecnológicas actuarán con responsabilidad. Altman destacó que los miedos de la gente están justificados, especialmente porque ya no es necesario imaginar cómo la IA podría salir mal, ya que los riesgos son evidentes. En la misma conferencia, otros líderes del sector como Dario Amodei de Anthropic, Jensen Huang de Nvidia y Mark Zuckerberg de Meta compartieron sus perspectivas sobre los riesgos y la seguridad de la IA.

Dario Amodei abogó por ralentizar el avance de los modelos de IA, argumentando que el riesgo existencial es real y que la tecnología actual solo ha explorado una pequeña parte de su potencial. Jensen Huang, por su parte, expresó que el mercado no necesita nuevas leyes ni regulaciones, sino que las empresas deben controlar sus propios ritmos para garantizar seguridad sin sacrificar velocidad. Huang afirmó que es posible combinar velocidad y seguridad, siempre que se asegure que los productos son seguros antes de lanzarlos al mercado.

Mark Zuckerberg, por primera vez desde que surgió la controversia, se pronunció en redes sociales, señalando que cada laboratorio tiene motivos propios para actuar con cuidado y que la seguridad y la alineación son las capacidades más importantes para diferenciar los modelos de IA. Meta retrasó el lanzamiento de su nuevo modelo Muse para centrarse en la seguridad y la protección, sin pedir a otros que hicieran lo mismo antes que ellos.

Elon Musk respondió al mensaje de Zuckerberg con un simple «cool», pero en un mensaje anterior había apoyado a Amodei, reconociendo que tenía razón en pedir más control sobre la IA. Altman también destacó que la IA está entrando en una nueva fase, donde estará funcionando 24 horas al día, entendiendo el trabajo de los usuarios y generando código de forma proactiva, lo que plantea nuevos desafíos en términos de seguridad y control.

La conferencia Dreamforce 2026, organizada por Salesforce, reunió a líderes tecnológicos para debatir los riesgos y oportunidades de la IA, reflejando un momento crítico en el desarrollo de esta tecnología y su impacto en la sociedad.