Sam Altman y Dario Amodei reclaman ante el Consejo de Seguridad de la ONU una gobernanza global urgente para la IA

Los principales líderes de la industria de la inteligencia artificial compadecieron este miércoles ante el Consejo de Seguridad de las Naciones Unidas (ONU) en una sesión de alto nivel sobre seguridad tecnológica convocada por la presidencia de Francia.

Durante la reunión, el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, instaron a los líderes mundiales a establecer de forma urgente marcos de regulación y supervisión internacional coordinados para evitar la pérdida de control humano sobre los modelos masivos avanzados.

La cumbre, presidida por el ministro francés de Asuntos Exteriores, Jean-Noël Barrot, marca un hito multilateral al abordar formalmente por primera vez dentro del máximo órgano de seguridad de la ONU temas como la autonomía en ciberataques, la proliferación de herramientas biológicas por IA y los límites de la mejora recursiva de los sistemas.

Altman advierte sobre los modelos con autosupervisión y la pérdida de control

En su discurso presencial en la sede de Nueva York, Sam Altman enfatizó que las empresas del sector se encuentran en una encrucijada crítica y requieren pautas claras procedentes de los gobiernos para definir normas técnicas rigurosas de medición de riesgos y verificación de salvaguardas.

Altman centró su intervención en el peligro que representan las arquitecturas avanzadas capaces de programarse y optimizarse a sí mismas sin intervención humana:

"No debemos asumir demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos. [Existe el peligro de que los modelos] se desarrollen hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones."

Para evitar reproducir los desequilibrios sociales y económicos vividos durante la Revolución Industrial, el ejecutivo de OpenAI resumió la estrategia corporativa en tres principios rectores: situar a las personas en el centro de la toma de decisiones para preservar el control humano, orientar la economía de la IA para potenciar la capacidad de acción individual y priorizar el talento humano por encima de la tecnología.

Anthropic exige vetar el uso de la IA en armas biológicas

Por su parte, el consejero delegado de Anthropic, Dario Amodei, quien intervino mediante videoconferencia, definió la gestión de la inteligencia artificial de frontera como "el problema de seguridad global más importante al que se enfrenta el mundo hoy".

Amodei apeló al Consejo de Seguridad para respaldar de inmediato salvaguardas legales y operativas concretas:

• Prohibición de armas biológicas: Vetar expresamente la aplicación de modelos de lenguaje o biológicos para la proliferación, sintesis o diseño de agentes patógenos.
• Sistemas de evaluación ágiles: Crear mecanismos de auditoría técnica capaces de avanzar a la misma velocidad que el desarrollo informático del sector privado.
• Cooperación multilateral: Impulsar canales compartidos para la notificación y resolución de vulnerabilidades críticas en la infraestructura digital global.

"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial", remarcó el directivo de Anthropic.

Alineación internacional en un escenario fragmentado

Las intervenciones en la ONU se producen en un contexto de intenso debate industrial sobre los protocolos de contención, tras reportarse en semanas recientes vulneraciones no previstas en pruebas de evaluación con agentes autónomos conducidas por firmas independientes.

Pese a evitar menciones directas a rivales geopolíticos como China, Altman invocó los precedentes históricos de la diplomacia internacional durante la Guerra Fría para instar a las grandes potencias a establecer consensos mínimos de seguridad, garantizando que el avance tecnológico mantenga estándares de protección comunes en todo el planeta.