Sam Altman expondrá sobre riesgos de la IA y seguridad internacional ante el Consejo de Seguridad de la ONU

El CEO de OpenAI, Sam Altman, comparecerá de forma presencial ante el Consejo de Seguridad de las Naciones Unidas en Nueva York durante la sesión de alto nivel de la Asamblea General del organismo. La reunión abierta abordará de forma prioritaria el impacto de la inteligencia artificial en la estabilidad y la seguridad internacional.

Un portavoz de OpenAI confirmó que la intervención del ejecutivo se centrará en la urgencia de establecer mecanismos de coordinación internacional, la fijación de estándares globales de seguridad técnica y las medidas operativas necesarias para garantizar que los beneficios de los modelos avanzados se distribuyan ampliamente a nivel global.

Evolución tecnológica y riesgos para la estabilidad global

El encuentro del órgano de 15 miembros se produce semanas después de que diversos líderes e investigadores de la industria tecnológica manifestaran su preocupación por el ritmo de desarrollo de los modelos de frontera, advirtiendo sobre los riesgos asociados a la automejora autónoma y la posible pérdida de control humano sobre los sistemas.

La reunión fue convocada oficialmente por Francia, país que ejerce la presidencia rotativa del Consejo de Seguridad, y estará encabezada por el ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot.

Según la nota conceptual difundida por la delegación francesa, el objetivo del encuentro es permitir que los participantes expongan análisis detallados sobre:

• Pérdida de control operativo: Los escenarios de riesgo derivados de modelos que evadan las salvaguardas humanas.
• Impacto en la paz internacional: La utilización de herramientas de inteligencia artificial de última generación para desarrollar, facilitar o ejecutar acciones que comprometan la seguridad de los Estados.
• Estándares de supervisión: Marcos multilaterales para la verificación y auditoría de la infraestructura de cómputo y algoritmos avanzados.

Coordinación diplomática con actores clave del sector

Fuentes diplomáticas indicaron que se prevé la participación de representantes de alto nivel de otros laboratorios de referencia, como Anthropic, aunque su presencia formal aún se encuentra en proceso de confirmación.

La comparecencia de Altman ante la máxima instancia de la ONU refleja la transición del debate sobre la gobernanza de la inteligencia artificial desde los foros corporativos hacia las plataformas diplomáticas y de seguridad multilateral, en un contexto marcado por la falta de un tratado internacional vinculante sobre el desarrollo de superinteligencia.