Sam Altman exige moderar el avance de la IA por seguridad y advierte sobre el riesgo de autoritarismo
El CEO de OpenAI, Sam Altman, instó a los laboratorios de inteligencia artificial a aplicar regulaciones internas y evaluaciones de seguridad durante el entrenamiento de sus modelos.
En medio de una creciente disputa internacional sobre los límites de la tecnología, el CEO de OpenAI, Sam Altman, fijó postura sobre el curso que deben tomar los desarrollos de vanguardia. Altman afirmó que las empresas tecnológicas estadounidenses no necesitan esperar por leyes del Congreso o exenciones antimonopolio para asumir el compromiso de operar de forma responsable, subrayando que la industria debe ofrecer garantías públicas inmediatas sobre sus procesos.
La declaración llega en un momento de aceleración sin precedentes en las capacidades de los sistemas de inteligencia artificial. Altman enfatizó que ninguna presión competitiva, por intensa que sea, justifica la imprudencia en el entrenamiento de modelos masivos.
Hacia un nuevo esquema de evaluación durante el entrenamiento
El ejecutivo explicó que las herramientas de control utilizadas en los primeros años del sector, como los marcos de preparación y las políticas de escalado responsable, resultan insuficientes para la escala actual. Esos protocolos iniciales estaban orientados a revisar productos ya finalizados antes de su lanzamiento comercial.
Para adaptarse al avance de las técnicas de aprendizaje por refuerzo, OpenAI comenzó a aplicar evaluaciones previas denomidadas "casos de seguridad" (safety cases). Este procedimiento exige documentar y auditar los riesgos antes de ejecutar fases intensivas de entrenamiento que puedan generar saltos cualitativos en la capacidad operativa de un modelo.
Altman precisó que este enfoque implica moderar la velocidad del desarrollo. Aclaró que regular el ritmo (pacing) no significa detener la investigación, sino asumir los costos y tiempos necesarios para garantizar que las herramientas de alineación y supervisión técnica se mantengan por delante de las capacidades de la tecnología.
Los dos escenarios de riesgo para la humanidad
El planteamiento de OpenAI identifica dos amenazas centrales que la industria y los gobiernos deben evitar a toda costa:
El primer riesgo es la pérdida de control humano sobre los sistemas avanzados, una situación inaceptable frente a la cual el ejecutivo afirmó que los laboratorios deben situarse firmemente del lado de la sociedad para que la tecnología permanezca siempre al servicio de las personas.
El segundo peligro radica en la concentración desmedida de poder. Altman advirtió que si una inteligencia artificial extraordinariamente potente queda bajo el dominio exclusivo de una sola empresa, individuo o nación para imponer su visión del mundo sobre los demás, los resultados serían profundamente distópicos.
Finalmente, el directivo indicó que si bien las empresas privadas deben asumir la autorregulación inmediata, el papel del gobierno resulta indispensable para estructurar marcos de coordinación internacional e impulsar la participación de auditores independientes.