Advierten sobre los riesgos de seguridad derivados de otorgar una devoción de carácter religioso a la IA

El consejero delegado de OpenAI, Sam Altman, ha manifestado públicamente su preocupación ante un fenómeno emergente en la interacción entre la sociedad y las herramientas de aprendizaje automático: la tendencia de ciertos sectores de usuarios a atribuir una fuerza casi religiosa o una infalibilidad doctrinaria a los sistemas de inteligencia artificial.

A través de un mensaje difundido en sus canales oficiales, el máximo ejecutivo de la firma creadora de ChatGPT señaló que esta dinámica representa una amenaza concreta para los protocolos de desarrollo seguro de la tecnología.

El pronunciamiento de Altman aborda directamente el debate sobre la cesión del juicio crítico humano frente a las respuestas generadas por algoritmos avanzados, un problema que la industria del software califica como un riesgo prioritario en el diseño de interfaces de usuario y modelos de lenguaje de gran escala (LLMs).

Antropomorfización, sesgo de autoridad y riesgos de seguridad

Las declaraciones de la dirección de OpenAI ponen el foco en el sesgo de automatización, un comportamiento psicológico en el que los individuos tienden a confiar de manera ciega en los diagnósticos o recomendaciones emitidos por un sistema informático, desplazando su propia capacidad de análisis o la verificación fáctica independiente.

Entre las implicaciones operativas y de seguridad señaladas por expertos del sector informático destacan las siguientes dimensiones:

• Antropomorfización extrema: La proyección de conciencia, espiritualidad o intencionalidad moral sobre arquitecturas de procesamiento estadístico de texto.
• Vulnerabilidad a la manipulación: El riesgo de que los usuarios acepten instrucciones potencialmente dañinas, desinformación o sesgos ideológicos al percibir a la máquina como una fuente de autoridad absoluta o trascendente.
• Erosión del pensamiento crítico: La paulatina renuncia de estudiantes, profesionales y decisores políticos a auditar las fuentes primarias o contrastar los resultados entregados por agentes autónomos.

Altman enfatizó de forma tajante su postura crítica respecto a estas actitudes:

"Me siento muy incómodo con que la gente intente atribuir una fuerza religiosa o una rendición del juicio humano a los modelos de IA, y creo que es un problema real de seguridad."

Desafíos de alineación y diseño de interfaces

El señalamiento del ejecutivo coincide con una fase de acelerada integración de la inteligencia artificial en la vida cotidiana, donde la sofisticación en el lenguaje natural de los modelos puede llevar a los usuarios a entablar relaciones de dependencia emocional o de consulta existencial con las plataformas.

Para las empresas dedicadas a la investigación en seguridad e higiene digital (AI safety), combatir esta percepción de "infalibilidad" exige ajustar las métricas de alineación. Las firmas tecnológicas trabajan en la implementación de marcos de supervisión y avisos explícitos que recuerden continuamente al usuario la naturaleza probabilística de las respuestas, desmitificando la capacidad de las herramientas informáticas y reforzando la responsabilidad del factor humano en la toma de decisiones críticas.