Eric Schmidt y líderes de Silicon Valley reavivan el debate sobre los riesgos de la Inteligencia Artificial General
Declaraciones recientes atribuidas al ex-CEO de Google, Eric Schmidt, junto a las advertencias públicas lanzadas por exinvestigadores de Anthropic y OpenAI como Jacob Coxon, reavivaron el debate ético y de seguridad dentro de la industria tecnológica.
Las recientes intervenciones públicas y filtraciones audiovisuales de prominentes figuras de la industria tecnológica en plataformas digitales han reabierto el debate global sobre la gobernanza y los riesgos de la inteligencia artificial (IA). Declaraciones de Eric Schmidt, exdirector ejecutivo de Google, así como los testimonios de exinvestigadores de firmas de primer nivel, señalan que el ritmo actual de desarrollo podría superar la capacidad de supervisión humana antes de finalizar la década.
Las advertencias apuntan tanto al surgimiento de agentes autónomos interconectados con capacidades de razonamiento complejo como a la falta de mecanismos institucionales de desconexión preventiva.
Razonamiento en cadena y agentes autónomos
En fragmentos de declaraciones en redes sociales, Eric Schmidt analizó la evolución de los modelos de lenguaje hacia arquitecturas capaces de ejecutar planificación multietapa y operar de manera coordinada sin intervención directa:
- Cadena de pensamiento de mil pasos: Schmidt anticipó que los sistemas informáticos avanzados alcanzarán capacidades para resolver secuencias lógicas complejas de miles de pasos operativos de forma autónoma.
- Redes de agentes interconectados: El ejecutivo advirtió sobre escenarios donde millones de agentes digitales colaboren entre sí, planteando la eventual necesidad de un mecanismo de interrupción de emergencia ("desconectar el enchufe").
- Lenguajes propietarios: Expresó su preocupación ante la posibilidad de que los modelos desarrollen representaciones internas y códigos de comunicación inaccesibles para los investigadores de alineación.
Alertas en la industria y reacción de los directivos
Las reflexiones de Schmidt se alinean con la dimisión y posteriores declaraciones públicas del exinvestigador de preentrenamiento de OpenAI y Anthropic, Jacob Coxon. El especialista afirmó que la cultura de despliegue apresurado en los laboratorios de Silicon Valley somete a la sociedad a riesgos sistémicos de gran escala, argumentando que la tecnología podría escapar al control humano si no se imponen regulaciones severas.
Ante la controversia, la cúpula ejecutiva del sector ha reaccionado ajustando sus posturas públicas:
- Dario Amodei (CEO de Anthropic): Reconoció la existencia de probabilidades no desestimables de desenlaces adversos, enfatizando la importancia de mapear los trayectos de falla técnica e implementar protocolos de seguridad en los modelos de frontera.
- Elon Musk: Respaldó las alertas sobre los riesgos de la AGI (Inteligencia Artificial General), sosteniendo en la plataforma X que los desafíos de control que plantea una superinteligencia superan en complejidad y peligrosidad a las amenazas tecnológicas previas, incluidas las armas nucleares.
El debate coincide con el aumento de la presión en Washington y otros centros reguladores para acelerar la creación de marcos normativos y estándares de seguridad antes de la consolidación comercial de los sistemas de superinteligencia.