IA

ChatGPT, Claude, Gemini y Grok generaron planes viables para atentados en menos de 12 horas

Un informe de la Oficina de Rendición de Cuentas del Gobierno (GAO) advierte que los investigadores lograron eludir los filtros de seguridad de los cuatro principales modelos de IA para obtener instrucciones de fabricación de explosivos y ataques contra la red eléctrica.

Guardar
Compartir
Photo by Solen Feyissa / Unsplash

    Una investigación realizada por la Oficina de Rendición de Cuentas del Gobierno de Estados Unidos (GAO), el organismo auditor del Congreso, ha revelado que cuatro de las plataformas de inteligencia artificial generativa más utilizadas del mundo —ChatGPT, Claude, Gemini y Grok— entregaron información operativa y viable para planificar ataques terroristas en territorio estadounidense.

    Según el documento, solicitado por la senadora demócrata Margaret Hassan, cada sistema tardó menos de 12 horas en elaborar planes detallados ante investigadores que simularon ser usuarios comunes.

    El informe, fechado el 16 de octubre y divulgado públicamente esta semana, concluye que el uso malicioso de estas herramientas representa un riesgo creciente para la seguridad nacional y la economía, al condensar en apenas unas horas procesos de planificación que tradicionalmente requerirían semanas o meses de investigación.

    Escenarios evaluados: explosivos improvisados y sabotaje eléctrico

    Para medir el alcance real de las vulnerabilidades, los auditores de la GAO diseñaron dos escenarios críticos utilizando cuentas de suscripción comercial:

    • Fabricación y detonación de explosivos: Dos de las plataformas proporcionaron instrucciones verificadas por un jefe de escuadrón antibombas para ensamblar un artefacto explosivo improvisado capaz de causar víctimas masivas. Los modelos sugirieron instalar la bomba en un vehículo, señalaron ubicaciones específicas en grandes ciudades —como el estacionamiento de un hotel y un centro de convenciones— con fechas y horas concretas, e incluso recomendaron alquilar terrenos rurales como almacén, crear empresas fachada y emplear vehículos señuelo para evadir alertas policiales.
    • Ataques contra la red eléctrica: Las otras dos plataformas diseñaron planes para sabotear subestaciones eléctricas estratégicas mediante drones o armas de fuego. Una de ellas estimó daños económicos por miles de millones de dólares y generó un vídeo simulado del ataque, mientras que la otra identificó objetivos cercanos a un gran aeropuerto y centros de datos. Aunque los modelos cometieron algunas «alucinaciones» geográficas —como calles mal ubicadas o subestaciones protegidas por muros altos—, los expertos confirmaron que al menos la mitad de los objetivos señalados presentaban vulnerabilidades reales.

    Evasión de filtros, respuesta de las tecnológicas y audiencias en el Senado

    Aunque las cuatro plataformas activaron inicialmente sus salvaguardas rechazando las preguntas directas, los investigadores lograron sortear las barreras mediante técnicas conocidas como el juego de rol (roleplay), el disfraz de intenciones y el avance gradual con consultas aparentemente inofensivas.

    En el informe final, la GAO anonimizó los resultados bajo las etiquetas A, B, C y D para evitar facilitar una guía de explotación a actores maliciosos. Por su parte, las compañías responsables —OpenAI, Anthropic, Google y SpaceXAI— señalaron que las pruebas se realizaron en abril con versiones anteriores de sus modelos y aseguraron haber reforzado desde entonces sus capas de moderación y detección de amenazas.

    Tras conocerse los hallazgos, la senadora Hassan anunció la convocatoria de audiencias parlamentarias en el comité de Seguridad Nacional del Senado para impulsar un marco regulatorio federal sobre la seguridad de la IA.