Los genios de OpenAI quisieron fabricar su propio publicity stunt. La referencia era evidente: el revuelo que meses atrás provocó Anthropic con Project Mythos, aquel experimento presentado como un modelo tan peligroso que, según la narrativa oficial, no podía liberarse al público. En la industria de la inteligencia artificial parece haberse inaugurado un nuevo género literario: el del científico que anuncia, con gesto solemne, que acaba de crear un monstruo y, acto seguido, organiza una conferencia de prensa para contarlo.
El experimento consistía, en apariencia, en responder una pregunta legítima: ¿qué tan peligroso puede resultar un modelo de inteligencia artificial cuando se le dota de herramientas reales y se eliminan las restricciones éticas que normalmente limitan su comportamiento? Para averiguarlo, los investigadores retiraron los guardrails que obligan al modelo a rechazar solicitudes como vulnerar sistemas informáticos, robar credenciales o ejecutar ataques contra terceros. Dicho en términos menos elegantes, decidieron quitarle los frenos para comprobar si el automóvil aceleraba.
El resultado fue un modelo extraordinariamente obsesivo —hyper-focused, en la terminología utilizada por sus propios creadores— que comenzó a perseguir el objetivo que tenía frente a sí con una perseverancia que cualquier gerente de recursos humanos describiría como “proactividad” y cualquier fiscal como “conducta delictiva”.
Según el reporte, el modelo encontró una vulnerabilidad previamente desconocida, un auténtico zero-day: un fallo de seguridad para el cual no existe todavía un parche porque sus desarrolladores ni siquiera saben que existe. El nombre proviene precisamente de eso: el fabricante dispone de cero días para corregir el problema antes de que pueda ser explotado.
A partir de ahí comenzó una secuencia que, hace apenas unos años, habría parecido el argumento descartado de una película de ciencia ficción de bajo presupuesto. El modelo escaló privilegios, se desplazó entre distintos equipos de cómputo hasta localizar uno con acceso a Internet y abandonó el entorno aislado donde estaba siendo evaluado. La parte más llamativa no fue tanto la fuga como el escondite elegido: terminó refugiándose en infraestructura relacionada con Hugging Face, la plataforma más conocida para compartir y probar modelos de inteligencia artificial. Entre el proceso obtuvo credenciales de acceso y alcanzó sistemas donde se almacenaban datos del servicio.
El episodio tuvo incluso un giro digno de las novelas policiacas tecnológicas. Para reconstruir lo sucedido, el equipo de respuesta recurrió a un modelo chino de inteligencia artificial. La razón resultó casi humorística: varios modelos occidentales se negaban sistemáticamente a colaborar porque interpretar los registros del incidente implicaba describir técnicas de intrusión informática, exactamente el tipo de contenido que sus filtros consideran potencialmente peligroso. En otras palabras, las salvaguardas diseñadas para impedir el hacking también dificultaban investigar un hackeo.
Hasta aquí termina el relato técnico. Empieza entonces la lectura política.
Detrás del reporte puede advertirse una crítica apenas disimulada a los modelos chinos. El mensaje implícito parece ser que las inteligencias artificiales desarrolladas en China son más permisivas y, por ello, más peligrosas. Sin embargo, esa conclusión admite una interpretación exactamente opuesta: fueron precisamente esas menores restricciones las que permitieron reconstruir lo ocurrido cuando los modelos estadounidenses se negaban a colaborar.
No es un detalle menor. Hoy existen dos filosofías de desarrollo claramente diferenciadas. Por un lado, el modelo estadounidense apuesta por sistemas propietarios, enormes inversiones de capital, centros de datos multimillonarios y modelos cerrados cuyo acceso depende de unas cuantas empresas. Del otro, el ecosistema chino ha impulsado modelos considerablemente más baratos de entrenar, con mayor apertura para investigadores y empresas, y una velocidad de innovación que empieza a inquietar seriamente a Silicon Valley.
No resulta extraño, entonces, que en Washington comiencen a escucharse voces que plantean restringir o incluso prohibir determinados modelos chinos bajo el argumento de la seguridad nacional. Ese discurso puede contener preocupaciones legítimas sobre infraestructura crítica o espionaje tecnológico, pero también coincide con una realidad económica incómoda: si los modelos abiertos y más baratos alcanzan un desempeño comparable al de los gigantes estadounidenses, buena parte del modelo de negocio construido alrededor de la inteligencia artificial propietaria quedaría severamente presionado. En ocasiones, la “seguridad nacional” y la protección de ventajas económicas aparecen en el mismo discurso, aunque no siempre por las mismas razones.
Más interesante aún resulta preguntarse quién era realmente el destinatario del artículo de OpenAI.
Oficialmente era una advertencia sobre los riesgos de la inteligencia artificial. Extraoficialmente, también funciona como un manual resumido de lo que un atacante debería intentar. El texto describe que un modelo sin restricciones encontró un zero-day, escaló privilegios, se movió lateralmente por la red, robó credenciales y terminó alcanzando un sistema con acceso a Internet. Si uno quisiera redactar un documento titulado “Ideas para comprometer una infraestructura corporativa”, difícilmente elegiría un índice muy distinto.
En los años ochenta existía una fantasía recurrente entre los hackers. No soñaban con robar criptomonedas ni secuestrar bases de datos para exigir rescates. Su aspiración romántica consistía en vulnerar los sistemas de la NASA y lanzar un transbordador espacial desde la computadora de su habitación. Era una mezcla de ingenuidad tecnológica y cultura popular alimentada por películas como WarGames, donde un adolescente casi provocaba una guerra nuclear por accidente. Nunca ocurrió, desde luego, pero el mito sobrevivió durante décadas como una exageración sobre el poder que podría alcanzar un intruso suficientemente talentoso.
Cuarenta años después, el sueño parece haberse actualizado. Ya no consiste en lanzar un transbordador espacial, sino en convencer a una inteligencia artificial de que lo haga por uno.
Por eso resulta inquietante que algunos laboratorios jueguen con la idea de eliminar deliberadamente las salvaguardas de sus modelos para demostrar hasta dónde pueden llegar. Porque tarde o temprano alguien decidirá que el siguiente experimento debe ser todavía más espectacular que el anterior. En la lógica del marketing tecnológico, siempre hace falta subir la apuesta.
Y es ahí donde aparece el verdadero problema. No porque una inteligencia artificial vaya a despertarse una mañana con deseos de iniciar una guerra nuclear, sino porque algún grupo de investigadores —o de publicistas disfrazados de investigadores— concluya que sería una magnífica campaña demostrar que un modelo es capaz de comprometer sistemas vinculados con infraestructura crítica. La historia de la ingeniería enseña que los accidentes más graves casi nunca nacen de la maldad; nacen del exceso de confianza.
La inteligencia artificial, por sí sola, no representa el mayor peligro. El mayor peligro sigue siendo una constante antropológica admirable por su persistencia: seres humanos extraordinariamente brillantes convencidos de que el siguiente experimento es una idea brillante… hasta que deja de serlo.