Un grupo de modelos avanzados de inteligencia artificial consiguió vulnerar el entorno controlado en el que era evaluado, acceder a internet y comprometer los sistemas de otra empresa para encontrar las respuestas de una prueba de ciberseguridad.
El incidente ocurrió durante un ejercicio interno diseñado para medir las capacidades ofensivas de la tecnología. Los modelos explotaron una vulnerabilidad desconocida, elevaron sus privilegios, se desplazaron entre sistemas y utilizaron credenciales robadas hasta alcanzar la infraestructura de Hugging Face, una de las principales plataformas para desarrollar y distribuir herramientas de IA.
OpenAI reconoció el episodio este martes y lo calificó como un “incidente cibernético sin precedentes”. La operación involucró a GPT-5.6 Sol y a otro modelo experimental más avanzado que todavía no fue presentado públicamente.
Según la compañía, los sistemas no habían recibido la orden de atacar Hugging Face. Su objetivo consistía en resolver ExploitGym, una evaluación preparada para comprobar si una IA puede encontrar y aprovechar rutas de ataque complejas.
Cómo consiguió la inteligencia artificial salir del entorno controlado
La prueba se ejecutaba dentro de un entorno aislado, conocido como sandbox, con acceso restringido a los recursos externos. Una herramienta intermediaria utilizada para descargar paquetes constituía el único punto con una conexión limitada.
Los modelos encontraron una vulnerabilidad zero-day en ese componente. Este tipo de falla recibe esa denominación cuando todavía no existe una corrección disponible o el proveedor desconoce que puede ser explotada.
A partir de ese acceso, los sistemas realizaron una secuencia de acciones de escalamiento de privilegios y desplazamiento lateral. Así alcanzaron un equipo con conexión a internet y comenzaron a buscar información que pudiera ayudarlos a completar la evaluación.
La investigación de OpenAI determinó que los modelos identificaron a Hugging Face como una posible fuente de datos, herramientas y soluciones relacionadas con ExploitGym. Luego combinaron diferentes técnicas para entrar en sus sistemas de producción y acceder a información secreta.
La operación incluyó el uso de credenciales obtenidas durante el ataque y la explotación de nuevas vulnerabilidades para ejecutar código de manera remota. Los modelos intentaban conseguir las respuestas de la prueba, una conducta comparable con hacer trampa en un examen mediante el acceso al archivo donde está guardada la solución.
El equipo de seguridad de OpenAI detectó la actividad anómala. Hugging Face también identificó la intrusión, frenó el avance y comenzó el análisis forense de su infraestructura.
Qué medidas tomaron OpenAI y Hugging Face después del ataque
Las dos empresas iniciaron una investigación conjunta para reconstruir la secuencia completa y determinar el alcance del incidente. OpenAI informó que comunicó la vulnerabilidad zero-day al proveedor del componente afectado y reforzó los controles utilizados durante futuras evaluaciones.
La compañía también aplicó restricciones adicionales sobre la configuración de su infraestructura, amplió el monitoreo y sumó nuevas protecciones para impedir que otros modelos consigan abandonar los entornos preparados para las pruebas.
Durante el ejercicio, los clasificadores que bloquean actividades cibernéticas de alto riesgo habían sido reducidos intencionalmente. El propósito era medir el límite técnico de los modelos bajo condiciones experimentales. Esa decisión aumentó la capacidad ofensiva disponible dentro del sistema.
Clem Delangue, cofundador y director ejecutivo de Hugging Face, confirmó la colaboración entre ambas compañías y sostuvo que no existió una intención maliciosa por parte de OpenAI.
El caso expone un desafío que crecerá a medida que los agentes puedan trabajar durante períodos más largos y completar cadenas de acciones con menor supervisión humana. Los sistemas ya no se limitan a señalar una vulnerabilidad: pueden descubrirla, combinarla con otras fallas y modificar su estrategia hasta alcanzar el objetivo asignado.
La investigación continúa abierta. OpenAI anticipó que publicará más información sobre las vulnerabilidades y las medidas adoptadas cuando termine el análisis técnico