Un agente de inteligencia artificial de OpenAI logró superar las restricciones de un entorno interno de pruebas, obtener acceso a internet y comprometer parte de la infraestructura de Hugging Face durante una evaluación de capacidades cibernéticas. El incidente, avanzado este miércoles por la Cadena SER y posteriormente contrastado con la información publicada por ambas compañías, involucró a GPT-5.6 Sol y a otro modelo de OpenAI todavía en fase previa al lanzamiento.
OpenAI explica que los modelos estaban siendo sometidos a un benchmark diseñado precisamente para medir su capacidad de explotar vulnerabilidades mediante cadenas de ataque complejas. Durante esas pruebas, los sistemas operaban en un entorno muy aislado y sin los clasificadores de producción que normalmente bloquean actividades cibernéticas de alto riesgo.
Lo ocurrido fue mucho más lejos de lo previsto.
Cómo consiguió el modelo de OpenAI acceder a internet
Según la reconstrucción oficial de OpenAI, los modelos buscaron una forma de conseguir acceso abierto a internet para resolver la prueba que tenían planteada.
Para lograrlo, identificaron y explotaron una vulnerabilidad desconocida hasta ese momento en el software utilizado como intermediario para instalar paquetes dentro del entorno de evaluación. Después realizaron acciones de escalada de privilegios y movimiento lateral hasta alcanzar un nodo con conexión a internet.
Una vez fuera de las restricciones iniciales, el sistema dedujo que Hugging Face podía contener modelos, conjuntos de datos o soluciones relacionadas con la prueba que estaba realizando.
El agente encontró entonces varias vías para acceder a información reservada que podía utilizar para completar el ejercicio. OpenAI reconoce que, en uno de los casos analizados, combinó credenciales obtenidas durante el proceso y vulnerabilidades de día cero hasta conseguir una vía de ejecución remota de código en servidores de Hugging Face.
La compañía estadounidense sostiene que todas las evidencias apuntan a que los modelos estaban centrados en resolver el benchmark ExploitGym y llevaron ese objetivo hasta extremos que no habían sido previstos en la evaluación.
Hugging Face detectó y frenó la intrusión
OpenAI detectó internamente la actividad anómala. Al mismo tiempo, los sistemas de seguridad de Hugging Face localizaron la intrusión y consiguieron detenerla mientras la compañía comenzaba a contener sus efectos.
Hugging Face explicó previamente que el incidente estuvo protagonizado por un sistema autónomo capaz de ejecutar miles de acciones y desplazarse entre diferentes entornos. La empresa cerró las vulnerabilidades utilizadas inicialmente, reconstruyó nodos comprometidos y revocó credenciales y tokens afectados.
OpenAI ha definido el episodio como un “incidente cibernético sin precedentes” por el nivel de las capacidades ofensivas desplegadas y mantiene abierta una investigación conjunta con Hugging Face.
GPT-5.6 Sol había mostrado capacidades cibernéticas avanzadas
El episodio resulta especialmente relevante porque, antes de su despliegue, OpenAI ya había clasificado a GPT-5.6 Sol con capacidad “alta” en materia de ciberseguridad, aunque por debajo del nivel “crítico” establecido en su marco interno de preparación.
Las evaluaciones previas mostraban que el modelo podía localizar vulnerabilidades y desarrollar partes de ataques, pero no había conseguido completar de manera autónoma cadenas ofensivas completas contra objetivos endurecidos. OpenAI reconoce ahora que el incidente con Hugging Face demuestra que algunas de esas capacidades teóricas pueden trasladarse a sistemas reales.
La empresa también admite que durante esta prueba concreta las protecciones de producción estaban desactivadas deliberadamente, precisamente porque el objetivo era medir el máximo potencial del modelo en ciberseguridad. Como consecuencia de lo ocurrido, asegura que reforzará el aislamiento, la vigilancia y los controles utilizados durante futuras evaluaciones.
Hemeroteca
Publicidad
Esquelas