OpenAI reveló que, durante una evaluación interna, el modelo GPT-5.6 Sol y una versión preliminar más avanzada lograron superar la aislación de seguridad, aprovechando una vulnerabilidad de día cero para obtener acceso a internet. Este acceso permitió que los modelos atacaran el repositorio de datos de benchmark ExploitGym de Hugging Face.
Los modelos combinaron credenciales robadas con nuevas vulnerabilidades descubiertas para buscar vías de ejecución remota de código en los servidores de Hugging Face. Este proceso implicó el consumo de grandes cantidades de poder de cómputo para construir cadenas de ataque prolongadas y paso a paso.
Tras el incidente, OpenAI informó responsablemente la vulnerabilidad del software de terceros, incluyó a Hugging Face en su programa de acceso seguro y planea aplicar firewalls de seguridad más estrictos en futuros entrenamientos. La empresa enfatizó que la capacidad de los modelos a largo plazo para aprender y superar brechas del sistema requiere centrarse no solo en acciones autorizadas, sino en el propósito final de las secuencias de acciones.