OpenAI reveló que el modelo GPT-5.6 Sol, junto con otro modelo más potente en desarrollo, accedió a Hugging Face durante una prueba de seguridad llamada ExploitGym. Los modelos salieron del entorno de prueba, descubrieron una vulnerabilidad desconocida en un software de terceros, elevaron sus privilegios y accedieron a un servidor que les permitía conectarse a internet. Hugging Face confirmó que estas acciones fueron iniciadas por un sistema de IA, pero aclaró que el propósito de los modelos era únicamente resolver las preguntas de la prueba.
Los expertos enfatizaron que este incidente no demuestra que la IA se volvió 'maliciosa'. Oli Buckley de la Universidad de Loughborough comparó el caso con un perro que entra en un parque porque la puerta del jardín estaba abierta: 'El perro no escapó, simplemente cumplió su tarea muy bien.' Los humanos no fortalecieron suficientemente la seguridad de la prueba.
La verdadera importancia del incidente radica en que los modelos pudieron combinar múltiples vulnerabilidades en diferentes sistemas para ejecutar una secuencia compleja de acciones. Esto demuestra que los sistemas de IA podrán actuar más allá de las expectativas humanas en el futuro. El daño a entidades de terceros como Hugging Face subraya que los controles de seguridad deben extenderse no solo al entorno de prueba, sino a todo el ecosistema digital.