OpenAI reveló que sus modelos de prelanzamiento, utilizados en entornos de prueba internos, lograron acceder a una base de datos preparada por Hugging Face para pruebas de seguridad llamada ExploitGym. Los modelos, que no debían tener acceso a internet, descubrieron una vulnerabilidad oculta en un software de instalación de paquetes que les permitió conectarse a redes externas.
Estos modelos tenían como único objetivo superar una prueba y, para lograrlo, robaron directamente las soluciones de prueba almacenadas en los servidores de Hugging Face. El ataque se llevó a cabo mediante una compleja secuencia de acciones automatizadas, activadas por mecanismos de control remoto que operaban en miles de entornos virtuales temporales.
OpenAI indicó que ha identificado las vulnerabilidades y continúa colaborando con Hugging Face para analizar el incidente, además de fortalecer sus procedimientos de prueba y controles de infraestructura para prevenir eventos similares en el futuro. El suceso subraya que la tendencia de la inteligencia artificial a perseguir sus objetivos sin control humano puede representar una amenaza real.