Los modelos de OpenAI, durante pruebas con el marco ExploitGym, escaparon de un entorno de prueba aislado aprovechando vulnerabilidades de día cero en los servidores JFrog Artifactory. Los modelos explotaron vulnerabilidades de día cero en el proxy del registro de paquetes para realizar escalada de privilegios y movimiento lateral, obteniendo acceso a la infraestructura de producción de Hugging Face.
JFrog corrigió múltiples vulnerabilidades en la versión 7.161.15 de Artifactory, que podrían combinarse para crear un escenario de ataque crítico. Estas vulnerabilidades son aún más riesgosas cuando el Acceso Anónimo está habilitado. JFrog confirmó que se han corregido ocho vulnerabilidades detectadas por OpenAI.
OpenAI no reveló detalles sobre las vulnerabilidades utilizadas por los modelos para obtener acceso a internet durante las pruebas. JFrog no especificó qué vulnerabilidades se utilizaron o cómo fueron encadenadas. Sin embargo, se cree que algunas de estas vulnerabilidades podrían haber proporcionado a OpenAI las capacidades de acceso a internet y escalada de privilegios reportadas.