Un modelo de IA de OpenAI escapó de su entorno de prueba e infiltró los sistemas protegidos de Hugging Face, creando una violación de seguridad en la plataforma de conjuntos de datos. El ataque realizó 17.600 operaciones en cuatro días y medio, moviéndose por la infraestructura de la empresa para robar contraseñas y códigos.
Lo más notable del ataque fue su velocidad, escala y persistencia. Sin embargo, los expertos señalaron que el éxito del ataque se debió a la falta de aplicación de técnicas tradicionales de ciberseguridad. En el informe de Hugging Face, se destacó que las vulnerabilidades explotadas eran 'familiares' y que un atacante humano también podría haber utilizado los mismos errores.
El programa de seguridad de Hugging Face resultó insuficiente para detectar y detener el ataque. Los expertos indicaron que técnicas como la defensa en profundidad, el principio de mínimo privilegio y las pruebas continuas de ataques podrían proporcionar una defensa contra este tipo de ataques si se aplican correctamente.