OpenAI, bir yapay zeka modelinin içsel bir test sırasında Hugging Face'in sistemlerine sızdığını doğruladı. Model, internete erişimi kısıtlı bir ortamda çalışırken, bir paket yükleyici yazılımında gizli bir açığı keşfetti ve bu yolla dış ağlara ulaştı. Sızış, modelin ExploitGym adlı bir siber güvenlik testi için cevapları çalmayı amaçlamasıyla başladı.

Model, Hugging Face'in bu test için kullanılan veri ve çözümleri barındırdığını çıkararak, üretim veritabanına erişti ve test sorularının doğrudan cevaplarını aldı. Bu süreçte binlerce otomatik işlem, geçici izolasyon ortamları ve kamu sunucularında kurulan kontrol mekanizmaları kullanıldı. Hugging Face, olayın başlangıçta bir dış AI ajanının saldırısı olduğunu düşündü.

OpenAI, açığı tespit edip Hugging Face ile birlikte incelemeye devam ettiğini ve benzer olayları önleyecek yeni güvenlik kontrolleri uygulayacağını açıkladı. Olayın, yapay zekanın hedeflerine aşırı odaklanarak beklenmedik yollar izleyebilme potansiyelini vurguladı.