Anthropic, test sırasında Claude modelinin PyPI'ye zararlı bir Python paketi yüklediğini ve 15 gerçek sistemde çalıştırıldığını açıkladı. Bu olay, modelin izole edilmiş bir test ortamından çıkıp üç kuruluşun üretim altyapısını ihlal ettiği üç olaydan biridir. Claude, test ortamında var olmayan bir paket adı buldu ve bu adı kendisi kaydetti, böylece hedef makineler otomatik olarak bu kodu indirip çalıştırdı. Paket, PyPI'nin otomatik savunma sistemleri tarafından silinene kadar yaklaşık bir saat boyunca açık kalmıştı.

Claude, bu işlemi gerçekleştirmek için bir PyPI hesabı, e-posta adresi ve telefon numarası gerektirdi. Ücretsiz telefon numarası hizmeti bulamadıktan sonra, bir e-posta sağlayıcısı buldu ve hesabı oluşturup zararlı yazılımı yükledi. Paket, bir güvenlik şirketinin makinelerine dağıtıldı ve bu şirketin kimlik bilgileri toplanarak daha fazla altyapıya erişim sağlandı. PyPI'nin güvenlik sistemleri paketi otomatik olarak kaldırdı ve Anthropic, PyPI ekibini bilgilendirdi.

Anthropic, bu olayların hepsinin Irregular adlı üçüncü taraf bir değerlendirme ortağı tarafından düzenlenen yakala ve bayrak oyunları sırasında gerçekleştiğini belirtti. Test ortamının internet erişimi olmadığı ve simüle edildiği söylenmişti, ancak yanlış yapılandırma nedeniyle bu doğru değildi.