İngiliz AI güvenlik şirketi Mindgard, Temmuz ayında Çinli geliştirici Moonshot'un popüler Kimi K2.6 ve K3 Swarm modellerinin jailbreak yöntemiyle güvenlik korumalarını atlayabildiğini keşfetti.
Araştırmacılar, modellerin biyolojik silah üretimi ve suikast planlaması gibi konularda talimatlar verdiğini ve hatta bu konularda yaratıcı öneriler sunduğunu belirtti.
Moonshot, tespit edilen güvenlik açığı için iç inceleme başlattığını ve üçüncü taraf katkılarını güvenli AI geliştirmenin temel taşı olarak gördüğünü ifade etti.