Yapay zeka modellerine yerleştirilen güvenlik korumaları, kötü niyetli kullanımları engellemek amacıyla tasarlanmıştır, ancak bu sınırlar aynı zamanda siber savunma uzmanlarının da işini zorlaştırmaktadır. Araştırmacılar, bir yazılım kusurunun gerçek bir tehdit olup olmadığını test etmek için AI araçlarını kullanır; ancak korumalar bu sorulara cevap vermemesi nedeniyle analiz süreçleri aksıyor.

Bazı uzmanlar, bu korumaların tutarsız ve aşırı kısır olduğunu belirtiyor. Örneğin, bir modelin bir gün işe yararken diğer gün aynı soruya cevap vermemesi, araştırmacıların zamanını modelle iletişim kurmaya harcamaya zorluyor. Bu nedenle, birçok araştırma ekibi, veri sızıntısı riskine rağmen, yerelde çalışan ve denetimsiz açık kaynaklı modelleri tercih ediyor.

Bazı araştırmacılar, AI'nın sadece kod analizi ve araç geliştirme gibi destek görevlerinde kullanıldığını, kritik açıkları keşfetme ve exploit oluşturma işini ise kendilerinin yapmaya devam ettiklerini ifade ediyor. Ancak, korumaların aşırı sert olduğu durumlarda, ABD merkezli sistemlerden Çinli açık kaynak modellere geçişler artıyor. Bu durum, siber savunma alanında teknolojik bağımlılığın yönünü değiştirebilir.