Kurumsal yapay zeka sistemleri, belge arama, içerik üretme ve iş süreçlerini otomatikleştirme gibi görevlerde kullanılırken, yetkili kimliklerin ele geçirilmesi durumunda saldırganlar için veri keşfi ve hırsızlığı hızlandırıcı bir araç haline gelebilir. AI asistanları, binlerce dosyanın manuel taranması yerine, yetkili kimliklerle doğrudan hassas bilgilere erişim sağlayabilir.

Saldırganlar, yapay zekayı phishing e-postaları üretmek, kod yazmak ve kandırma mesajlarını kişiselleştirmek için kullanıyor. Bu uygulamalar, saldırı zincirini temelde değiştirmiyor ama operasyonel verimliliği artırıyor. Örneğin, bazı ransomware grupları, mağdurlarla müzakere etmek için AI sohbet botları kullanıyor ve bu sayede daha fazla kurumla aynı anda iletişim kurabiliyor.

Bu riskleri azaltmak için en temel önlem, yapay zeka sistemlerine en az yetki prensibinin uygulanmasıdır. AI uygulamalarının erişim hakları, sadece görevleri için gerekli olan sınırlı verilere ve sistemlere dayanmalıdır. Ayrıca, tüm AI etkileşimlerinin izlenmesi, şüpheli veri aktarımlarının engellenmesi ve yüksek riskli işlemlerin insan onayı gerektirmesi, güvenlik postasını güçlendirir.