Microsoft, şirket içindeki AI ajanlarının öngörülemez davranışları ve hassas verilere erişimleri nedeniyle 'iç tehdit' oluşturabileceğini öne sürerek, bu ajanları denetlemek amacıyla Guardian Agents adlı yeni bir güvenlik özelliğini tanıttı.
Bu özellik, Haziran ayında başlatılan Project Perception çerçevesinde geliştirilen 'yeşil takım' ajanlarının bir uzantısı olarak, dağıtılan ajanları sürekli izleyip riskli kararları engellemek üzere tasarlandı.
Microsoft Güvenlik İş Birimi Başkanı Hayete Gallot, 'ileri modeller, kaynağından bağımsız olarak güvenilemez; çünkü kötü niyetli oldukları için değil, öngörülemez oldukları için' ifadesiyle tehdit algısını özetledi.