Yapay zeka, siber güvenlik operasyon merkezlerinde (SOC) hızla yükselen bir trend olsa da, Gartner'ın "Şişirilmiş Beklentiler Zirvesi" olarak tanımladığı bir aşamada bulunuyor. Sektördeki birçok yapay zeka projesinin üretim ortamında %80 ila %95 oranında başarısız olduğu belirtiliyor. Bu durum, güvenlik liderlerinin yapay zeka çözümlerini seçerken ve uygularken dikkatli olmaları gerektiğini gösteriyor.
Bu boşluğu doldurmak amacıyla, eski Gartner analistleri Oliver Rochford ve Prateek Bhajanka ile Prophet Security iş birliğiyle, SOC'taki yapay zeka çözümlerini değerlendirmek için pratik ve satıcıdan bağımsız bir rehber hazırlandı. Rehber, yapay zekanın gerçek ortamınızda güvenilir kararlar verip veremeyeceği, operasyonel modelinin ekibinizin çalışma şekline uygun olup olmadığı gibi kritik sorulara odaklanıyor.
Değerlendirme sürecinde, yapay zekanın zaman içinde güvenilirliğini koruyup koruyamayacağı ve siber güvenlik uzmanlarının bu teknolojiden beklentileri de ele alınıyor. Özellikle, yapay zekanın sadece mevcut uyarıları daha hızlı işlemek yerine, insan analistlerin normalde incelemeyeceği geniş kapsamlı tehditleri tespit etme potansiyeli vurgulanıyor.
Rehber, insan-yapay zeka hibrit modelini savunuyor. Bu modelde, yapay zeka önceliklendirme ve ilk incelemeleri yaparken, insanlar ve belirlenmiş kurallar kritik kararları, müdahaleleri ve geri döndürülemez eylemleri yönetiyor. Amaç, yapay zekanın karar mekanizmalarının şeffaf olması ve analistlerin bu kararları sorgulayabilmesi için kanıt tabanlı bir yaklaşım sunmaktır.