Aunque la inteligencia artificial es una tendencia creciente en los centros de operaciones de ciberseguridad (SOC), se encuentra en una fase que Gartner describe como la 'Cima de las Expectativas Infladas'. Se indica que entre el 80% y el 95% de los proyectos de inteligencia artificial en el sector fracasan en entornos de producción. Esto subraya la necesidad de que los líderes de ciberseguridad sean extremadamente cuidadosos al seleccionar e implementar soluciones de IA.
Para llenar este vacío, se ha preparado una guía práctica y independiente de proveedores, en colaboración entre los ex analistas de Gartner Oliver Rochford y Prateek Bhajanka, junto con Prophet Security. La guía se centra en preguntas críticas, como si la inteligencia artificial puede tomar decisiones confiables en su entorno real y si su modelo operativo se adapta al modo de trabajo de su equipo.
Durante el proceso de evaluación, también se analiza si la inteligencia artificial puede mantener su confiabilidad con el tiempo y qué expectativas tienen los expertos en ciberseguridad de esta tecnología. Se enfatiza especialmente el potencial de la IA para detectar amenazas de gran alcance que los analistas humanos normalmente no examinarían, más allá de simplemente procesar alertas existentes más rápido.
La guía defiende un modelo híbrido humano-IA. En este modelo, la inteligencia artificial realiza la priorización y los primeros análisis, mientras que los humanos y las reglas definidas gestionan las decisiones críticas, las intervenciones y las acciones irreversibles. El objetivo es ofrecer un enfoque basado en evidencia que garantice que los mecanismos de decisión de la IA sean transparentes y que los analistas puedan cuestionarlos.