Los sistemas basados en inteligencia artificial han comenzado a utilizarse para detectar automáticamente vulnerabilidades en software. Sin embargo, estos modelos generan numerosas alertas falsas porque no comprenden adecuadamente el contexto de los resultados de escaneo. Los expertos en seguridad pasan horas adicionales manejando estos falsos positivos, lo que dificulta la identificación de amenazas reales.
Los modelos evalúan fragmentos de código únicamente mediante patrones basados en palabras, sin considerar la arquitectura general de la aplicación, las interacciones del usuario o los límites del sistema. Esta limitación puede hacer que los equipos de seguridad pierdan tiempo valioso y que vulnerabilidades críticas pasen desapercibidas.
Desarrolladores y expertos en seguridad desean que estas herramientas desempeñen un rol de apoyo, pero actualmente no pueden utilizarse como herramientas de toma de decisiones confiables sin intervención humana.