Las protecciones de seguridad integradas en los modelos de inteligencia artificial están diseñadas para evitar usos maliciosos, pero también dificultan el trabajo de los expertos en defensa cibernética. Los investigadores utilizan herramientas de IA para probar si una falla de software representa una amenaza real; sin embargo, las protecciones impiden que los modelos respondan a estas preguntas, retrasando los procesos de análisis.
Algunos expertos señalan que estas protecciones son inconsistentes y excesivamente restrictivas. Por ejemplo, un modelo puede responder a una pregunta un día y negarse a hacerlo al día siguiente, obligando a los investigadores a perder tiempo intentando comunicarse con el modelo. Por esta razón, muchos equipos de investigación prefieren modelos de código abierto que funcionan localmente y no están controlados, a pesar del riesgo de fuga de datos.
Algunos investigadores indican que la IA solo se utiliza para tareas de apoyo, como análisis de código y desarrollo de herramientas, mientras que ellos mismos siguen siendo responsables de descubrir vulnerabilidades críticas y crear exploits. Sin embargo, en casos donde las protecciones son demasiado estrictas, se observa un aumento en la migración desde sistemas estadounidenses hacia modelos de código abierto chinos. Esta tendencia podría cambiar el rumbo de la dependencia tecnológica en el campo de la ciberseguridad.