Los sistemas de inteligencia artificial corporativa, utilizados para tareas como búsqueda de documentos, generación de contenido y automatización de procesos empresariales, pueden convertirse en una herramienta que acelera la exploración y el robo de datos para los atacantes en caso de que se comprometan identidades autorizadas. Los asistentes de IA pueden acceder directamente a información sensible mediante identidades legítimas, en lugar de requerir la inspección manual de miles de archivos.
Los atacantes utilizan la inteligencia artificial para generar correos de phishing, escribir código y personalizar mensajes engañosos. Estas aplicaciones no alteran fundamentalmente la cadena de ataque, pero aumentan la eficiencia operativa. Por ejemplo, algunos grupos de ransomware emplean bots de chat impulsados por IA para negociar con las víctimas, permitiéndoles comunicarse simultáneamente con un mayor número de organizaciones.
Para reducir estos riesgos, la medida más básica es aplicar el principio de mínimo privilegio a los sistemas de inteligencia artificial. Los permisos de acceso de las aplicaciones de IA deben limitarse únicamente a los datos y sistemas estrictamente necesarios para su función. Además, monitorear todas las interacciones de IA, bloquear transferencias de datos sospechosas y exigir aprobación humana para operaciones de alto riesgo fortalecen la defensa de seguridad.