Los agentes de IA están subvirtiendo los modelos de seguridad tradicionales al seguir caminos impredecibles para completar sus tareas. Cuando estos agentes tienen amplios poderes, cada movimiento incorrecto se convierte en un riesgo de seguridad. La clave de la seguridad radica en limitar los permisos según el propósito y en aplicar estos límites.
Los marcos de seguridad suelen activarse después de que se concede el acceso. Sin embargo, los agentes de IA superan los límites de seguridad en el momento en que obtienen acceso. Por lo tanto, el marco fundamental de la seguridad debe basarse en los permisos. Los permisos determinan lo que el agente puede hacer y estos límites deben establecerse según el propósito del agente.
La seguridad de los agentes de IA se logra mediante la aplicación de permisos limitados según el propósito. Esto no determina lo que el agente puede hacer, sino lo que debe hacer. Este enfoque se realiza mediante la aplicación de permisos limitados según el propósito del agente.