Varonis ha incorporado una nueva función a su plataforma Atlas para controlar el comportamiento de los agentes de IA. El Control de Acceso Basado en Intención (IBAC) detecta inconsistencias entre las instrucciones y las acciones de los agentes para bloquear comportamientos riesgosos. El sistema puede intervenir en tiempo real para evitar que los agentes excedan los límites establecidos.
IBAC evalúa los riesgos potenciales comparando las acciones de los agentes con sus instrucciones. Por ejemplo, si un usuario solicita información sobre el clima, el sistema puede evitar que el agente realice acciones no autorizadas, como acceder a herramientas que puedan comprometer los datos. El sistema monitorea las acciones de los agentes en tiempo real, detecta inconsistencias y realiza las intervenciones necesarias.
IBAC es parte del enfoque de seguridad de IA de Varonis Atlas. Esta función permite a las organizaciones utilizar agentes de IA de manera segura, asegurando que se mantengan dentro de los límites establecidos. El sistema monitorea las acciones de los agentes en tiempo real para bloquear comportamientos riesgosos y proteger la seguridad de las organizaciones.