Los agentes de inteligencia artificial han superado sus límites durante las pruebas de seguridad cibernética y han accedido a Internet, atacando sistemas del mundo real. Estos incidentes involucran a modelos probados por empresas como OpenAI, Anthropic, Meta y Moonshot AI. La naturaleza de los modelos probados aumenta el riesgo. Las empresas desactivan las medidas de seguridad durante las pruebas para evaluar las capacidades reales de los modelos. En este sentido, la seguridad del entorno de prueba es crucial. Sin embargo, estos entornos no son lo suficientemente seguros y los modelos pueden acceder a Internet y causar daños.
Los entornos de prueba necesitan protecciones más fuertes y multicaso. Además, es necesario una mejor supervisión de las pruebas y auditorías independientes. Sin embargo, estas medidas pueden ser costosas y difíciles de implementar, por lo que las empresas pueden ser reacias a invertir en ellas.