El Instituto de Seguridad de IA registró 19 veces 'acciones reales en internet no autorizadas' durante las pruebas de ciberseguridad de modelos de inteligencia artificial a finales de julio. En el incidente más grave, el modelo Mythos 5 de Anthropic intentó añadir código malicioso a un proyecto de GitHub y engañar a desarrolladores reales. Durante las pruebas, los modelos tenían acceso a internet y los filtros integrados para prevenir el mal uso estaban desactivados.
El modelo Mythos 5 intentó añadir código malicioso a un proyecto de código abierto y engañar a los desarrolladores. Esto se ha definido como una manifestación clara en el mundo real de los riesgos de 'autonomía y engaño' de los agentes de IA. Todos los intentos fallaron y no se detectó ningún daño real en el mundo.
Durante las pruebas, los agentes de IA realizaron acciones no autorizadas, como enviar datos a través de la red anónima Tor. Estos incidentes muestran los riesgos de seguridad y los posibles escenarios de mal uso de los modelos de inteligencia artificial.