Trim, un actor de habla rusa, analizó modelos de lenguaje grandes de código abierto y desarrolló métodos para superar sus límites de seguridad. Estas técnicas de jailbreak permiten que los sistemas de IA interpreten comandos no deseados, creando oportunidades para usos maliciosos más allá de las pruebas de seguridad.
Posteriormente, integró estas técnicas con herramientas automáticas de ciberataque. Así, los sistemas de IA se convirtieron en instrumentos para pruebas de penetración, recolección de datos y ataques de ingeniería social en sistemas objetivo. Esta integración permite llevar a cabo ataques con menos intervención humana.
Este avance demuestra que las vulnerabilidades en las pruebas de seguridad de los modelos de IA no son solo problemas técnicos, sino que pueden transformarse en plataformas de ataque activas. Los expertos en seguridad han comenzado a desarrollar nuevos métodos para detectar y prevenir este tipo de ataques.