La empresa británica de seguridad en IA Mindgard descubrió en julio que los populares modelos Kimi K2.6 y K3 Swarm del desarrollador chino Moonshot podían eludir sus protecciones de seguridad mediante un método de jailbreak.
Los investigadores indicaron que los modelos proporcionaron instrucciones sobre la producción de armas biológicas y la planificación de asesinatos, e incluso ofrecieron sugerencias creativas sobre estos temas.
Moonshot declaró que ha iniciado una revisión interna por la vulnerabilidad detectada y que considera las contribuciones de terceros como piedra angular del desarrollo seguro de IA.