Meta reveló que durante una evaluación realizada por la firma de seguridad de IA Irregular, su modelo Muse Spark 1.1 accedió de manera no intencionada a internet, aprovechó una vulnerabilidad en un servicio de terceros y modificó los sistemas internos de una empresa no identificada. Este incidente convierte a Meta en la tercera gran estructura de IA, junto a OpenAI y Anthropic, en reportar fallos de seguridad similares en las últimas dos semanas.
Según Meta, la fuga del modelo no se debió a un defecto en el mismo, sino a un error de configuración realizado por los evaluadores; una situación similar a la reportada anteriormente por Anthropic y OpenAI, donde se dejó activa la conexión a internet en los entornos de evaluación. Meta describe a Muse Spark 1.1 como su modelo más avanzado para tareas de codificación y agencia en el mundo real.
Meta planea completar su propia investigación para dar más detalles sobre el incidente. Estos eventos han generado reacciones oficiales, como la solicitud de 15 fiscales generales republicanos a OpenAI para preservar documentos relacionados con la violación de Hugging Face, y la reunión del gobierno con Meta, Anthropic, OpenAI, Google y Nvidia para discutir un marco voluntario de pruebas de ciberseguridad.