NVIDIA y otras empresas han fundado la Alianza de IA Abierta y Segura (Open Secure AI Alliance) con el objetivo de mejorar la seguridad y el uso seguro de los modelos de inteligencia artificial de código abierto. Esta nueva alianza industrial está construida sobre la iniciativa Akrites y OpenSSF de la Linux Foundation, y tiene como objetivo abordar y divulgar las vulnerabilidades de seguridad utilizando tecnologías abiertas.
El reciente incidente de seguridad de Hugging Face destacó la importancia de los modelos de inteligencia artificial de código abierto en los sistemas de defensa. Cuando las herramientas de inteligencia artificial de código cerrado impiden que los defensores realicen análisis forenses básicos al no poder distinguir a los atacantes de los defensores, Hugging Face ejecutó el modelo GLM 5.2 de pesos abiertos en su propia infraestructura para analizar más de 17.000 acciones y controlar el ataque. Este evento mostró que la capacidad de los defensores para responder rápidamente se ve limitada cuando no pueden examinar, adaptar y ejecutar inteligencia artificial avanzada en su propia infraestructura.
El objetivo de la Alianza de IA Abierta y Segura es proporcionar a los defensores herramientas abiertas y de vanguardia en las que puedan confiar y controlar en cualquier lugar. Esta alianza busca que los defensores puedan utilizar modelos abiertos y cerrados juntos, garantizando transparencia, adaptabilidad y control soberano en los lugares donde se requiere seguridad.