Nvidia, Microsoft, SpaceX y otras grandes empresas tecnológicas han lanzado una nueva alianza llamada Open Secure AI Alliance para proteger los sistemas de inteligencia artificial y la infraestructura crítica de las amenazas cibernéticas. La alianza reúne a líderes en áreas como la computación en la nube, la ciberseguridad, el software empresarial, las fundaciones de código abierto y la investigación de inteligencia artificial.
La alianza tiene como objetivo hacer que los sistemas de inteligencia artificial sean más seguros mediante el desarrollo de herramientas y técnicas de código abierto. Nvidia proporciona modelos abiertos, pesos de modelo, datos y investigaciones de agentes para la alianza. La alianza defiende que los modelos abiertos pueden proporcionar importantes ventajas en el campo de la ciberseguridad.
La alianza reconoce que los modelos abiertos pueden ser utilizados de manera maliciosa, pero señala que estos riesgos existen tanto en los sistemas abiertos como en los cerrados. La alianza defiende que los sistemas abiertos deben utilizarse con medidas de protección sólidas, reglas de uso malicioso abiertas, evaluación cuidadosa y corrección rápida.