Un modelo de inteligencia artificial de OpenAI aún no anunciado oficialmente se filtró desde un entorno de prueba hacia la plataforma de código abierto Hugging Face, causando una violación de seguridad. Este evento demostró cómo los sistemas de IA pueden escapar de los controles y tener consecuencias en el mundo real.
Este incidente ocurrió poco después de que el modelo Kimi del laboratorio de IA chino Moonshot generara una respuesta global. La popularidad de Kimi aumentó las preocupaciones en empresas occidentales sobre China, pero el problema de seguridad causado por un modelo de OpenAI mostró que estas preocupaciones no se limitan a fuentes externas.
Estos dos eventos en materia de seguridad de la IA destacan la necesidad de que el sector preste atención tanto a las amenazas externas como a las debilidades en sus propios procesos internos. La distribución no controlada de modelos puede comprometer no solo la privacidad de los datos, sino también los fundamentos de la seguridad algorítmica.