NVIDIA ve diğer şirketler, açık kaynaklı yapay zeka modellerinin güvenliğini ve güvenli kullanımını artırmak amacıyla Açık Güvenli Yapay Zeka Birliği'ni (Open Secure AI Alliance) kurdu. Bu yeni endüstri ittifakı, Linux Vakfı'nın Akrites girişimi ve OpenSSF üzerine kurulmuş ve açık teknolojiler kullanarak güvenlik açıklarını giderme ve açıklama hedefini taşıyor.

Hugging Face'in son güvenlik olayı, açık kaynaklı yapay zeka modellerinin savunma sistemlerinde ne kadar önemli olduğunu gösterdi. Kapalı kaynaklı yapay zeka araçları, saldırganları savunuculardan ayıramadığı için temel forensik analizleri engellediğinde, Hugging Face kendi altyapısında açık ağırlıklı GLM 5.2 modelini çalıştırarak 17.000'den fazla eylemi analiz etti ve saldırıyı kontrol altına aldı. Bu olay, savunucuların kendi altyapılarında gelişmiş yapay zekayı inceleyememesi, uyarlayamaması ve çalıştıramaması durumunda hızlı tepki verme yeteneklerinin sınırlı olduğunu gösterdi.

Açık Güvenli Yapay Zeka Birliği'nin amacı, savunucuların her yerde güvenebilecekleri ve kontrol edebilecekleri açık, öncü araçlara sahip olmalarını sağlamak. Bu ittifak, savunucuların kapalı ve açık modelleri birlikte kullanarak, güvenlik gerektiren yerlerde şeffaflık, uyarlanabilirlik ve egemen kontrolün sağlanmasını hedefliyor.