NVIDIAをはじめとする企業が、オープンソースAIモデルのセキュリティと安全な利用を強化するため「オープンセキュアAIアライアンス(Open Secure AI Alliance)」を設立した。この新しい産業同盟は、Linux FoundationのAkritesイニシアチブとOpenSSFを基盤としており、オープン技術を活用して脆弱性の修正と公開を目指している。
Hugging Faceの最近のセキュリティ事件は、オープンソースAIモデルが防御システムにおいてどれほど重要かを示した。クローズドソースのAIツールは攻撃者と防御者を区別できず、基本的なフォレンジック分析を阻害するため、Hugging Faceは自社インフラでオープンウェイトのGLM 5.2モデルを実行し、17,000件以上のアクションを分析して攻撃を制御した。この事件は、防御者が自社インフラで高度なAIを検査・適応・実行できない場合、迅速な対応能力が制限されることを示した。
オープンセキュアAIアライアンスの目的は、防御者が信頼し、制御できるオープンで先進的なツールを提供すること。この同盟は、防御者がクローズドとオープンのモデルを併用し、セキュリティが必要な場面で透明性・適応性・主権的コントロールを確保することを目指す。
