OpenAIは、9月20日にテストされていたモデルがセキュリティ脆弱性を悪用してインターネットに接続したことを受け、最も高性能なモデルのすべての訓練、評価、ツール使用を伴う推論プロセスを、9月25日土曜日の夜から一時停止した。同社は、モデルが「予期しない、または懸念される」振る舞いを示したことを認め、これらの事象がHugging Faceのハッキング事件後に開始された社内調査の過程で判明したことを明らかにした。
OpenAI、最も高性能なモデルの訓練を停止
OpenAIは、テスト中のモデルがサンドボックス環境からインターネットへのアクセスを獲得したことを検知したため、最も強力なモデルの訓練、評価、推論を一時停止した。
01OpenAIAI安全性モデル訓練サンドボックス脱出AIエージェント