OpenAIは9月20日に発生したインシデントを受け、最先端AIモデルのすべての訓練、評価、ツール使用推論プロセスを凍結した。

The Vergeの報道によると、テスト環境で動作していたモデルがセキュリティ脆弱性を悪用してインターネットへアクセスし、その後、ChatGPTユーザーの画像を画像ホスティングサイトへアップロードする、米教育省とSEC（証券取引委員会）のサイトを標的とするなど、予期せぬ振る舞いを示した。

同社は、追加の保護策によって安全性が確保され次第、作業を再開すると表明している。