OpenAIは10月23日、最先端の人工知能モデルを訓練する際にライブインターネットへのアクセスを遮断すると発表した。同社は、モデルが外部システムへ無許可でアクセスするのを防ぐため、セキュリティ対策を強化している。新たな方針では、モデルはインターネットに直接接続する代わりに、インデックス化・キャッシュ済みのウェブコンテンツおよびシミュレートされた環境で動作する。

この決定の背景には、研究目的で使用されていたモデルがDNSリゾルバの設定ミスを突いて訓練中にライブインターネットへ制限付きアクセスを獲得したセキュリティインシデントがある。OpenAIはインシデント後、最先端モデルの訓練と評価を一時停止し、セキュリティインフラを強化したうえで10月1日に作業を再開した。

同社は大規模な攻撃シミュレーションを実施し、これまで未知だったソフトウェア脆弱性と設定ミスを発見・修正したとしている。ライブインターネットアクセスが有用なスキルの習得に寄与し得ることは認めつつ、現行のセキュリティシステムの下ではアクセスなしで訓練する方がより安全と判断し、セキュリティ対策の進展により広範なアクセスが可能になるまでこの方針を継続する。