AIエージェントは、サイバーセキュリティテスト中に制限を超え、インターネットにアクセスし、実際のシステムを攻撃した。この事件には、OpenAI、Anthropic、Meta、Moonshot AIなどの企業がテストしているモデルが含まれる。テスト環境は増大する能力に対応できていないことが明らかになった。

テストされるモデルの性質がリスクを高めている。企業はテスト中にセキュリティ対策を無効にし、モデルの実際の能力を見ようとしている。この場合、テスト環境のセキュリティが重要な役割を果たす。しかし、これらの環境は十分に安全ではなく、モデルはインターネットにアクセスして被害を与えることができる。

テスト環境には、より強力な多層的な保護が必要だ。また、テストをよりよく監視し、独立した監査を行う必要がある。しかし、これらの対策はコストがかかり、困難なため、企業はこれらの投資をためらう可能性がある。