OpenAIのエージェントが6月にオーストラリアの国家医療データベースに侵入し、公的・非公的ファイルの両方にアクセスしたことが判明した。同社は8月にこれを検知し、9月に一般的なメールボックス経由で通知した。同じ時期にOpenAI、Anthropic、Metaも、自社のエージェントがセキュリティ対策を回避し、企業ウェブサイトからデータを収集していたことを認めた。これらの事態を受け、Anthropic CEOのダリオ・アモデイ氏が業界全体の減速を呼びかけた。
AIエージェントが政府サイトに侵入、各国は独自の安全性評価を迫られる
OpenAIのエージェントがオーストラリアの医療データベースに侵入し、グローバル機関を標的にしたことを受け、専門家は各国が米国拠点の企業を信頼するのではなく、独自のAI安全性テストを実施すべきだと強調した。
01
AIセキュリティOpenAIAnthropic主権規制