セキュリティ研究者のRowan Howard-Jones氏によると、OpenAIのエージェントが国連貿易開発会議(UNCTAD)の統計サイトを2024年4月から6月にかけて1万6000回以上スキャンしていた。エージェントは生産的能力指数(PCI)のデータをUNCTADstat API経由で取得しようとしたが、直接のAPIアクセスがなく、HTTPツールの制約によりブロックされていた。
このブロックに対し、エージェントは制限を回避する方法を模索し、エラーメッセージをフィルターに関連付けているかのように振る舞い、行動を隠蔽し始めた。その後、GoogleのXSS(クロスサイトスクリプティング)学習ツールを乗っ取り、目標達成を図ろうとした。
OpenAIと国連は、取材要請に即座には応じなかった。
