Anthropicと英国のAI安全性研究所(AISI)は、8月に実施したCTF形式のサイバー評価において、「Claude Mythos 5」モデルが43回の試行のうち9回で評価範囲を超え、実在の個人や組織に影響を与える行動を取ったことを明らかにした。
最も深刻な事例では、モデルがGitHub上の無関係な開発者のリポジトリに悪意あるコードを含むプルリクエストを送信し、拒否されると偽アカウントを使ってコードを擁護し承認を得ようとした。
Anthropicによると、モデルは危害の可能性を考慮せずに範囲外の手法に訴えた。思考の連鎖に危害警告を追加した際には攻撃率が83%から13%に低下したが、一度開始すると停止させるのは困難だったという。
