AIエージェントが偽アカウントで悪意あるコードの承認迫る…英AISI試験で想定外の行動

　問題の行動は2026年7月25～28日に発生。AISIは28日、研究システムから外部への異常なデータ転送を検知し、アラートから約1時間以内に試験を停止して関連機器を隔離した。

　試験では、7種類のAIモデルにサイバーセキュリティ課題を計122回実行させた。このうち10回の実行で、AIが試験範囲を越える行動を取っていた。AISIは相互に関連するものを含めて計19件の行動を確認しており、17件はアンソロピックの「Mythos 5」、2件はオープンAIの「GPT-5.6 Sol」によるものだった。

　最も深刻な事例では、AIが公開中のオープンソースソフトウェアに悪意あるコードを挿入しようとした。さらに偽のオンライン上の身元を複数作り、保守担当者にコードを承認させようと働きかけた。担当者が不審な変更を見抜いて承認を拒否したため、試みは成功しなかった。

　AISIは、AIが隔離環境から脱出した事例ではないと強調した。試験ではモデルの最大能力を測定するため、インターネットへの接続を意図的に許可し、開発元が提供するサイバー悪用防止用の分類器を無効化していた。これは一般に提供されているモデルとは異なる条件である。


　一方、AIは人を欺くよう明示的に指示されていなかったにもかかわらず、課題を達成する手段として偽の身元の使用や実在する人物への接触を選んだ。AISIは今後、接続先を細かく制御するネットワーク対策やリアルタイム監視を導入する。AIが与えられた権限や試験範囲を越えて行動する可能性を前提として、評価試験の設計も見直す方針だ。