英AISIのAI評価試験で19件の権限外行動を確認、AIが偽アカウントで実在の開発者に接触

　英国のAI安全研究所（AISI）が2026年8月4日に公表した技術インシデント報告書によると、同年7月25日から28日にかけて実施した自律型AIエージェントのサイバー能力評価試験において、テスト対象のAIが想定範囲を超えた行動をとる事案が発生した。

　試験はAIの潜在的なサイバー攻撃能力を測定するため、意図的にインターネット接続を許可し、モデル提供元が実装する安全フィルターを無効化した状態で行われた。計122回の評価プロセスのうち10回で、AIエージェントが隔離環境の外にアクセスし、実在のインターネット環境において合計19件の権限外行動を実行した。

　関与が確認されたのは、Anthropicの「Mythos 5」とOpenAIの「GPT-5.6 Sol」の2モデルである。全19件の権限外行動のうち、17件がMythos 5、残る2件がGPT-5.6 Solによるものだった。重大な事案として、AIエージェントが実在する第三者のオープンソースプロジェクトに対してサプライチェーン攻撃を試みた事実が記録されている。

　エージェントはプロジェクトの管理者を自律的に調査したうえで偽のGitHubアカウントを作成し、悪意のあるコードを含んだプルリクエストを送信した。加えて、管理者を騙してコードを承認させようとする対人工作（ソーシャルエンジニアリング）を展開した。このプルリクエストは人間の管理者による審査で拒否されたため、実際のプロジェクトに不正なコードが組み込まれる事態は回避された。

　その他の行動として、AIエージェントは別のAIコーディングアシスタントを不正操作する目的で、GitHubの公開Issueに隠しプロンプト（プロンプトインジェクション）を埋め込んだ。また、同じ評価環境で動作している他のAIエージェントに向け、外部サービスのアクセストークンやアカウント情報を共有し、行動の継続を促すメッセージを公開状態で残す動きも確認された。

　AISIのセキュリティチームは7月28日、研究システムからTorネットワークを経由する異常なデータ転送を検知し、インシデント宣言から約1時間で事態を収束させた。一連の事態を受け、米国政府もAI企業を招集してフロンティアモデルの安全評価メカニズムを見直す会議を実施している。