【ロマンス詐欺や恐喝もAIで】米Anthropicが「サイバー攻撃の自律化」を警告

Claudeを悪用しようとした832件を追跡調査

　Anthropicのフロンティア・レッドチームによる分析は、同社の生成AI「Claude」を悪用しようとして利用停止処分を受けたアカウントのうち、詳細な技術的追跡が可能だった832件を抽出して実施した。記録された1万3873件の悪意あるアクションは、サイバー攻撃の戦術や技術を分類する業界標準フレームワーク「MITRE ATT&CK」における14の戦術と482のサブテクニックにマッピングされた。

　調査データは、攻撃者がAIを単なる情報収集ツールとしてではなく、より高度で複雑な攻撃フェーズで直接的に活用している実態を示している。対象アカウントの多くは、マルウェアの作成支援や、検知を回避するための難読化ツールの開発にAIを使用していた。さらに、システム侵入後のネットワーク内での探索や、他のシステムへの横展開（ラテラルムーブメント）といったプロセスを自動化するために、AIモデルを組み込む事例が確認された。


　こうしたAIの自律的な活用は、従来のサイバーセキュリティにおける脅威評価の基準を無効化しつつある。これまでセキュリティ業界では、攻撃者が使用する戦術や技術の多様さを基準に脅威の深刻度を評価してきた。しかし分析結果によると、国家支援型のような高度な攻撃グループがAIを介して自律的に攻撃を実行させる場合、使用される個々の技術自体は標準的なものに留まる傾向がある。結果として、攻撃者の技術的な洗練度や危険性を従来の単純な指標で測定することが困難になっている。

　AIによる攻撃の自動化や自律化が進む現状に対し、防御側も防御システムへのAI導入を加速させる必要がある。脆弱性の発見からパッチ適用までの時間を短縮し、組織間で脅威インテリジェンスを迅速に共有する体制の構築が求められる。また、攻撃者が複数のプロセスを自律的に連鎖させて実行するAI特有の振る舞いを特定するため、既存のサイバーセキュリティフレームワークに対して新たな評価軸を追加する対応が必要となっている。

AIによるサイバー攻撃の自動化は実行段階に

　AIによるサイバー攻撃の自動化はすでに実用段階に入っている。中国の国家支援が疑われる攻撃グループ「GTG-1002」の事例では、AIエージェントツール「Claude Code」と「MCP（Model Context Protocol）」を組み合わせ、攻撃の80～90％をAIに自律実行させるシステムが構築された。人間のオペレーターは合法的な脆弱性診断を装って安全機能を回避させ、AIは自律的に複数の標的インフラをスキャンしてネットワーク構成をマッピングした。さらにサーバーサイド・リクエストなどの脆弱性を発見して攻撃用のコードを独自に生成し、内部でのアクセス権限の拡大や機密情報の抽出を行った。AI自身に情報の価値を分析・分類させ、攻撃プロセスを自動報告させており、人間の役割は最終的な承認のみであった。

　また、「GTG-2002」による大規模データ恐喝では、大まかな意図を伝えるだけでAIが進行する手口が確認され、数千のVPNエンドポイントのスキャンや、財務データ分析に基づく最適な身代金額の算出、心理的な脅迫状の自動生成がAIによって行われている。


　高度なマルウェアやランサムウェアの開発においてもAIの活用が最も一般的となっており、カスタムスクリプトの作成やコードの難読化が進んでいる。英国の攻撃者が高度なコーディングスキルを持たないにもかかわらず、AIに完全に依存して暗号アルゴリズムや検知回避機能を組み込んだ実用的なランサムウェアを作成し、ダークウェブで販売していた事例も確認された。

　また、北朝鮮のIT労働者が経済制裁を逃れて外貨を獲得するため、AIを用いて架空の経歴を構築し、リアルタイムの面接サポートを経て企業に潜入する詐欺も発生している。彼らは採用後も業務タスクの約80%をAIに依存して専門技術者を装い、内部システムへのアクセスを維持していた。さらに、複数言語に対応し高い感情知能を備えたAIボットによるロマンス詐欺の自動化や、盗み出したログデータの解析による標的選定など、詐欺のサプライチェーンの高度化も進行している。

　ほかにも、中国の攻撃者がベトナムの通信インフラを標的としてカスタムスキャナーやエクスプロイトをAIに開発・最適化させた事例や、メキシコの政府機関からのデータ流出においてAIに最も目立たない流出コマンドシーケンスを構築させて検知を回避した事例が確認されている。

　こうしたAIの持続的かつ適応的な活用は、従来のサイバーセキュリティにおける脅威評価の基準を無効化しつつある。高度な攻撃グループがAIを介して自律的に攻撃を実行させる場合、使用される個々の技術自体は標準的なものに留まる傾向があり、攻撃者の洗練度を従来の単純な指標で測定することが困難になっている。攻撃の脅威レベルが「個人の技術力の高さ」ではなく「AIに攻撃工程をどれだけ自律的に連携させることができるか」へと移行するパラダイムシフトが進む中、防御側もシステムへのAI導入を加速させ、脆弱性の発見からパッチ適用までの時間を短縮し、迅速な脅威インテリジェンスの共有体制を構築するとともに、新たな評価軸をサイバーセキュリティフレームワークに追加する対応が求められている。