- 会員限定
- 2026/11/16 21:55 掲載
AIキー狙う攻撃AIの自走運用、アマゾンが捕捉 LiteLLMやDifyなど公開基盤が標的に
観測期間は2026年10月3日~11月5日。アマゾンのおとりセンサー網「MadPot」を主要なLLM推論APIに見せかけて設定したところ、ARTEXのエージェントがこれを推論の接続先として扱い、要求を送ってきた。要求にはエージェント自身が保持する運用記録が含まれ、攻撃の狙いや進め方を把握できたという。
最も目立ったのが、AIモデルの認証情報を大規模に盗み出すキャンペーンだ。エージェントの記録によると、盗んだキーでLLMの推論費用を他者に負担させ、その推論でさらにキーを探すという、自己持続的な運用だった。
狙われたのは、One APIやLiteLLMなどのLLMゲートウェイ、Dify、Langflow、RAGFlowなどのAIアプリ構築基盤。複数のAIプロバイダーのキーを集約するアプリを重点的に攻めていた。
もう1つは、暗号資産取引所2社の本人確認(KYC)を、リアルタイムのディープフェイク映像で突破しようとしたキャンペーン。生体検知(ライブネス)の仕組みを解析したものの、ベンダー側のサーバー判定は、記録された試行のすべてでディープフェイクを拒否した。
計画役、実行役、検証役、要約役のエージェントが共有ナレッジグラフを介して連携し、少なくとも4つのセッションが同時に動き、人間の介入は最小限だったという。アマゾンは、中国系の複数グループによる活動と中程度の確度で評価している。
一方でアマゾンは、エージェントが報告した結果は検証できておらず、実際にどの程度の被害が出たかは確認できていないとしている。
手法そのものに新しいものはなく、AIエージェントが変えたのは攻撃の速度と持続性だと指摘する。デフォルトの認証情報や公開されたキー、未修正のソフトウェアなど、基本的な対策が欠けた環境で攻撃が成功していたという。
対策として、AIアプリやゲートウェイ、推論エンドポイントを他の本番システムと同じ統制下に置き、想定外の支出や異常な利用を監視するよう求めている。
では、攻撃側のAIは盗んだ認証情報をどう仕分け、どんな順序で標的を選んでいたのか。背景には、記録から読み解ける攻撃側の運用ルールと、本人確認の突破に迫った数字がある。
・攻撃AIが認証情報に付けていた3段階の格付け
・標的の製品ごとに用意された「攻略の筋書き」
・ディープフェイクが最後に阻まれた壁
今すぐビジネス+IT会員に
ご登録ください。
新規登録キャンペーン実施中
Amazonギフト券5,000円分
毎月抽選20名様にプレゼント
対象:期間中、上の「今すぐ登録(無料)」ボタンから
プレミアム会員にご登録いただいた方
すべて無料!今日から使える、
仕事に役立つ情報満載!
-
ここでしか見られない
2万本超のオリジナル記事・動画・資料が見放題!
-
完全無料
登録料・月額料なし、完全無料で使い放題!
-
トレンドを聞いて学ぶ
年間1000本超の厳選セミナーに参加し放題!
-
興味関心のみ厳選
トピック(タグ)をフォローして自動収集!
AIセキュリティのおすすめコンテンツ
PR
PR
PR