米Anthropicが最新のAI脅威報告書公開、バイブハッキングなど新たな脅威警鐘

　　Anthropicが公開した報告書は2025年12月から2026年8月にかけて同社が検知し阻止したAIの悪用事例を分析したものである。対象となった領域はサイバー攻撃や影響工作および監視活動から詐欺、生物兵器への悪用、通常兵器開発、モデルの蒸留の7分野にわたる。生物分野では研究者が特定のモデルに設けられたアクセス制限やガイドラインを回避し学術文献の継ぎ接ぎに見せかけてプロンプトを入力したケースが5件確認されている。

　また人間が詳細な技術的コマンドや攻撃コードを一つひとつ指示するのではなく、大まかな目標や方針（Vibe）を与えるだけで、攻撃の調査・戦略立案・スクリプト作成・実行・改善までの大部分をAIエージェントに自律的に行わせる攻撃手法「バイブ・ハッキング（Vibe Hacking）」が浸透しており、サイバー攻撃の拡大に警鐘をならしている。

　これらの事例はいずれもAnthropicの中枢システムが直接侵害されたわけではなく顧客企業の環境から流出したAPIキーやセッショントークンが悪用された結果である。 報告書によれば攻撃者は盗み出したAPIキーを主に3つの目的で利用している。第一に闇市場での転売による利益獲得であり、第二に攻撃インフラの運用にかかる計算費用を被害者に負担させること、第三に正規の所有者に偽装して自身の攻撃トラフィックを隠蔽することである。

　実例としてある脅威グループはAIベンダーの評価用環境に悪意ある指示を送り込んで本番用のAPIキーを奪取しそのキーを用いて数日の間に約30社のAI企業に対して連続的な攻撃を行っている。 格安でのAI利用を謳う非公式な中継サービスや再販業者の危険性も浮き彫りになっている。

　利用者が安価なサービスを通じてAIにアクセスしようとした際、実際には通信が別のモデルに流されその過程でAnthropicアカウントの認証情報が盗まれて他の再販業者に売却される事例が確認された。利用者の同意を得ずに会話ログを保存し他のAI開発企業に学習用データとして転売している中継業者も存在するという。

　これにより利用者は意図せず自らのデータを流出させ予期せぬ高額請求を受けるリスクに晒されている。 これらの脅威に対抗するためAnthropicは2026年9月1日に新たなセキュリティ機能であるEnterprise Frontier Safeguardsを発表した。この仕組みは金融機関や医療機関など厳格なデータ保護が求められる企業向けに設計されており、AIモデルの推論ログやプロンプト履歴をAnthropic側ではなく顧客企業が管理するクラウド環境に直接保存する。

　顧客自身が管理する暗号化キーを使用することでAnthropicの従業員であってもデータの内容を閲覧できない状態を維持しつつ自動化された監視システムが不正利用の兆候を検知した場合にのみ顧客側のセキュリティ部門へ直接警告を通知する。このシステムは主要なクラウドプラットフォームと連携して提供されAIの安全な活用とデータプライバシーの両立を図る方針である。