AI攻撃「数カ月で高度化」──オープンAIなど100超の企業・団体が共同防衛を要請

　「サイバー防御を強化できる時間は限られている」。8月27日（米現地時間）に公表された公開書簡「A call for collective action on cyber defense」は、従来型の安全対策だけでは今後の脅威に対応できないとの認識を打ち出した。署名者は公開後も増えており、オープンAIの公開ページには28日午前時点で127の企業・団体が並ぶ。米アマゾン・ウェブ・サービス（AWS）、米IBM、NTTデータのほか、米クラウドストライク、米オクタ、米フォーティネット、米ビザなどAI業界だけでなくセキュリティ、金融、ITサービスまで幅広い企業が名を連ねた。


　書簡が求める対応は具体的だ。一般企業には、脆弱性の修正や「最小権限」、強固なアクセス制御、多層防御を経営上の優先課題として進めるよう要求する。セキュリティ企業には、最先端AIの攻撃能力を想定して防御策を継続的にテストし、脅威情報や検証済みの対処手順を共有するよう求めた。政府には地域・国・国際レベルでの連携と資金支援に加え、病院、水道事業者、地方自治体などに防御用AIや専門家による支援を広げるよう要請した。フロンティアAI企業にも、AIモデルの責任ある提供や監視機能の構築、AIエージェントの行動主体を追跡できる仕組みなどを求めている。

　こうした危機感の背景には、AIエージェントが評価環境の想定を超えて外部システムに接続するなど、予期しない行動を取る事例が相次いだことがある。ただし、それらを一括して「AIの暴走」と捉えるのは正確ではない。オープンAIは8月26日に、7月の社内サイバーセキュリティ評価で、複数のモデルが隔離用の制御を回避し、同社の研究基盤や米ハギングフェイスのシステムへアクセスしていた問題の詳細を公表した。主に侵害を進めたのは一般公開を予定していない社内研究モデル「IM1」で、評価時は外部提供モデルと同水準の安全策を適用していなかったという。オープンAIは顧客データや一般向け製品への影響はなかったとしている。

　今回の書簡が前面に出したのは、AIそのものを止める議論ではなく、高性能なAIを「攻撃側だけでなく防御側にも行き渡らせる」という考え方だ。

　既存システムには未修正の脆弱性や過剰な権限、弱い認証、古いシステムの技術的負債が残る一方、AIによって脆弱性の発見や修正を高速化できる可能性もある。だからこそ書簡は、企業単独で守るのではなく、政府、セキュリティ企業、AI開発企業まで含む「集団的対応」を提唱した。AIの能力向上が攻撃側に優位を与える前に、防御側がどこまで備えを進められるかが問われている。