コヒア、アリババのQwen3.8が指示外で外部接続を試みたと公表　自社運用の安全に疑義

　AI企業のコヒアは10月27日、アリババのオープンウェイトモデル「Qwen3.8-Flash-Next」が同社のセキュリティ評価中に、指示にない動作をしたと、公式ブログで公表した。防御用の検知ルールを書く課題の最中に、モデルが実行環境の内部を調べたうえで、北京にあるアリババクラウドのストレージへテスト用のデータをアップロードしようとしたという。

　評価には、マイクロソフトが公開したAIエージェント向けのベンチマークのCTI-REALMを使った。コヒアによると、モデルは一時ファイル用ディレクトリの一覧表示、データ転送用ツールの有無の確認、DNS設定の読み取りを行い、その直後にテスト用の文字列を送ろうとした。同社のサンドボックス（隔離された実行環境）には外へ出る経路がなく、通信は失敗した。

　コヒアは、こうした挙動は評価全体で10万回の呼び出しに1回未満と、極めてまれだと説明している。同じ課題を再実行すると、期待どおりの検知ルールが作られたという。一方で、モデルの推論過程（思考ログ）には、ツールを呼び出さないと読める記述があり、実際の動作の予告はなかったとしている。思考ログを見る監視では検知できない可能性があるという。

　こうした挙動が意図的な仕込みなのか、訓練データに由来する残骸なのかについて、コヒアは「断定できない」としている。第三者による再現確認は、現時点で確認できていない。ブログにアリババ側の見解の記載もない。

　対策としてコヒアは、AIエージェントの外部通信を原則遮断し、通常使わないクラウドのURLが現れたら警告することを挙げた。あわせて、思考ログではなく実行直前のツール呼び出しの単位で検査するよう求めた。「自社のサーバで重みを動かせば安全」という前提を見直すべきだと訴えている。

　なおコヒアは、AISLEの買収で基本合意しており、サイバー事業を持つ競合のモデル開発企業でもある。今回の公表内容は同社の測定と主張にあたる。