オープンAI「Astra」の新推論技術に懸念…“思考監視”の限界が焦点に

　米ITメディアのジ・インフォメーションは9月1日（現地時間）、米オープンAIが開発中の次期AIモデル「Astra」で、「再帰的深度（recurrent depth）」または「反復型トランスフォーマー（looped transformer）」と呼ばれる手法を使っていると、開発事情を知る関係者の話として報じた。オープンAI自身は、この手法のAstraへの採用を公式には明らかにしていない。

　再帰的深度は、モデルが次の語を出力する前に同じ計算ブロックを繰り返し利用し、内部の「潜在空間」で処理を深める考え方だ。2025年のNeurIPS採択論文では、35億パラメータの試作モデルを使った実験で、推論時の計算量を増やすことで数学やコーディングなどの性能が向上したと報告されている。AIが回答に至るまでの推論過程を言葉で示すCoTとは異なり、言葉として表現されにくい処理を内部で進められるのが特徴となる。


　安全面で問題になるのは、この内部処理が増えれば、人間や別のAIが読めるCoTから得られる情報が減る可能性がある点だ。ジ・インフォメーションによると、オープンAIはAstraで再帰的深度の利用を限定しており、モデルはなお判読可能なCoTを生成し、研究者が推論を監視できる状態にしているという。つまり、現時点で「Astraの思考が監視不能になった」とするのは正確ではない。

　AIの思考過程を監視しにくくなることへの懸念が重く受け止められる背景には、Astraそのものの高い能力がある。オープンAIは9月1日、Astraが同社のPreparedness Framework（準備状況評価の枠組み）でサイバーセキュリティ能力の「重大」しきい値を満たした初のモデルだと発表した。適切なツールとアクセス権があれば、人間が各手順を指示しなくても、厳重に保護された多数のシステムで未知の脆弱性を見つけ、悪用手法を開発できる水準だとしている。

　このためオープンAIはAstraに、従来以上の監視策を組み込む。同社によると、モデルによる不整合な行動を素早く検知して封じ込めるため、「思考の連鎖の追加監視」を導入する。モデルの推論と行動を分類器群で確認し、無許可の可能性がある活動を自動停止する仕組みも本番環境へ導入するという。

　一方で、CoT監視にはもともと限界がある。オープンAI自身も、CoTを監視する手法は、モデルの行動や最終回答だけを監視するより多くのケースで有効だったとする一方、学習方法やモデル規模の変化によって「監視可能性」が失われる可能性を指摘している。

　こうした中、AI安全研究者からは、Astra自体よりも、その「次」に対する警戒が出ている。潜在空間で行う推論が今後大幅に拡大すれば、人間が読めるCoTによる監視が損なわれかねないとの懸念だ。一方、オープンAI側は、CoTの監視可能性の維持・強化を研究上の重要課題に位置付けている。

　今回浮かび上がったのは、AIの能力や効率を伸ばすための設計変更が、人間がAIを監督するための手掛かりを同時に減らす可能性があるという問題だ。Astraではそのバランスを維持しているとされるが、再帰的深度のような技術が今後さらに拡張された場合、性能競争と監視可能性をどう両立させるかが、AI開発各社にとって一段と大きな課題になる。