生成AI学習の新手法「Explorative Modeling」を米研究チーム発表、データ効率は6.2倍

生成AIの「第3の事前学習軸」とは何か

　米イリノイ大学アーバナ・シャンペーン校と米ハーバード大学の研究チームは、生成モデルの新たな学習手法「Explorative Modeling」を発表した。モデルの規模と学習データ量に続く「第3の事前学習軸」として、学習時に生成候補を探索する量を増やす考え方を提案した。

　著者はイリノイ大学アーバナ・シャンペーン校のアレクシ・グラッドストーン氏とヘン・ジー氏、ハーバード大学のイルン・ドゥ氏。研究チームは手法のコードも公開している。

　生成AIの事前学習では一般に、モデルのパラメーター数を増やすことと、学習に使うデータ量を増やすことが性能向上の主要な軸とされてきた。これに対し、研究チームはモデルが学習時に作る「候補の数」を増やすことも、性能を拡張する軸になると主張する。

　Explorative Modelingでは、モデルが1つの正解だけを予測するのではなく、学習データに対応する複数の生成候補を作る。その中から実際のデータと最もよく合う候補を選び、その候補を基にモデルを更新する仕組みだ。

　研究チームは、この処理を「K個の候補を探索し、最も適切な対応関係で学習する」方法と説明する。論文では、同手法を使うモデルを「Explorative Models」と呼んでいる。従来の生成モデルでは、1つの入力に複数の妥当な出力が存在する場合、それらの中間的な結果を予測し、画像などがぼやける問題が起こり得る。

　たとえば「犬の画像を生成する」という指示には、犬種や姿勢、背景などが異なる多数の正解がある。しかし、モデルがそれらを単純に平均化すると、どの正解にも明確に対応しない出力になりかねない。

　XMは複数の候補を生成し、その中からデータに近いものを選んで学習することで、異なる正解の平均ではなく、いずれかの明確なパターンを捉えやすくするという。

データ効率6.2倍、推論処理を最大256分の1に

　研究チームは、画像、動画、言語の連続値と離散値の双方を使って検証した。その結果、探索量を増やすほど性能が一貫して改善したとしている。具体的には、通常の手法と比べ、同等の性能を得るための学習データ量を示すサンプル効率が最大6.2倍、計算量に対する効率が4.1倍に向上した。モデルのパラメーター効率も47％改善したという。

　また、学習データを増やした際に探索がもたらす性能改善幅は7％から36％へ拡大。モデルを大きくした場合も改善幅が13％から23％へ増えた。モデルやデータの規模が拡大するほど、探索による効果も大きくなる可能性を示した。

　画像生成では、画像認識・生成モデルの評価に使われるImageNetの256×256ピクセル画像を対象に検証した。既存の「Representation Autoencoder」にXMを組み合わせたモデルは、追加のガイダンスを使わない条件で、生成画像の品質を測るFIDが1.43となった。

　FIDは生成画像と実画像の特徴分布の距離を測る指標で、数値が低いほど実画像に近いとされる。研究チームは、この結果を同条件における最高水準に近い性能と位置づけた。

　XMは、推論時の処理回数を減らせる可能性も示した。拡散モデルは、ノイズから画像や行動を生成するまでに何度も計算を繰り返す。高品質な生成が可能な一方、推論時間と計算コストが増えやすい。一方、XMは複数候補を探すための計算を主に学習段階で行い、推論時には少ない処理で結果を出す。研究チームは、生成処理を細かく分割する代わりに、学習処理を分割する考え方だと説明する。

　ロボットの動作を学習する行動模倣タスクでは、XMを使ったモデルが「Diffusion Policy」と同程度の性能を、100回の処理ではなく1回のニューラルネットワーク処理で達成したという。

　目的地までの動きを予測する世界モデルの評価でも、拡散モデルを使う「Diffuser」と同等の性能を維持しながら、モデルの計算回数を16分の1から256分の1に減らしたとしている。

　ただし、研究チームはXMにも制約があると説明する。学習時に探索する候補数が増えるほど計算負荷が高まり、極めて多くの異なる正解を持つデータ分布を低コストで網羅することは難しいという。また、ロボット制御の実験では、比較対象となる拡散モデルを研究チームの環境で再実装している。一部の条件は元の研究と完全には同一でない。画像生成の数値も、特定のデータセットやモデル構成における研究結果であり、あらゆる生成AIで効率が6.2倍になることを示すものではない。

　現段階では研究手法で、商用の画像生成AIや大規模言語モデルへの採用は明らかになっていない。それでも、モデルとデータを拡大する競争に加え、学習時にどれだけ多様な候補を探索させるかが、新たな性能競争の焦点になる可能性がある。