画像生成AIの学習GPU時間を最大63％削減、バイトダンスが新手法「DiffusionOPSD」公開

　中国バイトダンスの研究組織「ByteDance Seed」やシンガポール国立大学などの研究チームは8月25日、画像生成AIなどに使われる拡散モデルの学習を効率化する新手法「DiffusionOPSD」を発表した。

　DiffusionOPSDの特徴は、AIが自分で生成した画像を使って、自分自身の学習方法を改善していく点にある。研究チームはこれを「オンポリシー自己蒸留」と呼んでいる。

　画像生成AIで使われる拡散モデルは、最初は砂嵐のようなノイズから始め、それを少しずつ取り除きながら画像を完成させる。従来の学習方法では、主に完成した画像を見て「良い」「悪い」と評価していた。このため、画像を作っている途中で「次はどちらの方向に直せば、もっと良い画像になるのか」をモデルに教えるのが難しかったという。


　DiffusionOPSDは、この「途中の段階」にも学習の手がかりを与え、現在のモデルが作った生成途中の状態について、評価用のAIである「報酬モデル」を使い、どちらへ修正すれば評価が上がるのかを判断する。その結果から「こちらへ進むと良い」「こちらは避けたほうがよい」という学習用の目標を作り、モデル自身に学ばせる。

　さらに、一度の学習結果だけに大きく左右されないよう、過去の学習結果も少しずつ取り込みながら次の学習に反映する。論文では「指数移動平均（EMA）」と呼ばれる方法を使っている。

　つまり、完成した画像だけを採点するのではなく、画像を作っている途中でも「こっちへ進んだほうがいい」と教えるのがDiffusionOPSDの考え方だ。これによって、より少ない学習時間で画像生成AIの性能を高めることを狙う。

　研究チームは、Stable Diffusion 3.5 Mediumを基にした「SD3.5-M」と、少ないステップで画像を生成する「Z-Image-Turbo」の2種類で性能を検証した。10種類の評価指標を使った計20の条件のうち、DiffusionOPSDは19条件で最も高い最終評価を記録した。最も性能の高かった既存手法と比べても、評価値は最大44.0％高かったとしている。実験結果はプロジェクトページでも公開している。

　特に大きな差が出たのが学習時間だ。8基のGPUを使った実験では、SD3.5-Mを100回更新するために必要なGPU時間が、比較対象のDiffusionNFTでは47.2時間だったのに対し、DiffusionOPSDでは28.2時間と、約40％の削減に成功したという。