リコー、日本語向け安全性判定AIを小型化　Gemma 4ベースで従来並みの判定性能を維持

　リコーは10月20日、ニュースリリースで、生成AIへの入力や出力が安全かどうかを判定する、日本語向けセーフガードモデルの改良版を開発したと明らかにした。ガードレール機能を組み込んだ大規模言語モデル（LLM）で、入出力に含まれる有害情報を検知し、生成AIの安全な利用を支援する。

　ベースモデルは「gemma-4-E4B-it」に切り替えた。従来モデル「Llama-Ricoh-SafeGuard-20260520」と同等水準の安全性判定性能を保ちながら、モデルを小型化し、より少ない計算資源で使えるようにしたという。オンプレミス環境など、利用できる計算資源に制約のある環境にも導入しやすくなると説明している。

　評価では、F1スコアが入力用評価データで0.900（従来モデルは0.891）、出力用評価データで0.942（同0.952）だった。

　あわせて、安全性の判定基準を見直した。LLMの性能向上により、従来は安全上の懸念から一律に制限していた内容でも、利用目的や文脈に応じて有用かつ適切な回答ができるケースが増えたためとしている。必要以上に利用を制限せず、安全性を確保しながらLLM本来の有用性を生かす運用を支援するという。

　新モデルは、あらかじめ学習した13種類の一般的な有害カテゴリーに加え、ユーザーが用途や運用ポリシーに応じて任意の判定ラベルを追加できる。モデルの追加学習は不要で、業界固有のルールや企業ごとのガイドラインを簡易的に反映できるとしている。

　新モデルは、11月から順次、リコージャパンが提供する「RICOH オンプレLLMスターターキット」に標準搭載して提供する。リコーは今後も、安全性と実用性を両立するAI技術の開発と実装を進めていくとしている。