社内利用かなり進むが…「特定LLM依存」はマズイ理由、まだ誰も気づいてない重大問題

ありがとうございます！
いいね！した記事一覧をみる

会員になると、いいね！でマイページに保存できます。

ここ数年で、企業による生成AIの導入・活用が急速に進展している。特に大企業を中心に大手ベンダーが提供する大規模言語モデル（LLM）の導入が進み、資料要約や議事録・プレゼン資料の自動作成、RAGを用いた社内チャットボットの開発など、業務の補助的な利用が定着してきている。そして今、AI活用の最前線では、企業の業務データの根幹となる顧客情報や機密情報と生成AIを組み合わせるような「業務内の本格利用」が検討されている。しかし、この活用段階に至った多くの企業は、共通して“ある壁”に直面している。本記事では、生成AI活用で「次のステージ」に移るための重要なポイントを解説する。

特定のベンダーのLLM・AIサービスに依存すると…何が問題になるのか？

（Photo/Shutterstock.com）

生成AI活用「次のステージ」目指す企業が直面する悩み

　ここ1～2年で、生成AIの業務利用は大きく進展した。たとえば、ChatGPTやGeminiのような汎用的な生成AIサービスを利用して資料作成・要約を効率化したり、RAGを用いた社内チャットボットを開発して問い合わせ対応を改善する取り組みが増えてきている。

　こうした第1段階の取り組みに続き、最近では、社内の機密情報と生成AIを掛け合わせて、新たな価値を創出する仕組みや業務プロセスの完全自動化の仕組みなどが検討され始めている。企業は今まさに、生成AIの「次なる活用」を模索するフェーズに入っているのだ。

　このように機密情報と生成AIの掛け合わせを考える場合、社内外のシステムと外部の生成AIサービスの連携を検討する場面が出てくる。しかしその際、多くの企業は、次のような“悩み”に直面する。

■「次の生成AI活用」を模索する企業が直面する壁
・利用しているクラウド型AIサービスと、顧客情報を扱う社内システムを接続しても大丈夫なのか…

・API経由で接続されるクラウド型AIサービスは、推論サーバが国外に設置されることもある。これは情報漏えいや法的リスクにつながらないか不安だ…

・セキュリティの観点から、クラウド提供されるAIサービスを、そのままオンプレミスに移行させたいが、実現可能な方法はあるのだろうか…

　そして、これら悩みの他にも、ほとんどの企業が認識すらしていない“ある重大なリスク”が隠れているという。ここからは、生成AI活用における懸念・不安を解決し、生成AI活用で「次のステージ」に進むためのポイントを解説する。