生成AI活用の「足を引っ張る」想定外コスト増、ガートナー解説「10の対処法」とは

生成AI活用に潜む「隠れたコスト増」とは

　生成AIのビジネス活用が急速に進む現在だが、その裏には、アーキテクチャに関する不適切な判断、運用ノウハウの欠如、不十分なガバナンスなどによるコスト急増のリスクが隠れている。

　推論処理にかかる費用や、プロンプト設計・モデル選定などの運用フェーズに潜む“隠れたコスト”は、想定以上の負担となることが少なくない。

　そんなコスト増に関して、「現在、多くの日本企業は生成AIの活用において初期段階にあるが、今後は社内全体やより広範なユースケースへの展開が進んでいくと見られます。その際に必ず課題として浮上するのが“コスト”です」と指摘するのが、ガートナー リサーチ＆アドバイザリ部門 バイス プレジデント,アナリストの桂島航氏だ。


　桂島氏によると、ガートナーが実施したグローバル企業を対象にした調査でも、コストは2番目に大きな課題として挙げられているという。

「今後、特定の専門家だけでなく、社員全体で活用されるようになると、使用量が急激に増加し、コストも跳ね上がります。さらに、マルチモーダル対応の進展により、画像や動画といった生成対象が増えることで、追加のリソース消費が発生し、コストの加速に拍車をかけています」（桂島氏）

　では、こうしたコスト増加を回避しつつ、企業が効果的な生成AI活用を進めていくにはどのようなアプローチが有効なのだろうか。 【次ページ】コスト最適化「10のベストプラクティス」