- 2026/10/02 04:22 掲載
米AWS、判断特化の小型AI「Strands Decider 2B」公開 エージェントの判断を約0.1秒で
同モデルは、文章を自由に生成するLLM(大規模言語モデル)とは異なり、用意された選択肢から1つを選んだり、0?1の数値で評価したりする「意思決定モデル」に分類される。判断ごとに信頼度のスコアを返せる点が特徴だ。たとえば「3日前から支払いが失敗している」という問い合わせを請求、営業、小売のどの担当に回すべきかを尋ねると、請求を最も高い確率で選ぶ例を示している。米TypeSafe AIが9月に「Jev」を発表して以降、注目が集まっている分野だという。ただし複雑な問題の解決や文章の生成はできず、コーディングや要約には向かないとしている。
精度と信頼度の正確さを測るJevBenchの公開セットでは、20億パラメータ級の33モデル中3位、20億をわずかに超えるモデルを除くと30モデル中1位だった。判断にかかる時間は、エヌビディアのGPU「RTX 3090」で中央値約115ミリ秒、アップルの「M3」搭載MacBookでも小さなタスクなら約153ミリ秒という。
用途としては、使うモデルの振り分けやツールの選択、出力の評価、ガードレール、記憶や文脈の管理などで成果が出始めているとした。難しい判断はLLMに任せ、定型的な判断を同モデルで処理することで、コストと応答の遅れを抑える使い方も試されているという。コードはGitHubで入手できる。
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR