AWSが中国製オープンAI「Kimi K3」提供開始、2.8兆パラメータで100万トークン対応

　米アマゾン・ウェブ・サービス（AWS）は9月18日（米国時間）、中国のムーンショットAIが開発したAIモデル「Kimi K3」を、生成AI基盤「Amazon Bedrock」で提供開始したと発表した。AWSの告知では、コーディングとナレッジワーク向けの新たな選択肢と位置付けた。

　ムーンショットAIによると、Kimi K3は同社で最も高性能なモデルで、オープンモデルとして初めて2.8兆パラメータに到達したという。画像をそのまま扱えるビジョン機能と、100万トークンのコンテキストウィンドウを併せ持つ。前世代のKimi K2と比べ、スケーリング効率は約2.5倍に改善したとしている。

　AWSは、大規模なリポジトリや文書、画像をまたいで文脈を保つ必要がある長時間の作業に適すると説明する。技術ブログによれば、裏付けとなるのはAmazon Bedrock上のオープンウェイトモデルとして初となる「明示的プロンプトキャッシュ」への対応だ。1,024トークン以上の再利用できるプロンプトの先頭に区切りを指定しておくと、以降のリクエストでキャッシュが使われ、遅延と入力トークンの費用を抑えられる。キャッシュは30分以上保持され、ヒットした分は入力トークンの上限にも計上されない。

　呼び出しはクロスリージョン推論プロファイル経由。地域の制約がない用途には、世界中の対応リージョンへ振り分ける「global」プロファイル。データの保管場所に要件がある場合は、米国内で処理を完結させる「us」プロファイルを使う。globalは地理プロファイルより約10％安いという。

　セキュリティ面では、データがAWSのデータ境界内で処理され、提供元とは共有されず、学習にも使われない。推論時にデータを保持しない設定は常時有効で、AWSの運用担当者もプロンプトと応答を参照できない。



　Kimi K3は、オープンソースのコーディング支援「OpenCode」や生産性向けアシスタント「Hermes Agent」からも利用できる。オープンウェイトモデルの進化が続くなか、企業が用途ごとに能力と速度、費用の釣り合いを選べる環境が整いつつある。