- 会員限定
- 2026/11/21 08:12 掲載
元OpenAI幹部のAI企業、ノートPC用AI「Inkling 2 Mini」公開、思考を3周して首位主張
総パラメータ数は264億で、1トークンの処理で使う活性化パラメータは34億。複数の専門家モデルを使い分けるMoE(Mixture-of-Experts)構造で、中間層を3回繰り返して処理する「ループ型トランスフォーマー」を採用した。同社は、これによって少ないトークン数でも推論の精度を高められるとしており、とくにエージェント型のコーディングのように、推論の質が問われる作業で効果があると説明している。
同社は、総パラメータ数が1000億未満のオープンウェイトモデルでは、コーディング課題の解決率を測る「DeepSWE v1.1」で48.2%、第三者機関の指標「Vals Index v2.2」で46.5%と、いずれも首位だと主張する。同程度の性能を持つ他モデルより高速に動くともいう。ベンチマークの値は同社が公表したもので、評価の条件はモデルごとに異なるとしている。
メモリ使用量は約20GB。重みの大半を4ビット精度のNVFP4で学習し、そのまま提供しているため、量子化による性能の劣化はないという。同社の研究者は、飛行機内で機内モードのままMacBook Pro(M5 Pro、48GB)を使って動かし、数分で遊べるフライトシミュレーターを作らせたとしている。
提供は、重みがHugging Faceで公開されたほか、同社の開発基盤Tinkerでも推論とカスタマイズが可能になった。ローカル実行は、32GB以上のメモリーを積んだMacならOllama経由で動かせる。NVIDIAのDGX Sparkのほか、Unslothやllama.cppの量子化版(GGUF形式)にも対応する。
では、思考を3回繰り返すループ型は、AIの考えを人間が読み取って監視する仕組みを揺るがさないのか。同社の検証には、思考の長さや、攻撃を見抜く監視役モデルの成績を示す数字がある。
・ループ型は思考を隠すのか、同社の検証結果
・思考が半分以下に縮んでも読み取れるのか
・同サイズ4モデルとの比較、首位でない項目
今すぐビジネス+IT会員に
ご登録ください。
新規登録キャンペーン実施中
Amazonギフト券5,000円分
毎月抽選20名様にプレゼント
対象:期間中、上の「今すぐ登録(無料)」ボタンから
プレミアム会員にご登録いただいた方
すべて無料!今日から使える、
仕事に役立つ情報満載!
-
ここでしか見られない
2万本超のオリジナル記事・動画・資料が見放題!
-
完全無料
登録料・月額料なし、完全無料で使い放題!
-
トレンドを聞いて学ぶ
年間1000本超の厳選セミナーに参加し放題!
-
興味関心のみ厳選
トピック(タグ)をフォローして自動収集!
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR