5.31GBで動く三値LLM「Maple-Preview」— DeepGroveがうたう13倍高速の中身

iPhone をローカルAIモデルの実行環境として示すイメージ
目次

この記事のポイント

  • いつ:2026年8月5日ごろ公開(ソースにより8月4〜5日で表記が割れています)
  • 何が:米拠点の独立系AIラボ DeepGrove が、オンデバイス向け軽量LLM「Maple-Preview」を MIT ライセンスで公開
  • 規模:MoE構成で総パラ約200億(20.2B)・アクティブ14.9億(1.49B)。チェックポイント5.31GB、コンテキスト長131,072トークン
  • なぜ重要:後付けの量子化ではなく学習段階から三値で訓練されており、手元のMacやスマートフォンで動かす前提の設計になっています
  • 読者は何をすべきか:まず chat.deepgrove.ai で挙動を試す。ただし「PrismML製Bonsai 27B(1bit版)比13倍高速」はDeepGroveの自社測定であり、独立した検証はまだありません

アクティブ14.9億パラメータで動く総パラ約200億のMoE、MITライセンスで公開

Maple-Preview は、手元の端末で動かすことを前提に設計されたオープンなLLMです。DeepGrove が2026年8月5日ごろに公開し、ライセンスは商用利用も改変も許す MIT が採用されています。デモサイト chat.deepgrove.ai が用意されており、環境構築なしで応答を確かめられます。

構成は MoE(Mixture of Experts=入力ごとに一部の「専門家」ネットワークだけを起動する方式)で、総パラメータは約200億(20.2B)。一方で1トークンあたり実際に計算に使われるアクティブパラメータは14.9億(1.49B)にとどまります。総パラの規模を持ちながら、推論時の計算量は小型モデル並みという設計です。

後付け量子化ではなく「学習段階から三値」— 2bitパックで5.31GB、131,072トークン

軽さの理由は、重みの持ち方そのものにあります。Maple-Preview の重みは {-α, 0, +α} の三値(ternary)で、行ごとにスケール係数 α を持ち、2bit にパックして格納されます。結果としてチェックポイントは5.31GB、コンテキスト長は131,072トークンです。

24層Transformer・256エキスパート中8個をトークンごとに起動する内部構造

内部は24層の Transformer で、各層に256個のエキスパートを持ちます。トークンごとに起動するのはそのうち8個だけで、これがアクティブパラメータ14.9億という数字の実体です。

「学習後に潰す」量子化モデルと何が違うのか

一般的な軽量化は、通常精度で学習し終えたモデルの重みを後から低ビットに丸める post-hoc 量子化です。Maple-Preview は学習段階から三値で訓練された natively-trained ternary であり、DeepGrove はこの出自を差別化点として示しています。精度の劣化がどこで生じるかという前提が、既存の量子化モデルとは異なるわけです。

M4で169〜218 tok/s、M5 Proはdecode 359〜395 tok/s — ただし数字は測定環境で割れる

速度は公式GitHubのREADMEに実測表が掲載されています。重要なのは、実行系(MLX版か llama.cpp か)・ハード・実行モード(--flash-head 近似の有無等)で数字が変わる点で、混ぜて読むと誤解します。

実行環境ハードdecodeprefill
MLX版M4169〜218 tok/s(--flash-head の有無で変動)1,075 tok/s
MLX版M5 Pro359〜395 tok/s3,773〜3,857 tok/s
llama.cpp(CPU-only・16スレッド)M5 Pro161〜252 tok/s(最速は TQ2_0+Q4_K 構成)513〜618 tok/s
iPhone(報道ベース)機種未公表最大127 tok/s未公表

出典:mlx-lm-deepgrove(github.com/deepgrove-ai/mlx-lm-deepgrove) / llama.cpp(DeepGrove版)(github.com/deepgrove-ai/llama.cpp)。iPhone の127 tok/s は報道ベースの数値で、測定機種が公表されていません。自分の環境の目安を取るなら、同じ実行系・同じオプションの行だけを見比べてください。

「13倍高速」の分母を確かめる — 比較相手はPrismML製Bonsai 27B、測ったのはDeepGrove自身

見出しで独り歩きしやすい「13倍高速」は、DeepGrove が自社で行った比較の結果です。DeepGrove はデモで、iPhone上の同一プロンプトに対して Maple-Preview が約10秒、比較対象の PrismML製 Bonsai 27B(1bit版)が約6分で応答したと示しています。倍率としての「13倍」はこれとは別に、スループット比較(Maple-Previewの127 tok/s に対し、Bonsai 27B〔1bit版〕を9.6 tok/sとした算出)に基づくとされ、いずれもDeepGrove側の測定です。

比較相手の「Bonsai 27B」は DeepGrove のモデルではなく、Caltech系スタートアップ PrismML が公開している Qwen3.6-27B ベースのモデルで、1bit版(3.9GB・iPhone等スマートフォン向け)と三値版(5.9GB・ノートPC/GPU向け)の2種があります。iPhone上の比較で使われたのは1bit版で、分母(9.6 tok/s)はDeepGrove自身の測定値です。第三者による独立検証は現時点で確認できません。

紛らわしい同名モデル: DeepGrove自身の「Bonsai」は5億パラメータの別物

DeepGrove 自身も「Bonsai」という名前の自社モデル(5億パラメータ)を別に持っており、名称が衝突しています。速度比較の文脈で語られる Bonsai 27B は PrismML 製である、という区別を押さえておく必要があります。

9.6 tok/s換算 vs PrismML公式の約11 tok/s・第三者測定8〜10 tok/s

DeepGrove が示した比較対象(PrismML製 Bonsai 27B の1bit版)の速度は9.6 tok/sです。一方 PrismML 自身が公表している1bit版の値は iPhone 17 Pro Max で約11 tok/s、第三者測定は8〜10 tok/s と幅があります。DeepGrove の測定値(9.6 tok/s)は PrismML 公式値(約11 tok/s)よりやや低く、どちらの数字を分母に置くかで「13倍」という倍率は変わりうるため、条件つきの主張として読むのが妥当です。

AIME2026で87.5%、一方でモデルカードは「エージェント用途は劣る可能性」と明記

ベンチマークのスコアは公開されていますが、測られている土俵は数学・コーディング寄りです。

ベンチマークMaple-Preview
AIME202687.5%
HMMT202678.8%
LiveCodeBench v675.1%
GPQA-Diamond73.5%
4種平均78.7%

表のAIME2026・87.5%はMaple-Preview自身のスコアです。PrismML製Bonsai 27B(三値版)のAIMEも87.5〜90.8%とされ、数値が近接するため混同に注意が必要です(いずれも独立検証はありません)。加えて Maple-Preview 自身の Hugging Face モデルカードは「エージェント用途の post-training が最小限のため、エージェント系ベンチでは性能が劣る可能性がある」と自ら注記しています。得意領域はローカル推論・数学・コーディングであり、ツール連携を伴う自律エージェントの土台として選ぶ場合は別途の検証が要ります。

触るならまずchat.deepgrove.ai、動かすならGGUF版 — 5.31GBの置き場所を先に確認する

手を動かす順番は、試用→ローカル実行の2段が現実的です。まず chat.deepgrove.ai で応答の質と速度感を確かめ、そのうえでローカルに落とすかを判断します。

ローカル実行なら、Apple Silicon では MLX 版、CPU 中心なら GGUF 版のモデルカードが入口です。チェックポイントは5.31GBなので、ストレージの空きとメモリの余裕を先に確認しておくと手戻りがありません。MIT ライセンスのため、社内ツールへの組み込みや改変も許諾条件の範囲で自由に検討できます。

5.31GBというサイズは、自分の端末に収まるかどうかを手元のストレージとメモリだけで判断できる規模です。オープンウェイトのモデルが MIT ライセンスでこの容量に収まって出てきたこと自体が、ローカル実行を前提にした選択肢を一段広げます。

まとめ

Maple-Preview は、総パラ約200億・アクティブ14.9億の MoE を、学習段階から三値で訓練することで5.31GBに収めたオンデバイス向けモデルです。M4 で decode 169〜218 tok/s、M5 Pro で359〜395 tok/s という公式実測は、ローカル推論の現実的な水準を示しています。

一方で「13倍高速」は DeepGrove 自社測定によるもので、分母(9.6 tok/s)はPrismML公式値(約11 tok/s)よりも低い値です。ベンチスコアも独立検証を待つ段階です。まずはデモサイトで自分の用途に合うかを確かめ、数学・コーディング寄りの得意領域と、開発元自身が認めるエージェント用途の弱さを踏まえて採否を決めるのが安全です。

編集後記

総パラ200億のモデルが5.31GBのチェックポイントに収まると聞いて、私はつい自分の手元の空き容量を数えていました。ただ13倍の分母にあたる9.6 tok/s が DeepGrove 自身の測定値だと知ると、速さの物差しを誰が握っているのかが気になります。モデルカードが自ら不得手を書き添えているところには、かえって好感を持ちました。

— CODE. 編集部

Photo: Rami Al-zayat on Unsplash

シェアいただけると励みになります!m(_ _)m
  • URLをコピーしました!
目次