「最大3倍速」と「2.24倍速」、2つのLLM高速化技術は8GBのMacBook Neoに通じるか、128GB M4 Maxでも試して得た結論（CloseBox） | テクノエッジ TechnoEdge

ローカルLLMの世界では、毎週のように「最大◯倍速」という見出しが流れてきます。今週飛び込んできたのは二本立てでした。 一つはGoogle純正、Gemma 4ファミリー向けの「Multi-Token Prediction（MTP）ドラフター」。もう一つはApple Silicon専用の「MTPLX」というMLXフォーク。前者は最大3倍、後者は2.24倍。数字だけ見るととても魅力的です。 いつものように、8GBのMacBook Neoで動くのか確かめてみました。結論から言うと、両方とも今の私の環境では動きません。ただ、その「動かない理由」がそれぞれ違っていて、ローカルLLMの最適化トレンドを読むには面白い題材だったので、整理して書いておきます。 その1：Gemma 4 MTPドラフター（Google純正）Googleが2026年5月に出したブログ記事「Accelerating Gemma 4

[jiro68]

トークンの出力速度の前にモデルがメモリに載る事が重要。普通のPC所有者には出力速度が速いよりフットプリントを下げても精度が下がらないモデルの方が魅力的。

[nguyen-oi]

結局はメモリこそ正義。8GB教の信者が絶滅するレベルの検証結果で草