Strataの公式推奨構成と生成速度まとめ - RAM・VRAM別のモデル選び｜npaka

1. StrataとはStrataは、GPUとCPUで計算を分担し、VRAM・RAM・SSDを活用して、大規模なMoEモデルを一般的なPCで動かすことを狙ったオープンソースの推論エンジンです。 現在は「Qwen3.8-Flash-Next」を中心に、その派生モデルや量子化モデルに対応しており、125Bパラメータ級のモデルをRTX 5070 12GBのようなGPUでも実行できます。 2. 対応モデルと量子化方式2-1. 対応するLLMStrataが対応する主なLLMは次の3種類です。 ・Qwen3.8-Flash-Next：総125B、アクティブ約3BのMoEモデル ・Qwen3.6-35B-A3B：総35B、アクティブ約3BのMoEモデル ・DeepSeek V4.1-Flash-1017：総552B、アクティブ8B（入力時）/16B（生成時）のMoEモデル 対応状況には違いがあり、Qwe