Strata ベースにして GLM 5.3 Flash runner つくったメモ

最近(2026/09/30) Strata で qwen3.8 flash next を民生 CPU/GPU 実行流行りね. GLM5.3Flash も走らせたいよね... やりましょう! できました. threadripper 1950x DDR4 160 GB(~40 GB/s) . 32 GB x 4 + 16 GB x 2 5060 Ti ~12GB VRAM Q2(~100GB) で prefill 100 ~ 150 tok/s ダケド, decode は 7 tok/s くらい. prefill はよりつよつよ GPU で早くなる可能性アリ decode はよりつよつよ CPU とメモリ帯域必要ネ. さらなる高みへ たぶん DDR5 + 9950X とかだと 20 tok/s は出るカモ. Mac とかはわかりません. メモリ帯域あげたい Speed: 2133 MT/s C