Qwen3-235B-A22BをMacStudio512GBで動かす｜shi3z

M3 Ultraを搭載したMacStudioに512GBのRAMを積むと地味に最強のLLM推論マシンができることはよく知られている。最近、この手の話で相談を受けるとまず最初にMacStudioに512GBを積むことを提案する。 というのも、もしも同じだけの容量をNVIDIA製のGPUでやろうとすると最低でも数千万円かかる。しかしMacStudioなら、512GBまでRAMを積んでも150万円で済む。この圧倒的コスパの良さ。そして実際に数千万円するNVIDIA A100 80GBx8マシンと、150万円のMacStudio 512GBマシンで出力を比較すると、ほとんど同じスピードで同じ結果になる。さすがにこれはちょっと驚いた。 というわけで今回もOllamaで4ビット量子化モデルを試してみた。 % ollama run qwen3:235b-a22b-q4_K_M同じ質問を投げてみる。 「U