https://b.hatena.ne.jp/entry/s/dev.classmethod.jp/articles/dgx-spark-2node-deepseek-v4-flash-0731/ DeepSeek V4 Flash-0731 を DGX Spark 2 台で動かし、llama.cpp と vLLM の 2 つの構成を実測で比べました。284B のモデルがローカルで実用になり、vLLM なら decode 76 tok/s、90 万トークンのプロンプトも通り... https://b.hatena.ne.jp/yamamototarou46542/20260814#bookmark-4791426273935240546 2026-08-14T09:06:42Z あとで読む https://b.hatena.ne.jp/kyahi227/20260812#bookmark-4791426273935240546 一般的利用で90万トークン流すことないと思うがTTFT14分はアホだろ 2026-08-12T08:17:55Z https://b.hatena.ne.jp/tashiromachi001/20260812#bookmark-4791426273935240546 2026-08-12T05:14:43Z https://b.hatena.ne.jp/writers-high/20260812#bookmark-4791426273935240546 2026-08-12T00:08:11Z あとで読む https://b.hatena.ne.jp/ryshinoz/20260812#bookmark-4791426273935240546 2026-08-11T23:22:00Z https://b.hatena.ne.jp/agricola/20260812#bookmark-4791426273935240546 どうでもいいがユニファイドメモリは121ギビバイトなんだっけ？ 2026-08-11T23:21:30Z https://b.hatena.ne.jp/simplememofast/20260812#bookmark-4791426273935240546 decodeの2台分散が約2%しか落ちないのは層間転送が数十KBでRDMA往復0.7msに埋もれるため。実用の壁はprefill側で、90万トークンのTTFT約14分が長文の律速になる 2026-08-11T22:14:01Z https://b.hatena.ne.jp/drk7jp/20260812#bookmark-4791426273935240546 2026-08-11T19:46:13Z https://b.hatena.ne.jp/dd41kk/20260812#bookmark-4791426273935240546 2026-08-11T15:20:16Z https://b.hatena.ne.jp/nezunezuchu/20260812#bookmark-4791426273935240546 2026-08-11T15:10:08Z https://b.hatena.ne.jp/tanakamama/20260811#bookmark-4791426273935240546 2026-08-11T14:59:08Z https://b.hatena.ne.jp/kei_1010/20260811#bookmark-4791426273935240546 2026-08-11T14:16:48Z https://b.hatena.ne.jp/beeworks/20260811#bookmark-4791426273935240546 2026-08-11T14:06:55Z https://b.hatena.ne.jp/nguyen-oi/20260811#bookmark-4791426273935240546 284Bモデルがローカル2台構成で76 tok/s出るの時代が進みすぎててびびる 2026-08-11T13:09:51Z https://b.hatena.ne.jp/mstk_knife/20260811#bookmark-4791426273935240546 2026-08-11T13:00:50Z あとで読む https://b.hatena.ne.jp/s1061123/20260811#bookmark-4791426273935240546 2026-08-11T07:56:49Z https://b.hatena.ne.jp/mcddx30/20260811#bookmark-4791426273935240546 2026-08-10T21:51:55Z