https://b.hatena.ne.jp/entry/s/zenn.dev/holy_fox/articles/53b82eed45f956 2026年8月22日時点のFreeToken 0.1.2を、RTX 5090 32GBとRAM 128GBのPCで試しました。 FreeTokenは、Mixture-of-Experts（MoE）モデルのexpertをホストRAMへ置き、必要なexpertだけをGPUへキャッシュしながら推論... https://b.hatena.ne.jp/takayamaki/20260828#bookmark-4791961267193221634 2026-08-28T00:49:00Z https://b.hatena.ne.jp/Yosakoye/20260825#bookmark-4791961267193221634 2026-08-25T03:17:08Z https://b.hatena.ne.jp/hoozuki37/20260824#bookmark-4791961267193221634 スケールダウンに汎用性が見込めそう。もし16gbのvramでも32B級が動くようになると大分助かる。 2026-08-24T04:05:19Z https://b.hatena.ne.jp/drk7jp/20260824#bookmark-4791961267193221634 2026-08-23T22:50:58Z https://b.hatena.ne.jp/popio/20260824#bookmark-4791961267193221634 2026-08-23T22:46:09Z https://b.hatena.ne.jp/moritata/20260824#bookmark-4791961267193221634 2026-08-23T21:01:19Z gpu LLM ai https://b.hatena.ne.jp/mapk0y/20260824#bookmark-4791961267193221634 2026-08-23T18:39:21Z AI LLM https://b.hatena.ne.jp/marutaku0131/20260824#bookmark-4791961267193221634 2026-08-23T15:39:27Z https://b.hatena.ne.jp/ikunkun/20260823#bookmark-4791961267193221634 2026-08-23T13:59:05Z あとで読む https://b.hatena.ne.jp/morioka/20260823#bookmark-4791961267193221634 2026-08-23T13:15:32Z あとで読む https://b.hatena.ne.jp/dai_yamashita/20260823#bookmark-4791961267193221634 2026-08-23T11:14:43Z LLM GPU https://b.hatena.ne.jp/bluescreen/20260823#bookmark-4791961267193221634 2026-08-23T09:21:48Z LLM https://b.hatena.ne.jp/sh05/20260823#bookmark-4791961267193221634 2026-08-23T09:10:43Z https://b.hatena.ne.jp/nguyen-oi/20260823#bookmark-4791961267193221634 VRAM 32GBで120B MoEが127tok/s出るの夢あるな。オフロードの使いどころを的確に検証してて勉強になる 2026-08-23T09:07:38Z https://b.hatena.ne.jp/igrep/20260823#bookmark-4791961267193221634 2026-08-23T08:36:38Z GPU LLM https://b.hatena.ne.jp/noeloasis/20260823#bookmark-4791961267193221634 2026-08-23T06:12:48Z https://b.hatena.ne.jp/aku_su1/20260822#bookmark-4791961267193221634 2026-08-22T12:27:52Z https://b.hatena.ne.jp/gigs123/20260822#bookmark-4791961267193221634 2026-08-22T10:40:17Z