https://b.hatena.ne.jp/entry/s/pc.watch.impress.co.jp/docs/news/2134988.html https://b.hatena.ne.jp/totttte/20260825#bookmark-4792043757454659266 2026-08-25T08:09:07Z https://b.hatena.ne.jp/lyiase/20260825#bookmark-4792043757454659266 2026-08-25T01:09:22Z あとで読む https://b.hatena.ne.jp/endor/20260825#bookmark-4792043757454659266 2026-08-25T00:32:27Z https://b.hatena.ne.jp/i-komo/20260825#bookmark-4792043757454659266 2026-08-25T00:09:23Z https://b.hatena.ne.jp/miduhima/20260825#bookmark-4792043757454659266 2026-08-24T23:40:44Z https://b.hatena.ne.jp/urtz/20260825#bookmark-4792043757454659266 2026-08-24T22:53:36Z https://b.hatena.ne.jp/uoz/20260825#bookmark-4792043757454659266 2026-08-24T19:07:22Z https://b.hatena.ne.jp/mapk0y/20260825#bookmark-4792043757454659266 2026-08-24T17:01:04Z AI https://b.hatena.ne.jp/yug1224/20260825#bookmark-4792043757454659266 2026-08-24T15:36:16Z https://b.hatena.ne.jp/hourousuteneko/20260825#bookmark-4792043757454659266 2026-08-24T15:34:01Z あとで読む https://b.hatena.ne.jp/door-s-dev/20260825#bookmark-4792043757454659266 2026-08-24T15:14:31Z https://b.hatena.ne.jp/megusuri106/20260824#bookmark-4792043757454659266 2026-08-24T14:36:00Z https://b.hatena.ne.jp/zu2/20260824#bookmark-4792043757454659266 2026-08-24T14:32:42Z https://b.hatena.ne.jp/yasuhiro1212/20260824#bookmark-4792043757454659266 2026-08-24T14:20:58Z あとで読む https://b.hatena.ne.jp/kazook/20260824#bookmark-4792043757454659266 2026-08-24T14:15:03Z https://b.hatena.ne.jp/hiroshi-miura/20260824#bookmark-4792043757454659266 2026-08-24T13:53:55Z https://b.hatena.ne.jp/hhungry/20260824#bookmark-4792043757454659266 MoE～ 2026-08-24T13:38:38Z https://b.hatena.ne.jp/sekaiiti/20260824#bookmark-4792043757454659266 2026-08-24T13:08:12Z あとで読む https://b.hatena.ne.jp/mistake/20260824#bookmark-4792043757454659266 2026-08-24T12:58:57Z llm https://b.hatena.ne.jp/ussiik1/20260824#bookmark-4792043757454659266 2026-08-24T12:52:51Z https://b.hatena.ne.jp/osakana110/20260824#bookmark-4792043757454659266 2026-08-24T12:45:34Z https://b.hatena.ne.jp/yorkfield/20260824#bookmark-4792043757454659266 "MoEモデルは（中略）総パラメータ数の見かけほどメモリを消費しない" ／ これは正しくなくて、MoEでも全パラメータをメモリに載せる必要はあるからメモリは必要。減るのは演算量の方。 2026-08-24T12:34:13Z https://b.hatena.ne.jp/chi-bd/20260824#bookmark-4792043757454659266 2026-08-24T12:19:06Z https://b.hatena.ne.jp/fuzitahoushirou/20260824#bookmark-4792043757454659266 2026-08-24T12:17:47Z 環境 あとで読む これはすごい ツール ８GのGPU https://b.hatena.ne.jp/yuiseki/20260824#bookmark-4792043757454659266 2026-08-24T12:15:21Z あとで読む https://b.hatena.ne.jp/sek_165/20260824#bookmark-4792043757454659266 ただし、大量のDRAMとハイエンドまたはサーバー向けCPUが必要だぞ 2026-08-24T11:51:32Z https://b.hatena.ne.jp/ao41/20260824#bookmark-4792043757454659266 2026-08-24T11:42:00Z あとで読む https://b.hatena.ne.jp/tyoko107/20260824#bookmark-4792043757454659266 メインメモリをswapとして効率的に使うということよね。 2026-08-24T11:40:29Z https://b.hatena.ne.jp/hnagoya/20260824#bookmark-4792043757454659266 2026-08-24T11:21:24Z あとで読む https://b.hatena.ne.jp/Nigitama/20260824#bookmark-4792043757454659266 ブクマ。メモリ64GB、VRAM24GBで、qwen 72B使ってる。めちゃ遅いが運用側でカバーできることは多い。もっと工夫できるならしたい。 2026-08-24T11:12:43Z https://b.hatena.ne.jp/saltpp/20260824#bookmark-4792043757454659266 2026-08-24T11:11:34Z https://b.hatena.ne.jp/star_123/20260824#bookmark-4792043757454659266 2026-08-24T11:05:03Z https://b.hatena.ne.jp/NOTG/20260824#bookmark-4792043757454659266 2026-08-24T10:49:18Z あとで読む https://b.hatena.ne.jp/tasukuchan/20260824#bookmark-4792043757454659266 2026-08-24T10:25:02Z https://b.hatena.ne.jp/harumomo2006/20260824#bookmark-4792043757454659266 2026-08-24T10:10:13Z https://b.hatena.ne.jp/hiro_2005/20260824#bookmark-4792043757454659266 2026-08-24T10:03:12Z https://b.hatena.ne.jp/ac3/20260824#bookmark-4792043757454659266 2026-08-24T09:55:58Z https://b.hatena.ne.jp/Retset/20260824#bookmark-4792043757454659266 "RTX 4060 Laptop(8GB)の環境でQwen3.6-35B-A3Bは39tok/s" これはすごい、後で試そう 2026-08-24T09:54:53Z https://b.hatena.ne.jp/hifi0000/20260824#bookmark-4792043757454659266 2026-08-24T09:25:29Z https://b.hatena.ne.jp/bluescreen/20260824#bookmark-4792043757454659266 2026-08-24T09:16:57Z LLM https://b.hatena.ne.jp/Listlessness/20260824#bookmark-4792043757454659266 2026-08-24T09:15:34Z https://b.hatena.ne.jp/bize/20260824#bookmark-4792043757454659266 2026-08-24T09:14:40Z AI LLM https://b.hatena.ne.jp/rdlf/20260824#bookmark-4792043757454659266 モデルが大きいからストレージも巨大にしないという…新しいMacBook Proのストレージを2TBにしてよかった。 2026-08-24T08:58:45Z https://b.hatena.ne.jp/andsoatlast/20260824#bookmark-4792043757454659266 2026-08-24T08:51:13Z https://b.hatena.ne.jp/tyhe/20260824#bookmark-4792043757454659266 4070Ti+64GBメモリで行けるかな？今度試してみよう。 2026-08-24T08:29:39Z https://b.hatena.ne.jp/fashi/20260824#bookmark-4792043757454659266 2026-08-24T08:15:18Z ai あとで読む https://b.hatena.ne.jp/satetsu_s/20260824#bookmark-4792043757454659266 2026-08-24T08:08:09Z あとで読む https://b.hatena.ne.jp/yarumato/20260824#bookmark-4792043757454659266 “RTX 4060 Laptop(8GB)の環境でQwen3.6-35B-A3Bを、39tok/sで実行できた。Mixture-of-Expertsモデルの実行に特化した実行環境だ。推論のたびに必要な有効化されたExpertだけをGPUに呼び出し効率化” 2026-08-24T08:05:06Z https://b.hatena.ne.jp/karkwind/20260824#bookmark-4792048785253331202 2026-08-24T07:57:14Z https://b.hatena.ne.jp/fukudamasa09/20260824#bookmark-4792043757454659266 2026-08-24T07:56:58Z https://b.hatena.ne.jp/enemyoffreedom/20260824#bookmark-4792043757454659266 2026-08-24T07:53:43Z https://b.hatena.ne.jp/anycast/20260824#bookmark-4792043757454659266 2026-08-24T07:47:17Z https://b.hatena.ne.jp/aku_su1/20260824#bookmark-4792043757454659266 2026-08-24T07:46:11Z https://b.hatena.ne.jp/tachisanhtn/20260824#bookmark-4792043757454659266 2026-08-24T07:45:38Z あとで読む https://b.hatena.ne.jp/ardarim/20260824#bookmark-4792043757454659266 2026-08-24T07:33:59Z 人工知能 https://b.hatena.ne.jp/ayaniimi213/20260824#bookmark-4792043757454659266 2026-08-24T07:29:01Z https://b.hatena.ne.jp/sho_hisa/20260824#bookmark-4792043757454659266 2026-08-24T07:15:51Z https://b.hatena.ne.jp/balaem/20260824#bookmark-4792043757454659266 2026-08-24T06:56:21Z https://b.hatena.ne.jp/solaio/20260824#bookmark-4792043757454659266 2026-08-24T06:40:04Z AI https://b.hatena.ne.jp/ys0000/20260824#bookmark-4792043757454659266 凄いことやってるけども、LLMの規模が大きくなるほど転送処理のオーバーヘッドが無視できなくなりそう。 2026-08-24T06:38:25Z https://b.hatena.ne.jp/h2onda/20260824#bookmark-4792043757454659266 2026-08-24T06:37:33Z https://b.hatena.ne.jp/toaruR/20260824#bookmark-4792043757454659266 まぁメインメモリもたいして積んでない訳ですが(ノ∀`) 2026-08-24T06:27:33Z https://b.hatena.ne.jp/meditur/20260824#bookmark-4792043757454659266 2026-08-24T06:23:54Z https://b.hatena.ne.jp/TakenokoGod/20260824#bookmark-4792043757454659266 2026-08-24T06:04:55Z あとで読む https://b.hatena.ne.jp/en-en-ra/20260824#bookmark-4792043757454659266 2026-08-24T05:57:42Z あとで読む AI https://b.hatena.ne.jp/nguyen-oi/20260824#bookmark-4792043757454659266 VRAM不足に悩むローカルLLM民への救世主になるか、MoEの特性を活かしたキャッシュ制御が賢いな 2026-08-24T05:40:45Z https://b.hatena.ne.jp/Kirche/20260824#bookmark-4792043757454659266 2026-08-24T05:37:02Z https://b.hatena.ne.jp/mojimojikun/20260824#bookmark-4792043757454659266 ( ･∀･)つ〃∩ ﾍｪｰﾍｪｰﾍｪｰ ｽｼﾞﾖｻｿｳ? 2026-08-24T05:27:40Z https://b.hatena.ne.jp/tt_w54s/20260824#bookmark-4792043757454659266 2026-08-24T05:21:07Z