https://b.hatena.ne.jp/entry/s/note.com/npaka/n/n4a1185074686 1. はじめにローカルLLMでは、GPUのVRAM容量が大きな制約になります。特に100Bを超えるモデルは、量子化しても一般的なGPUのVRAMだけで動かすのは困難です。 そこで登場したのが、AI推論エンジン「Strata」です。... https://b.hatena.ne.jp/chaki1029/20261006#bookmark-4793840301816370690 2026-10-06T13:48:38Z https://b.hatena.ne.jp/ato16/20261006#bookmark-4793840301816370690 2026-10-06T02:33:56Z あとで読む https://b.hatena.ne.jp/Watson/20261004#bookmark-4793952286666519042 2026-10-04T08:49:40Z ai https://b.hatena.ne.jp/Imamura/20261004#bookmark-4793840301816370690 RAM32GBではCoderのみか…でもこんな低スペックでも125Bモデルを動かせるとはすごい時代になった 2026-10-04T04:51:14Z 対話型AI https://b.hatena.ne.jp/Wacky/20261003#bookmark-4793840301816370690 2026-10-03T13:29:32Z https://b.hatena.ne.jp/garoyuki/20261003#bookmark-4793840301816370690 2026-10-03T01:52:40Z https://b.hatena.ne.jp/sora0513/20261003#bookmark-4793840301816370690 2026-10-03T01:02:34Z cpu flash llm pc GPU https://b.hatena.ne.jp/o2aholic/20261002#bookmark-4793840301816370690 2026-10-02T14:42:22Z あとで読む https://b.hatena.ne.jp/morioka/20261002#bookmark-4793840301816370690 2026-10-02T14:16:24Z あとで読む https://b.hatena.ne.jp/ozkey/20261002#bookmark-4793840301816370690 2026-10-02T13:58:34Z あとで読む https://b.hatena.ne.jp/torish/20261002#bookmark-4793840301816370690 試してみよう。ちょと昔のパーツぶち込んだらつかえるかも？？バック・トゥ・ザ・フューチャーのデロリアンにゴミでも何でも掘り込んでた感じになるのかな？ 2026-10-02T13:57:44Z https://b.hatena.ne.jp/ryunosinfx/20261002#bookmark-4793840301816370690 いつもどおりAMDがハブられてて草（Github上ではちゃんとRX9070XTも乗ってる） 2026-10-02T13:47:07Z https://b.hatena.ne.jp/ryotaf1116/20261002#bookmark-4793840301816370690 2026-10-02T13:46:07Z https://b.hatena.ne.jp/NOTG/20261002#bookmark-4793840301816370690 2026-10-02T13:43:56Z LLM https://b.hatena.ne.jp/agricola/20261002#bookmark-4793840301816370690 R9 3900X/DDR4-2666 64GB/RX6600 8GBの俺の愛機が……不安定なんすよ（涙）。もっともR9 5900XT/DDR4-3200 128GB/Radeon AI PRO R9700が控えてるけどな。あとRTX 2000 Adaもホストがメモリ障害で死んでから稼働してない（をい 2026-10-02T13:40:08Z https://b.hatena.ne.jp/kinushu/20261002#bookmark-4793840301816370690 2026-10-02T13:28:48Z あとで読む https://b.hatena.ne.jp/pipo/20261002#bookmark-4793840301816370690 2026-10-02T13:28:06Z cpu GPU AI https://b.hatena.ne.jp/mirakux/20261002#bookmark-4793840301816370690 2026-10-02T13:21:46Z あとで読む https://b.hatena.ne.jp/jama_ican/20261002#bookmark-4793840301816370690 2026-10-02T13:21:30Z https://b.hatena.ne.jp/misshiki/20261002#bookmark-4793840301816370690 StrataはGPU・CPU・RAM・SSDを使い、125B級MoEをVRAM 12GBのGPUでも実行する推論エンジン。RAM 64GBを推奨し、OpenAI・Anthropic互換APIに対応。仕組みや測定結果、導入手順を解説。 2026-10-02T13:17:38Z 人工知能 自然言語処理 https://b.hatena.ne.jp/petitbang/20261002#bookmark-4793840301816370690 2026-10-02T13:14:05Z AI https://b.hatena.ne.jp/gav/20261002#bookmark-4793840301816370690 2026-10-02T13:03:34Z AI https://b.hatena.ne.jp/samu_i/20261002#bookmark-4793840301816370690 2026-10-02T12:44:33Z https://b.hatena.ne.jp/x6xo/20261002#bookmark-4793840301816370690 2026-10-02T12:39:21Z https://b.hatena.ne.jp/flying-cat/20261002#bookmark-4793840301816370690 2026-10-02T12:29:32Z https://b.hatena.ne.jp/ponesiv/20261002#bookmark-4793840301816370690 2026-10-02T12:10:40Z https://b.hatena.ne.jp/hazime2914/20261002#bookmark-4793840301816370690 2026-10-02T12:07:28Z あとで読む https://b.hatena.ne.jp/okina015/20261002#bookmark-4793840301816370690 2026-10-02T12:03:41Z https://b.hatena.ne.jp/BlueSkyDetector/20261002#bookmark-4793840301816370690 2026-10-02T11:59:37Z https://b.hatena.ne.jp/marton/20261002#bookmark-4793840301816370690 2026-10-02T11:35:45Z あとで読む https://b.hatena.ne.jp/tok3000/20261002#bookmark-4793840301816370690 2026-10-02T11:32:31Z https://b.hatena.ne.jp/Abba/20261002#bookmark-4793840301816370690 まさかのRAMがいるのか 時期が悪いが買うか… 2026-10-02T11:26:15Z https://b.hatena.ne.jp/ultracomputing/20261002#bookmark-4793840301816370690 2026-10-02T11:22:09Z https://b.hatena.ne.jp/theta/20261002#bookmark-4793840301816370690 2026-10-02T11:10:15Z https://b.hatena.ne.jp/collectedseptember/20261002#bookmark-4793840301816370690 GPUからメインメモリにスワップしてるのか 2026-10-02T11:03:49Z https://b.hatena.ne.jp/eggman/20261002#bookmark-4793840301816370690 2026-10-02T11:01:11Z https://b.hatena.ne.jp/aktkro/20261002#bookmark-4793840301816370690 2026-10-02T10:15:05Z https://b.hatena.ne.jp/So_net/20261002#bookmark-4793840301816370690 2026-10-02T10:11:03Z あとで読む https://b.hatena.ne.jp/ardarim/20261002#bookmark-4793840301816370690 VRAMもシステムRAMも足りないワイ低みの見物 2026-10-02T10:08:45Z 人工知能 https://b.hatena.ne.jp/applejxd/20261002#bookmark-4793840301816370690 2026-10-02T10:03:48Z https://b.hatena.ne.jp/kknsd/20261002#bookmark-4793840301816370690 2026-10-02T09:56:38Z https://b.hatena.ne.jp/unfini/20261002#bookmark-4793840301816370690 2026-10-02T09:52:40Z GPU 量子 モデル AI https://b.hatena.ne.jp/harumomo2006/20261002#bookmark-4793840301816370690 しかしメモリが足りない 2026-10-02T09:49:25Z https://b.hatena.ne.jp/taguch1/20261002#bookmark-4793840301816370690 楽しみ 2026-10-02T09:31:45Z https://b.hatena.ne.jp/eos2323/20261002#bookmark-4793840301816370690 2026-10-02T09:23:31Z https://b.hatena.ne.jp/bluescreen/20261002#bookmark-4793840301816370690 2026-10-02T09:17:01Z GPU CPU LLM https://b.hatena.ne.jp/strawberryhunter/20261002#bookmark-4793840301816370690 すごい。GPUを買うならNVIDIAだな。まだ数年はNVIDIAの優位性は続く。 2026-10-02T09:01:03Z 未分類 https://b.hatena.ne.jp/fashi/20261002#bookmark-4793840301816370690 2026-10-02T08:55:02Z ai https://b.hatena.ne.jp/stellakemo/20261002#bookmark-4793840301816370690 2026-10-02T08:46:22Z あとで読む https://b.hatena.ne.jp/k_ega/20261002#bookmark-4793840301816370690 2026-10-02T08:32:54Z https://b.hatena.ne.jp/oguri0220/20261002#bookmark-4793840301816370690 2026-10-02T08:28:31Z https://b.hatena.ne.jp/repunit/20261002#bookmark-4793840301816370690 2026-10-02T08:16:30Z https://b.hatena.ne.jp/jamalen/20261002#bookmark-4793840301816370690 2026-10-02T08:15:07Z あとで読む https://b.hatena.ne.jp/Takumi00Q/20261002#bookmark-4793840301816370690 2026-10-02T08:05:19Z あとで読む https://b.hatena.ne.jp/hobbiel55/20261002#bookmark-4793840301816370690 2026-10-02T08:03:31Z ai pc local https://b.hatena.ne.jp/windscape/20261002#bookmark-4793840301816370690 2026-10-02T07:32:16Z https://b.hatena.ne.jp/pikosounds/20261002#bookmark-4793840301816370690 2026-10-02T07:24:33Z https://b.hatena.ne.jp/korosuke613/20261002#bookmark-4793840301816370690 2026-10-02T07:22:47Z https://b.hatena.ne.jp/a842/20261002#bookmark-4793840301816370690 2026-10-02T07:13:30Z https://b.hatena.ne.jp/tasra/20261002#bookmark-4793840301816370690 2026-10-02T07:10:55Z https://b.hatena.ne.jp/replier/20261002#bookmark-4793840301816370690 2026-10-02T07:08:58Z https://b.hatena.ne.jp/akiu-ksg/20261002#bookmark-4793840301816370690 2026-10-02T07:02:36Z https://b.hatena.ne.jp/ys0000/20261002#bookmark-4793840301816370690 Qwen3.8 FlashはQ4でも性能いいからなぁ。Strataのようなツールにすがる気持たはよくわかる。 2026-10-02T06:48:02Z https://b.hatena.ne.jp/masayoshinym/20261002#bookmark-4793840301816370690 2026-10-02T06:34:31Z AIコーディング https://b.hatena.ne.jp/napsucks/20261002#bookmark-4793840301816370690 2026-10-02T06:05:38Z https://b.hatena.ne.jp/thinline72/20261002#bookmark-4793840301816370690 2026-10-02T05:46:59Z https://b.hatena.ne.jp/TakenokoGod/20261002#bookmark-4793840301816370690 2026-10-02T05:43:44Z あとで読む https://b.hatena.ne.jp/mirinha20kara/20261002#bookmark-4793840301816370690 2026-10-02T05:37:15Z あとで読む https://b.hatena.ne.jp/hamatu/20261002#bookmark-4793840301816370690 2026-10-02T05:24:46Z https://b.hatena.ne.jp/peketamin/20261002#bookmark-4793840301816370690 2026-10-02T05:20:27Z https://b.hatena.ne.jp/R2M/20261002#bookmark-4793840301816370690 2026-10-02T05:17:59Z LLM https://b.hatena.ne.jp/shinoppie/20261002#bookmark-4793840301816370690 喋るっぽくしてるだけでツールは動かないからエージェントを動かしたりとかはむりだよ、とAIさんにいわれてがっかり 2026-10-02T05:08:12Z https://b.hatena.ne.jp/laughing/20261002#bookmark-4793840301816370690 2026-10-02T05:04:44Z あとで読む https://b.hatena.ne.jp/naggg/20261002#bookmark-4793840301816370690 2026-10-02T05:03:57Z あとで読む https://b.hatena.ne.jp/wktk_msum/20261002#bookmark-4793840301816370690 2026-10-02T05:00:22Z AI https://b.hatena.ne.jp/hick34d5/20261002#bookmark-4793840301816370690 2026-10-02T04:58:17Z https://b.hatena.ne.jp/rmochi/20261002#bookmark-4793840301816370690 2026-10-02T04:50:13Z https://b.hatena.ne.jp/sHNU63qR/20261002#bookmark-4793840301816370690 2026-10-02T04:44:02Z あとで読む https://b.hatena.ne.jp/masasia0807/20261002#bookmark-4793840301816370690 2026-10-02T04:42:59Z https://b.hatena.ne.jp/e10kg/20261002#bookmark-4793840301816370690 2026-10-02T04:35:35Z あとで読む https://b.hatena.ne.jp/motoryo/20261002#bookmark-4793840301816370690 2026-10-02T04:34:10Z https://b.hatena.ne.jp/kurage_lizard/20261002#bookmark-4793840301816370690 安い時に不要と思いながらもRAM64GBにしておいた過去の自分を褒めたい 2026-10-02T04:11:26Z https://b.hatena.ne.jp/TriQ/20261002#bookmark-4793840301816370690 VRAM12GBでマジか！となってRAM64GBでマジか…ってなった人結構多いと思うｗ 2026-10-02T04:03:29Z https://b.hatena.ne.jp/ussiik1/20261002#bookmark-4793840301816370690 2026-10-02T04:02:10Z https://b.hatena.ne.jp/totoronoki/20261002#bookmark-4793840301816370690 これで125B の2Bit量子化モデルを入れてるが、なかなか賢い。速度もそこそこ。 2026-10-02T03:56:58Z https://b.hatena.ne.jp/r_mrzs/20261002#bookmark-4793840301816370690 2026-10-02T03:55:54Z AI ローカルLLM https://b.hatena.ne.jp/hirokinko/20261002#bookmark-4793840301816370690 PC故障で色々交換したタイミングに！ 2026-10-02T03:55:17Z https://b.hatena.ne.jp/John_Kawanishi/20261002#bookmark-4793840301816370690 2026-10-02T03:44:01Z https://b.hatena.ne.jp/Yagokoro/20261002#bookmark-4793840301816370690 巨大モデルがローカルで動く時代が来てるの凄いわ 2026-10-02T03:42:53Z https://b.hatena.ne.jp/ikunkun/20261002#bookmark-4793840301816370690 2026-10-02T03:40:40Z あとで読む https://b.hatena.ne.jp/zsehnuy_cohriy/20261002#bookmark-4793840301816370690 2026-10-02T03:37:27Z https://b.hatena.ne.jp/sutatin/20261002#bookmark-4793840301816370690 2026-10-02T03:35:42Z https://b.hatena.ne.jp/inazuma2073/20261002#bookmark-4793840301816370690 2026-10-02T03:34:37Z AI https://b.hatena.ne.jp/tyhe/20261002#bookmark-4793840301816370690 ひと世代前のRyzenと4070TiとDDR5 64GBだからギリギリ試せそうかなー。試してみるかー。 2026-10-02T03:32:20Z https://b.hatena.ne.jp/masayumi1114/20261002#bookmark-4793840301816370690 2026-10-02T03:31:10Z AI モデル https://b.hatena.ne.jp/rdlf/20261002#bookmark-4793840301816370690 AppleのAFM 3 Core Advancedみたいなものかな？これでメモリ依存しなくなるのはいいけどモデルがデカいのでストレージを圧迫する問題が… 2026-10-02T03:27:08Z https://b.hatena.ne.jp/Buchi_6uclz1/20261002#bookmark-4793840301816370690 2026-10-02T03:24:10Z https://b.hatena.ne.jp/yorkfield/20261002#bookmark-4793840301816370690 一日に数回のリリースがされてる。開発の勢いが凄い。 https://github.com/Niko1221/Strata/releases　[追記]量子化手法のGSQ-RCOは、3.5bitでも性能があまり落ちないらしい？ https://huggingface.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF 2026-10-02T03:21:05Z https://b.hatena.ne.jp/chess-news/20261002#bookmark-4793840301816370690 2026-10-02T03:20:01Z https://b.hatena.ne.jp/balaem/20261002#bookmark-4793840301816370690 2026-10-02T03:19:05Z