無料で使えるAI｢ローカルLLM｣の進化がすごいよって話

｢Qwen3.5-9B｣ は2026年にリリースされた高性能ローカルLLMのひとつ。HuggingFaceやLM Studioで無料でダウンロードできる Photo: かみやまたくみ 2026年も進化を続ける生成AIですが、伸びているのはOpenAIのGPTやAnthropicのClaudeだけではありません。 無料で公開されていてダウンロードして自分のPCで動かせる｢ローカルLLM｣も大きな発展を見せています。 この記事では2026年上半期にかけてのローカルLLMの動向をまとめます。 1. ローカルLLMの高性能化が止まらない｢Gemma-4-31B｣で画像認識をしているところ。同モデルはGoogleが2026年4月にリリースした非常に高性能なローカルLLMImage: かみやまたくみ2026年のローカルLLMで特徴的なのが、性能が大幅に向上したこと。 具体的なモデルとしては、3月にリリ

[harumomo2006]

昔と比べたら凄い進化なんだけどクラウド側のAIがもっと凄いのでどうしても霞んでしまう

[six13]

インターネットつなげられない環境にもエージェント欲しい場面が多い

[circled]

redisの作者がdeepseek 4用に書いたインターフェースエンジンが凄くて、SSD上にKV保存させて、MacのGPU最適化のMetalを利用し、128GBのメモリで1Mコンテクスト枠使えるようにしてる → https://github.com/antirez/ds4

[Nigitama]

Ollama でqwen 72B動かしてる。バカ高いパソコンやパーツが必要だよ。特に今は値上がりしてる。

[n2sz]

ローカルで動かすためのPCを買う金額で何ヶ月契約できるかを考えると…

[TETSUYA01]

ローカルLLMにぶち込んだ文章の中の個人情報の部分だけ匿名化させて、それを普通のAIにコピペすればいいとこ取りできないかな。

[Imamura]

RTX3060/12GBだとGemma4はE4Bまでが現実的ぽい。26B-A4Bも試してみたい。ただ画像生成と違ってなにをさせるかが問題。ローカルで動かすメリットが自分にマッチするかどうか

[shukaido170]

将来を見越したつもりでNPU機を買ってあった（GPU機は高価なので）のに、LM Studioは非対応なんだよなぁ。

[hatact]

クラウドと比較してるブコメが多いけど別用途なので的外れ。機密情報用/遊び用、クラウドとは併用。月額課金をケチるためのものではない。/ローカルで個人情報処理後にクラウドは定番だが特定不可かはかなり要注意。

[electrolite]

翻訳タスク程度だとかなり使える。速度や気の利き具合は汎用LLMにはかなわないが、適当にサマリーしたり嘘をつかず実直に仕事をするのが良い。

[adliblogger]

「自分の管理下でLLMを動かせる」方が魅力

[torish]

メモリがねえ

[rgfx]

RTX3060 12GBでのQwen3.5-9Bで「まあ悪くはない」位の手応えはある。「すごい」ではない。

[tester24]

Qwen3.5 9Bぐらいだと無料のGemini以下って感じで結構厳しい

[bipg]

Agent動かし続けて湯水のようにトークン消費する用途だとローカルLLMに投げる意味も出て来る。普通にチャットで使ってる層にはあんま関係ない（エロ用途除く）

[vesikukka]

まだまだとは思ってもGemma4:31bで、途切れずうごくので、あほなこも永遠と実行できるのはメリット。電気代は千円以上上がった気がするけど、ガチで使ったらどうなるかな。／ローカルで色々試して本番はclaudeやcodex使う。

[LM-7]

PCの値段が上がっているし、個人だとローカルで動作させる動機が乏しい。

[roirrawedoc]

大量の英文を翻訳させようと思って色々試したけどPCで動く程度の小さいモデルだとやっぱ全然馬鹿なんだよね。課金してるから結局そっちでやることになった。

[PerolineLuv]

ClaudeやChatGPTの1世代前モデルに近いくらいの精度とパフォーマンス出そうと思ったら、それなりにハイスペックなGPU/NPU搭載機が要るが、企業内で安全に使う目的なら安い投資だろう。

[jun_cham]

クラウドAIの利用料がある日10倍になったり、為替レートで日本円が激安になったりしても、ローカルでAI動かす環境があればAgentic CodingさせたりDeepResearchしたり現在やってることを失わずに済む自由がある。

[shoot_c_na]

そろそろ、GPUぶん回すよりNPUに計算回るような作りのフロントエンドが欲しい。lemonadeServerはチャットを記憶してくれないので、ページを要約くらいにしか使い道が無い

[HACHI-BAY]

ROCm版PyTorch・LM StudioでQwen3.6 27BがRadeon RX 9060XT 16GBにギリ乗っかる。まずは検証ということで。

[colonoe]

低スペック用だとどの程度性能が下がるのかがよくわからないんだよなあ。性能を褒めてる記事って最高の性能用のもので書いてるみたいだし

[otchy210]

32GB の MacBook Air で 31B 動くよ。30 万円。ハイエンドゲーミング PC より全然安い。

[rdlf]

ローカルLLMはロマンがあるけど、それだけ。無料で使うためのコストを考えると普通にサービス契約した方がいい。とか言いつつ64GB積んだMacBook Proを買ってしまった。

[snaflot]

Gemma4はE4Bを試す

[neogratche]

ローカルが最前線のお零れなのは昔からなのでまぁ

[tonza_dopeness]

ローカルLLMまともに使える環境代と毎月のクラウドAI代とどっちが良いかで考えると現状クラウドかなって。あくまで現状ではだけど。

[maninthemiddle]

Qwen3.5-9B試してみたけどあんまり満足は行かなかった。gptで言うと3.5よりマシ、4o以下って感じ。まあそれがローカルで動くのはすごいんだけどね

[Coolions]

ごっついGPU積んだPCの消費電力結構凄くて、起動しっぱなしだと月の電気代でAIサブスク払えるぐらいかかるけど、その辺ちゃんと考慮してるのかな

[radio_qoml]

素人（私のような）はゲーミングPCを転用して、LM Studioと適当なモデルをダウンロードして遊ぶのが簡単。VRAMの関係で低サイズ、量子化必須だったりするがね。

[FreeCatWork]

ボクの頭脳もローカルLLMみたいに賢くなればいいのにゃ！

[fwb603]

今まさにやろうとしている。Pythonライブラリだけでは誤判定が多く、Ollama+Gemmaで文脈読んで匿名化処理。＞"ローカルLLMにぶち込んだ文章の中の個人情報の部分だけ匿名化させて、それを普通のAIにコピペ"

[zsehnuy_cohriy]

NPU機持て余してるマンは今すぐlemonadeをインストールするんだ。わからんことはclaudeに聞くのだ。LMS使ってるならモデルも共有出来っから

[Goldenduck]

無料で使うために高価なGPU積んだPCを入手するという本末転倒を起こさないといけなくなるので素直に金払います…