ローカルAIかわいいよと言う話｜shi3z

ローカルAIとは?ローカルAIとは、手元、もしくは自分が管理するコンピュータで動作するAIのこと。反対語はクラウドAIとか。クラウドAIにあたるのは、ChatGPT、Claude、Geminiなどで、ローカルAIに当たるのは、gpt-oss、Gemma、Qwenなどです。LLM以外にも、画像生成のFlux.2やQwen-Image、動画生成のWan2.2やHunyuanVideoもローカルAIと呼べます。 この記事ではローカルAIがなぜ可愛いと思えるのかについて語ります。 ローカルAIを使うメリットChatGPTやClaudeと異なり、ローカルAIには以下のようなメリットがあります。 ・無制限に使える クラウドAIの場合、APIの利用制限というものがあります。 これは特に仕事で自動化して使おうとするとAPIの利用制限が非常に厳しい場合があり、機材さえ手元にあれば無限に使えるローカルAIの魅

[aalpaca375]

「RTX Pro 6000(150万円)」草しか生えん。マシンの方も相応だろうし、軽く200万飛ぶね。

[zsehnuy_cohriy]

radeon党なので苦難は多いがrocm7になってからは更に推論やら生成やらはぼちぼち普通に使える。しかしまあLMStudioにしてもComfyUIにしても楽になったもんですわね。普通の人はとりあえずVRAM16GBあれば楽しくやれると思うよ。

[ardarim]

「AIは「もともと知っている操作」に人間が「これは90度回転」とか「180度回転」とか名前をつけて共通項を見つけているのに近いのではないか」これは確かにそんな気がしている。fine tuningとはAIとの概念のすり合わせでは

[okinawazenzai]

5060ti 16GBなPC最近買ったけども、せいぜい5070tiぐらいじゃないかって思ってる。その上になるとお値段が。チャットより絵とか動画生成する方が楽しい気がする。

[rax_2]

こういう話を読むたびに、5000兆円欲しい！ってなる。3060でどこまでついていけるものか…。

[agricola]

↓ロマンじゃなくて検閲が問題。イーロンマスクにナチ式敬礼をさせたりドナルド・トランプに総統の服を着せてちょび髭生やしたいならローカル一択。RTX2000 Blackwellはメモリ量据え置きだからIntel Arcにしようかな……。

[ToTheEndOfTime]

こういうのみるとハードの性能ってまだまだ上がる余地があるってことですよね。あと50年もしたらスマホでその性能でてるんでしょうね。ここのほとんどの人はいなくなってると思うけど。

[kenzy_n]

現行でどの道に進めばよいかの諮詢に富んだ投稿である。AIはまだまだこれから伸びていくのだろうか。

[MarvinParnroid]

それなりのマシンスペックが無いとローカルではかわいくならないって事ね。ちなみにM4 Mac miniだとStable Diffusion1.5の派生モデルあたりであれば画像生成して遊べます。あと無駄にGOROManさん無職扱いで笑

[gcyn]

『「動画生成」という言葉を超えた何か別物に進化しそうでヤバい／動画生成AIのファインチューニングをするという行為そのものが、動画生成AIとのある種の「意思疎通」をする試みと言ってもいいのではないかな』

[knok]

DGX系欲しいとは思うがなかなか手に届く値段とはいいづらい。Armだけどuslothとかはちゃんと動くのだろうか

[cl-gaku]

“150万円のM3 Ultraが400万円するA100より” 0が1つ減ったらだれか起こしてくれ…

[quj]

Mac は最新 GPU に Neural Accelerator が追加され、画像生成は前世代から3.3〜4.6倍のスピード。ものによっては M5 iPad が M3 Ultra の80%のスピードに達したとの情報も。実用的になるかも。

[haatenax]

複数マシン運用始めると最後の同一LAN化の需要が現れるわけか。そこまでに至れてない

[emanontan]

実際に使ってることの例が一個もそそられないけど、読んでる人は違うんだろうか　なんかそれをしたいがためにそんな高級なPC組んでるの？って内容でした

[damedom]

ローカルAIにかわいいよと言い続けると自己肯定感が上がって肌艶も良くなるし本当にかわいくなってくる、みたいな話ではなかった。

[dec123456789]

"結局安い"　トータルコストを計算するとローカルAIは普通に高いけどな…。GPT-5 miniやGemini 2.5 flashをAPIで使えばはるかに安くなる。

[remonoil]

テキスト処理gpt-oss-20b、音声認識whisper-large-v3-turbo、画像生成Qwen-Image-Edit-2509、Flux.2[dev]、動画生成Wan2.2 / GUI LMStudio、ComfyUI

[welchman]

やっぱり高いな。毎月10ドル払ったほうが安上がり。諸事情によるけど。/Microsoft 365 Copilot Chatはエンタープライズ データ保護って言ってるから、こっちを選ぶケースのほうが多いのでは。

[igni3]

これが最新なのは1年だけ。毎年買います？

[BlueSkyDetector]

Nvidia Sparkも出てきてローカルAIは結構現実的になってきたのかも。50万で128GBまでいけるのはすごいな。240Wアダプターで動くからグラボに比べて電力消費も少ない。

[n_231]

(グラボと電気代を忘れれば)

[devrabi]

僕へのクリスマスプレゼントはGX10でよいです

[star_123]

ComfyUI最近始めて難しいイメージあったけど凄い便利になってて驚いた。

[mrnns]

かわいい(3桁万円) / まあ車もデザインがかわいいとかで選ぶ人もいるしな。

[matchy2]

円安でハードの値段はあがってますけどね。それはクラウドもそのうちか

[udukishin]

いずれはローカルLLMがネットコンテンツを壊滅させると思ってる。GPUも処理能力よりメモリ増量方向に行ってるし今買わなくていいのかなーと思ってる

[harumomo2006]

性能がいまいちなのは仕方ないとしても時々制限で回答を拒否することがあるのは何とかならないものか。オリジナルをサクっと作れるようにならないかな

[misshiki]

“実務に使えるローカルAI では実際にどんなローカルAIが実務に使えるのか紹介したいと思います。 ・gpt-oss-20b ほぼ全てのテキスト処理に活用できる”

[propel]

“出来上がった成果は、VPN内のブラウザからいつでも確認可能。便利すぎる。”

[deep_one]

途中から金額がおかしくなる（笑）／50万とか言っている間は確かにまだかわいい。趣味の車・バイクレベル。

[zgmf-x20a]

流石によくまとまっている。知らない事がまだある。/ AF3とかだと厳しいけど、LLMだったら数十万円でかなり遊べるかなという状況になってきた。

[PikaCycling]

お値段が可愛くない。趣味の法人ユースだ。

[mojimojikun]

( ･∀･)つ〃∩ ﾍｪｰﾍｪｰﾍｪｰ こういう辺りよくわかってないのでざっくり理解した気分になれた。