【西川和久の不定期コラム】 初心者も簡単！ついにPCで104BのLLMも動かせるようになった！そして巷を騒がせるマルチモーダルも試した

[kotesaki]

こういうプロダクト出たとき、サクッと遊べるレベルのPCが欲しかぁ！

[star_123]

ハイスペックでも遅いとは言え普通に売ってるパーツでこのレベルのLLMが動くのは希望がもてるな

[timetrain]

ハイエンドPCがここまで利用されることになるとはなあ。ミニPCの内部写真が凄まじすぎて三度見した

[chainwhirler]

すごい。こりゃもう環境整えるより単に待つ方が早いな。

[h5dhn9k]

楽しそうやな♪

[natu3kan]

ハイエンド機あれば、遅いとはいえ自宅だけで完結できるの大きいよな。

[yorkfield]

ものすごく遅くても良いなら、メインメモリ大量に積んでCPUだけで動かせば動くかな。

[buriedarmy]

画像生成AI界隈で入門機としてもてはやされている3060 12GBを複数積むと容量は足りても応答が遅くて我慢を強いられる。会話にはテンポが重要なのを思い知らされることになる。

[urtz]

NVIDIA株が上がり続ける限りはGPUは高止まりだし、庶民価格になるのは何年先なのか。NVDAを売った利益で買うか

[tyhe]

だめじゃ、VRAMが全く足らんのじゃ（RTX4070Ti民）

[kibitaki]

あうあう。お金が何とかなるとしても、今は自作すんのきついなぁ。かといって吊るしを買うのも。

[shodai]

“動作しているPCのGPU、VRAM、メモリ容量で、モデルが使えるかどうか、一覧にグリーン=OK、ブルー=使えるがVRAMも使用するため遅い、レッド=使えない……と、パッと見て分かるようになっている点も親切”

[sotonohitokun]

お金掛けて追っかけるの、絶対楽しいのはわかってるけど、完全に趣味だし子どもの学費とか考えると数年待つか、クラウド使うしか無いよな。自営してたら絶対経費で落として弄ってただろうなー。