【やじうまPC Watch】 今のPCでローカルLLMがどの程度動くのか、ブラウザで自動判定するサイト

[l_etranger]

実際のところ、動かすに値するモデルは限られているし、動作速度も、DenseかMoEかとモデルサイズで大体察しはつくのでそこまで困らないのだけど、多少の参考にはなる。ただこのサイトの計算式は結構雑。

[fashi]

性能スコアに釣られて導入したら異様にthinkingが長くて使い物にならなかったりするので難しい

[yorkfield]

"謎のEXEファイル" ブラウザのWebGPUで判定するだけなのに何のことを指してる？ ／ FP16やQ4_K_Mが何を意味するのか分からないような初心者の目安くらいにはなるかな？

[kyahi227]

これ系は「お前のPC如きではOpusどころかSonnet並モデルすら動きません」という結論が分かりきってるんだが動いて欲しい願望から定期的に再発明されてる。願望由来故にガチのAIマシンが正しく判定できないのもテンプレ。

[misshiki]

ローカルLLM初心者向けに、PCスペックから動きそうなモデルと速度目安を出す「Can I Run AI locally?」を紹介。量子化ごとの品質・メモリ消費・速度も見られる。ただし検出精度は不完全で、CPU実行も想定外。

[puruhime]

謎のexe.js

[zsehnuy_cohriy]

俺様のRX9060XTが入ってないやん。と言うか幾つか動かしてみれば直ぐにわかる事じゃないかと思うがねえ。

[fjch]

有用

[ejointjp]

ローカルLLMの必要性が分からないオレに誰か教えてくれ。Claude / Claude Codeじゃダメなんか

[ryudenx]

なんとなくこの記事炎上しそうだからメモっておこう

[cinq_na]

IvyのiGPU、RAM16GB、SATAｰSSDで何を動かせって？

[welchman]

信頼度はともかく、試してみよう

[ys0000]

未だにLM Studioは使った事がなかったが、デファクトってvLLM辺りじゃなかったのか。

[ardarim]

「Hugging Faceの膨大なモデルライブラリから最適なモデルを探すのは、まるで海の中で針を探すようなもの」の解決策にはならないのでは？

[nguyen-oi]

手元のゴミスペPCで動くか判定して4090買えって言われるだけのサイトか

[yamadar]

普通に便利そう