【西川和久の不定期コラム】 家庭にあるPCのLLMリソースを束ねるNVIDIA「PAIR」、早速試してみた！

[sotonohitokun]

西川氏みたいに先に計算資源抑えたもんか、金持ちしかローカルは厳しいわな。4080改、4090改、5090ってすげぇな、買値100万が今売ったら500万位になりそう😂DGXStationも2千万とかだしなぁ…

[ys0000]

どうせ推論エンジンなんて環境では揃えるだろうし、nginxでリバースプロキシでも構成すれば十分では？複雑な事をするなら LiteLLM がいいのかなという気がする／とはいえ触ってみようかねぇ。

[toaruR]

良記事やん(*´д｀*)

[torish]

“M4搭載Macもノードとして参加可能” そうなんだ

[six13]

おもしろい。gx10から新型に買い替えたら、束ねて使えばいいのか。それはまるで星を継ぐもののゾラックとヴィザーみたい

[dirtjapan]

SSD最小限のmac miniを買ってきてこれ用に出来たりするとなかなか面白くなりそうなので今後に期待かな。まだこれを使って何かするフェーズではなさそう。