オラに演算能力を分けてくれ！NVIDIA、家庭内のPCで分散推論する「PAIR」

[MyFavoriteOne]

"RTX Spark搭載ノート2台、DGX Spark、RTX 5090搭載ノート、RTX搭載ゲーミングPC、MacBook Proを持つ家庭を例に取ると" どんな家庭やねん

[ledsun]

アメリカの家庭で余っている全演算リソースを合わせても “GPT 5.6 Lunaのクラウド月額約1,200ドル(約17万7,000円)” にしかならないの恐ろしいな…

[kotetsu306]

PS3のFolding@homeに参加してたけど、一ヶ月の電気代が一万円upしたので、その月でやめたのを思い出した

[higamma]

SETI@homeで一緒になって宇宙人探したのに見つからなかったの今でも覚えてるぞ！

[keidge]

昔、2ちゃんねるでも分散処理プロジェクトのスレッドが結構あったね。そういうのを思い出す人も多いだろうなあ。

[kaeruyan]

悟空というよりセル（Cell）がやりたかったことだな

[eji-tsubaki]

かつてのPS3が夢見た世界観に近づいている？　/ 「RTX Spark搭載ノート2台、DGX Spark、RTX 5090搭載ノート、RTX搭載ゲーミングPC、MacBook Proを持つ家庭を例に取ると」って、逸般の誤家庭かよ

[lacucaracha]

グリッドコンピューティングじゃないか！久々だなあ、少し痩せたんじゃないか？

[circled]

余ってるMacの処理能力をAIルーターに貸し出してお金を稼げるDarkbloomなるサービスもあるぞ https://console.darkbloom.dev/ 90年代のSETI@homeを思い出すなど

[petite_blue]

「意図しないPCが勝手に参加することはなく」とのことなので、他人の家のPCを勝手に使えるわけではなさそう

[Imamura]

OllamaやLM Studioのポートを乗っ取るプロキシとして動作。ComfyUIにも対応してるのかな（いずれにしても我が家ではメインマシン以外が貧弱すぎて無意味だけど）

[tetlabo]

MPIとかBOINCとか。

[sbiw0829]

「三体０」の話？

[karusika]

他人のPCでマイニングするウイルスを思い出したわ。

[tsz]

地球外生命体からの信号解析はどうなったんだろ

[mrnns]

Intelのirisですらない旧世代iGPUが微力ながらも貢献できるようになったら起こしてくれ

[m10i]

やだよ…電気代かかるしGPU劣化するし…

[kisiritooru]

全域で発生するインフラコストの方が高くなりそう

[ytn]

深宇宙探査かタンパク質解析でもやるんか

[dkfj]

"RTX Spark搭載ノート2台、DGX Spark、RTX 5090搭載ノート、RTX搭載ゲーミングPC、MacBook Proを持つ家庭を例に取ると" AIにざっくり総額を聞くとだいたい500万弱。どんなご家庭なんだろうｗ

[yamadadadada2]

電気代すごいことにならん？

[urtz]

逸般家庭過ぎる。分散といってもモデルサイズの分散ではないだろうし。そこそこの推論能力があるマシンが眠っている場合のみ有効

[deep_one]

folding@homeを思い出した。／「電気代は米国の多くの地域で月120ドル(約1万7,700円)程度」電気代の推定が出てた（笑）

[IGA-OS]

PS3の見た夢

[dollarss]

これは面白い。hadoopを思い出すわァ

[nguyen-oi]

余ってる家族のPCまで推論に巻き込むの草、真夏に全台フル稼働したら部屋がサウナになりそう

[kenzy_n]

そのうち所有している家庭用ゲーム機や自動運転機能付き自動車(車載用GPU)のリソースを共有して利用出来るようにでもなるのだろうか。

[sotonohitokun]

llama.cppやVllmに非対応+一番低いVRAMに引っ張られる感じなので、もう少し育つまで観察かなー/並列処理周りを自作不要+調整コスト外部化はデカいよー。Switchyardと少し被るが。

[sangping]

“リクエスト単位で丸ごと別のPCに回す形”　肩透かしやな。

[mojimojikun]

VisualStudio のビルドをLAN内の別のマシンに投げるような奴が昔あったけどアレの Local LLM版 かー