エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
AI向けのコンピュータ構成って、どういうのが最適なんだ?
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
AI向けのコンピュータ構成って、どういうのが最適なんだ?
AIを使いたいと思った時の、パソコンの不満点がある VRAMが24GBでは足りない。1つのモデルも動かせない... AIを使いたいと思った時の、パソコンの不満点がある VRAMが24GBでは足りない。1つのモデルも動かせない。VRAMが欲しい。複数のモデルを動かすのを考えると2枚くらい拡張したい。RTX4090などではクーラーが占めてしまって、CPUとGPUどちらが本体かわからなくなっている。NVIDIAが強いのはわかるが、AIだけ考えるとAI専用のチップで速いのが欲しい。グラフィック系は最低限でいい。 AppleのM2のCPUチップの隣にAI向けアクセラレータを付けて、チップ-チップで接続、AIアクセラレータの周囲にVRAM配置 という構成がいいのだろうか? ニューラルネットのデータの流れに沿ったハードが良いんだろうが、いまいちよく分からん。 ゲームだとシーン変わるまで同じデータ使い回すのでキャッシュ効けばいいのだろうけど、 AIの場合モデルが大きすぎてメモリ帯域勝負という理解だがあってるだろうか?