タグ

ブックマーク / zenn.dev/phpmyadmin (1)

  • 中古サーバ用GPUでローカルLLM環境を作る試算(MI50 / P40 / P100 / V100 / CMP 170HX)

    追記:2026年8月11日 MI50とP40の情報を加えました。表では触れていますが文ではあまり触れられていません。 データセンターやマイニングで役目を終えた GPU が中古市場に流れている。Tesla P100 (16GB)は 2万円、Tesla V100 (32GB)は 12万円、CMP 170HX (64GB)は22万円程度でメルカリやヤフオクで買える。同じ 32GB を積む新品の RTX 5090 は 77.4万円、ユニファイドメモリで128GBのDGX Sparkは98万円する。 メモリ 1GB あたりの価格に直すと大きな差になる。 最安は Radeon Instinct MI50 の 938円/GB で、RTX PRO 6000 の 28分の1 である。中古5機種は 938〜3,750円/GB に収まり魅力的だ。 この価格差を使って、ローカル LLM 環境を実際に組むとしたら

    中古サーバ用GPUでローカルLLM環境を作る試算(MI50 / P40 / P100 / V100 / CMP 170HX)
    igrep
    igrep 2026/08/12
  • 1