タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

gpuに関するsh2のブックマーク (2)

  • 「TOPS」を計算してみよう 〜 AI対応PCの性能指標

    エンジニアの又川(@n_matagawa)です。 皆さんは AI 対応 PC の性能指標に使われる「TOPS」という単位をご存知でしょうか?最近では Microsoft が発表した Copilot+ PC の性能要件である「40 TOPS」が話題になりましたね。 これから PC を買う方はその PC が 40 TOPS を超えているのか気になると思います。 そこで、この記事では「TOPS」の定義と、具体的な計算方法を解説したいと思います。 スーパーコンピュータの性能を測る指標として、「TFLOPS(テラフロップス)」というものがあります。「TFLOPS」は「Tera FLoating-point OPerations per Second」の略で、1秒間に何兆回の浮動小数点演算(加算・乗算のみ対象)ができるかを表すものです(*1)。 スーパーコンピュータや PC、スマホを始めとしたコンピュ

    「TOPS」を計算してみよう 〜 AI対応PCの性能指標
    sh2
    sh2 2024/08/21
    TOPSの計算。INT8で求めている
  • NVIDIA GPUスペック(機械学習用) - Qiita

    NVIDIAのサーバー用(旧NVIDIA Tesla) 単位はTFLOPS(全て密行列の行列積)。 密行列の行列積の理論上のパフォーマンスで統一しています。最近NVIDIAは疎行列のパフォーマンスで表示しているのですが(with sparsityと書いてあります)、このページは僕が間違えていない限り密行列で統一しています。 あくまで積和演算の装置がどれくらい載っているかという理論値であり、実際はこの性能は100%は出ないですし、ディープラーニングの性能と強い相関関係はありますが、ディープラーニングのベンチマークも見るべきです。 2019年よりサーバー用はTeslaという名称は消えました。NVIDIA Tesla V100 → NVIDIA V100。 Feynman Rubin Ultra の後継。2028年発表予定。 Rubin Ultra 型番不明

    NVIDIA GPUスペック(機械学習用) - Qiita
    sh2
    sh2 2024/04/09
    T4が安いんだけど今となっては推論専用か
  • 1