[CUDA] NVIDIA GPUやCUDA周りの互換性を理解したかった
よくわからなかったので、調べて整理しようとした試み。 Compute Capability GPU ハードウェアがサポートする機能を識別するためのもので、例えば RTX 3000 台であれば 8.6 であるなど、そのハードウェアに対応して一意に決まる。 アーキテクチャの世代が新しくなり、機能が増えるほど、この数字も上がっていく。 以下のリンク先に、Compute Capability と機能の対応表があるが、これを見ると（少なくとも執筆時点で） Compute Capability 7.x 以上でテンソルコアが使えるといったことがわかる。 それぞれの機種がどの値かは以下のサイトから確認できる。 NVIDIA Driver のバージョン Compute Capablity 一般向けの Compute Capability との関連性は見つからなかったが、データセンタ向けの資料には Maxwe
![[CUDA] NVIDIA GPUやCUDA周りの互換性を理解したかった](https://cdn-ak-scissors.b.st-hatena.com/image/square/85cf8361e193b6c85a85ff11f6be3131360d96e7/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--Zly7bMhc--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BCUDA%25255D%252520NVIDIA%252520GPU%2525E3%252582%252584CUDA%2525E5%252591%2525A8%2525E3%252582%25258A%2525E3%252581%2525AE%2525E4%2525BA%252592%2525E6%25258F%25259B%2525E6%252580%2525A7%2525E3%252582%252592%2525E7%252590%252586%2525E8%2525A7%2525A3%2525E3%252581%252597%2525E3%252581%25259F%2525E3%252581%25258B%2525E3%252581%2525A3%2525E3%252581%25259F%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3Aeduidl%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzJkNDMwMDk1NTYuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
【2023】爆速でGCPにリモートAI開発環境を構築する方法🔥 | TC3株式会社｜GIG INNOVATED.
はじめに こんにちは、TC3 Data Scienceチームの@mumeco_mlです！弊社は2022/10からGCP Cloud Partnerとなっておりまして、現在GCP(Google Cloud Platform)のプロジェクトでの活用をより促進しております。今回は、このGCPの機能の1つであるCompute Engineを利用したAI開発環境の作り方をご紹介いたします。GCPのVMで開発環境を作る場合、大きく分けて事前にML用に用意された環境を利用する方法と、Dockerを使ってOS環境等も含めて作る方法があると思いますが、今回は前者を説明します。需要があれば、後者の解説も作ろうと思います。 クラウド開発環境の利点・欠点 利点 高額なGPUをオンデマンドで効率的に活用できる ローカルマシンの動作が重くならない 任意のマシンスペックを利用できる 欠点 使用時間に応じて課金される 実
NVIDIA製GPUのPCI Expressのリンク速度を調べる（Linuxの場合）
はじめに 昨今ではPCI Express 4.0（Gen4）対応のCPU、マザーボード、GPUが一般的に流通するようになりましたね。 そんな中、GPUをセットアップしていて、ふと思いました。「本当にPCI Express 4.0で動作しているのだろうか？」と。 そこで今回は、PCI Expressの世代、帯域、レーン数などを調べる方法を整理してみました。 具体的には、以下の3つのコマンドを紹介します。 nvidia-smi -a nvidia-smi --format=csv --query-gpu=index,gpu_bus_id,name,pcie.link.gen.max,pcie.link.gen.current,pcie.link.width.max,pcie.link.width.current sudo lspci -s [バス番号] -vv nvidia-smiコマンドを使
第642回 仮想マシン上のmicrok8sからGPUを利用する | gihyo.jp
第641回では「LXDとmicrok8sでシングルサーバーをKubernetesクラスターにする」と題して、より高機能になったmicrok8sについて紹介しました。microk8sで構築したKubernetesがあれば、気軽にたくさんのCPUコアを使ってさまざまなワークロードを動かし、部屋を暖められます。でも、待ってください。そのサーバーにはもっと便利な熱源がありませんか？ そうGPUですね。本格的に寒くなる前に、Kubernetes環境からもGPUを使えるようにしましょう。 ホスト側でGPUパススルーの準備 第641回ではLXDの仮想マシンインスタンスの上にmicrok8sをインストールしました。つまりホストマシンのGPUを使うには、LXDの仮想マシンの中からGPUにアクセスできなくてはなりません[1]。コンテナの場合、第532回の「LXDのコンテナからGPUを利用する」などで手順を紹
Self-Driving Cars Technology & Solutions | NVIDIA Automotive
AI-defined vehicles are creating safer and more efficient transportation, while providing occupants with customized in-cabin experiences. These revolutionary benefits require both high-performance in-vehicle AI computing and a scalable infrastructure. The NVIDIA DRIVE® platform consists of both the AI infrastructure and in-vehicle hardware and software to deliver everything needed to develop auton
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
