NVIDIA Dockerで簡単にGPU対応のTensorFlow入りコンテナを作る方法
こんにちは。 小説家になろうの作品群を読んでいたら連休が終わりそうです。 連休の終わりのアンミラ帰りに衝撃作TensorFlowでGPUが使えないとそのアンサーエントリであるTensorFlow on DockerでGPUを使えるようにする方法を読み、書いてみたエントリです。先月購入した最低限Maxwell的なグラフィックカード(図1)絡みで見つけたNVIDIA Docker、なかなか良いものなのでもっと多くの方に知ってもらいたいなと思い。 今回はNVIDIA Docker + TensorFlowでGPUを有効活用する手順を紹介します。他の方による関連記事として、日本語でのNVIDIA Docker + Caffe解説はすでにUbuntu14.04.3でnvidia-docker使ってCaffeをインストールしてみたがあります。Caffeな方はそちらを参照ください*1。今回はお題がTen
An Introduction to CUDA-Aware MPI | NVIDIA Technical Blog
MPI, the Message Passing Interface, is a standard API for communicating data via messages between distributed processes that is commonly used in HPC to build applications that can scale to multi-node computer clusters. As such, MPI is fully compatible with CUDA, which is designed for parallel computing on a single computer or node. There are many reasons for wanting to combine the two parallel pro
Profiler
» 1. Preparing An Application For Profiling v12.6 | PDF | Archive Profiler User’s Guide The user manual for NVIDIA profiling tools for optimizing performance of CUDA applications. Profiling Overview This document describes NVIDIA profiling tools that enable you to understand and optimize the performance of your CUDA, OpenACC or OpenMP applications. The Visual Profiler is a graphical profiling tool
Direct ComputeとCUDAの同期命令
メモリバリアやフェンス命令について、調べて分かったことのまとめです。ドキュメントの理解が怪しいうえに、実装して実験していないので、間違っている可能性あり。 — 【そもそもバリアが必要なわけ】 データハザード（RAWハザード・WARハザード・WAWハザード）が起きるから。 SIMT型の（≒GPGPUの）並列処理においてバリアがない場合何が起きるか考える。あるスレッドBが別のスレッドAによって書き込まれた値を参照したいシナリオがあったとする。しかし、スレッドAが値の書き込みが終わっているか否かはスレッドBには分からない。したがって、スレッドAによって更新される前の値を参照してしまう可能性がある。更新を確実にするには、スレッドを跨いだ値の参照が起こるよりも前の時点で、同期待ち（バリア）を行えばよい。 — 【CUDAの場合】 ■__syncthread この命令が実行されるより前のグローバルメモリ
高速演算記 第25回 「Kepler解説その2 〜Kepler世代の新機能〜」 | G-DEP
前回の記事ではサンプルプログラムを通じてK20の優れた性能を見ました。今回は具体的なカーネルを例に挙げて、K20のハイパフォーマンス性と新機能を利用したチューニング例をご紹介します。今回扱うカーネルは疎行列-ベクトル積 y=Ax、いわゆるSpMVです。疎行列とはその成分のほとんどが零の行列の事で、SpMVでは疎行列の非零要素だけを取り出して上手く処理する事が、メモリアクセスと省メモリの観点から重要となります。なお、本記事で扱うRead-OnlyデータキャッシュとWarp Shuffle命令を利用したSpMVのK20向けチューニングは、2013年1月に開催されたNVIDIA Manufacturing Day 2013にてプロメテック・ソフトウェア社の北岡氏が講演内で紹介されたものです。 SpMVのCUDAでの実装例のいくつかは、有名な論文『Efficient Sparse Matrix-V
Google Sites: Sign-in
Not your computer? Use a private browsing window to sign in. Learn more about using Guest mode
PTX ISA 8.5
Parallel Thread Execution ISA Version 8.5 The programming guide to using PTX (Parallel Thread Execution) and ISA (Instruction Set Architecture). 1. Introduction This document describes PTX, a low-level parallel thread execution virtual machine and instruction set architecture (ISA). PTX exposes the GPU as a data-parallel computing device. 1.1. Scalable Data-Parallel Computing using GPUs Driven b
GPGPUで精度保証付き計算 | ぷるーふおぶこんせぷと
金融の計算において、計算精度は超重要である。精度が低ければ価格付けに失敗し大損するかもしれない。 CUDAには、__fadd_rn(x, y)、__fadd_rz(x, y)、__dadd_rd(x, y)、__dadd_ru(x, y)、のように四則演算で丸めの方向を指定可能な関数が用意されている。数学関数の誤差についての情報も与えられておりGPGPUで精度保証計算を行うことが可能である。 前回同様、ブラックショールズモデルでのオプションプライシングを例に精度保証付き計算の実験を行った。条件は下記の通り。 計測対象のオプション明細は1024万件。パラメータは乱数により発生させる。 プレミアムを算出。（デルタ、ガンマはめんどーなので省略した。） 計算はすべてdouble型で行う。（単精度版は後半） Amazon EC2のクラスタ GPU クアドラプル エクストララージを使用。GPUはFer
CUDA C++ Programming Guide
CUDA C++ Programming Guide The programming guide to the CUDA model and interface. Changes from Version 12.5 Added sections Atomic accesses & synchronization primitives and Memcpy()/Memset() Behavior With Unified Memory. Added section Encoding a Tensor Map on Device. 1. Introduction 1.1. The Benefits of Using GPUs The Graphics Processing Unit (GPU)1 provides much higher instruction throughput and
高速演算記 第2回 「Fermi解説その2－L1/L2キャッシュは効いている？ ～メモリアーキテクチャの改良～」 | G-DEP
G-DEPトップ G-DEPの高速演算記 高速演算記 第2回 「Fermi解説その2－L1/L2キャッシュは効いている？ ～メモリアーキテクチャの改良～」 前回コラムではFermiに採用された新メモリアーキテクチャについて紹介しました。Fermiは新しくL1キャッシュとL2キャッシュを搭載し、グローバルメモリアクセスが改善されています。そしてCUDA Toolkit 3.1に含まれているPTX ISA 2.1のマニュアルには、このキャッシュに関連する記載が新たに加わっています。 今回は新たに加わった命令をもとに、L1, L2キャッシュについてレポートしようと思います。 CPUが高速になると、CPUチップの外に存在するメモリへのアクセスが相対的に遅くなってきます。メモリの高速化はCPUに比べ技術的進歩が難しいためです。 CPU内にメモリを搭載すれば、高速にアクセスできます。頻繁に使用するデー
NVCCのバックエンドのコンパイラを指定する - トータル・ディスクロージャ・サイト（事実をありのままに）
ランタイムAPIを使うように書かれたCUDAのソースコードは、「C++のソースコード中に、CUDAの記述を織り込んでいく」という形をとっている。そして、これをNVCCでコンパイルする場合、NVCCの内部で、CUファイルからCUDAの部分とC++の部分とを分離し、C++の部分は他のコンパイラに処理を投げてコンパイルを進め、最後にCUDA部分とC++部分をリンクする、という方法をとっている。 このC++をコンパイルするコンパイラとして、Windowsでは標準でVisual C++が、Mac OSやLinuxでは同じくGCCが使われるのであるが、実はこのバックエンドのコンパイラは、ユーザが自由に指定することができる。--compiler-bindirオプションで、使用するC++コンパイラのコマンドを、--compiler-optionsで、そのコンパイラが使うオプションを、それぞれ指定できる。
%3A_Unified_Memory)
CUDA 6速報(1): Unified Memory - トータル・ディスクロージャ・サイト（事実をありのままに）
先日発表されたCUDA 6について、NVIDIAが紹介している新機能をいくつか紹介する。なお、Toolkitはまだ評価できる状態ではないため、NVIDIAの紹介からの推測による記事である。そのため、正確性に欠ける可能性について気を付けたい。 Unified Memoryとは CPUとGPUとの両方からアクセスされることを目的としたメモリ領域である。CPUとGPUとの両方にメモリを確保し、データのコヒーレンシを保つように適宜同期が行われるような実装であると説明されている。 しばしば「CPUとGPUの両方のメモリにアプリケーションが直接アクセスできるようになる」というような表現で紹介しているニュースサイトがあるが、CPU上のメモリをGPUが直接アクセスする機能はすでにCUDA 2.2のときに「Mapped Memory」という機能で実現されている。さらに、CUDA 4.0のときに実装された「
GPUの使用率や温度をモニターするMuninのプラグインを作成 : しげふみメモ
2011年05月24日23:58 カテゴリLinux GPUの使用率や温度をモニターするMuninのプラグインを作成 最近、GPUが4個あるGPGPUサーバをさわる機会がありました。 各GPUやメモリがどの程度使われているのか、傾向を確認したいと思って、Muninのpluginを作ってみました。 既に誰かが作っていないか、プラグインが集まっている Munin Exchange | Munin plugin repository を確認してみると、nvidia_smi_ pluginがありました。 ただ、これは複数のGPUをまとめて一つのグラフにするようなので、GPUが4個あると見にくくなりそうです。 ということで、自分で作ってみました。 以下のようなグラフが作成されます。 これは CUDA GPU memtest で以下を同時に1.5時間ほど実行した時のものです。 （Test10 は Me
ArrayFire for GPU Computing - AccelerEyes
ArrayFire is a fast software library for GPU computing with an easy-to-use API. Its array-based function set makes GPU programming simple. ArrayFire is available for C, C++, Fortran, and Python and integrates with AMD, Intel, and NVIDIA hardware. Best of all, ArrayFire is free for most users! ArrayFire is simple. A few lines of code in ArrayFire can replace dozens of lines of raw GPU code, saving
tips : tips/02.プログラミングなど/GPGPU/CUDAメモ.txt
はじめてのCUDAプログラミング 読み中。 メモリ管理 cudaMalloc(void **devptr, size_t count) デバイス側メモリ確保。 count のところには sizeof(float) * n とかが入る cudaFree() cudaMallocHost(void **hostptr, size_t count) ホスト側メモリ確保。「ページロック・メモリ」の確保が出来る。 ※ で「ページロック」って何？ TODO: p.35 malloc, calloc ではなくこれを使うと、高速に転送できるらしい。 cudaMemcpy(void *dst, const void *src, size_t count, enum cudaMemcpyKind kind) src から dst にデータをコピー。（完了するまで戻ってこない） kind
2013年度 | ＧＰＵコンピューティング - TOKYO TECH OCW
講義資料を全世界に向けて無償で公開し、最高水準の理工系教育を全世界の共有財産とすべく提供するプラットフォームです
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NVTX: ユーザ定義のtimeline-東方算程譚
https://www.nvidia.co.jp/content/apac/pdf/tesla/nvidia-kepler-gk110-architecture-whitepaper-jp.pdf
GPU-Cluster-System & Performance TEST
Decarbonizing Industrial Heating via Clean Tech Inverter Electrification