PG-Strom v5.0 - KaiGaiの俺メモ
ずいぶんご無沙汰のブログ記事となりました。 今回は、設計を一新して速く、頑強になった PG-Strom v5.0 をご紹介します。 なぜ再設計が必要だったのか？ 前バージョンの PG-Strom v3.x シリーズの基本的な設計は、2018年のPG-Strom v2.0の頃から大きく変わっていません。 当時の最新GPUモデルは Volta 世代（TESLA V100）で、CUDAのバージョンは9.2ですから、かなりの大昔という事はお分かり頂けると思います。 この頃、PG-Stromの開発において最優先すべき課題は、先ず実用となるバージョンをリリースする事でした。（※ HeteroDB社の創業は2017年7月です） クエリの処理速度を高速化する事は当然なのですが、それ以上に、まだPG-Stromの内部インフラも十分に枯れていない中で、クラッシュせずに走り切る事や、バグがあったとしても容易に原
GPU/CUDAとPyTorch周りの様々なバージョンを理解する - yag's blog
前置き GPUを利用したディープラーニングの環境構築において、GPUのドライバやCUDAの諸々の設定は初学者が誰しも嵌る最初の難関と言える。私自身これまではネットの情報をあれこれ試して上手く行けばOKで済ませていたが、この辺で今一度正しく理解しておきたい。そこでこの記事を通して、GPU/CUDAとPyTorchの環境構築で遭遇する様々なバージョンの識別とその意味を理解することを目的とする。なお、細かなインストール方法やエラー対応などは本記事では扱わない。また、グラフィックボード/グラフィックカードと呼ぶべきところをGPUと表現している点もご容赦いただきたい。 [注意] この記事はGPU/CUDA素人が書いているので、細かな用語や名称の間違いが多分に含まれていると思われる。間違っていたらごめんなさい。また、事例として紹介しているバージョン番号は当然ながら時が経つにつれ古くなるので注意。 GP
CPUとGPUのマルチスレッディングの違いについて - arutema47's blog
"Locality is efficiency, Efficiency is power, Power is performance, Performance is King", Bill Dally マルチスレッディングとは？ CPUとGPUのマルチスレッディングの違いをブログにまとめていたけど例によって誰も興味なさそう— arutema47 (@arutema47) 2021年8月16日 つぶやいたら読みたい方が多そうだったので完成させました。 マルチスレッディングとはメモリ遅延を隠蔽しスループットを上げるハードウェアのテクニックです。 ただCPUとGPUで使われ方がかなり異なるため、その違いについて考えてみる記事です。 （SIMDについて並列プログラミングの観点から触れるべきでしたが、時間無いマルチスレッディングに注目するため初版では省きました。） 本記事について 本記事はCPUとG
Tensorflow GPU, CUDA, CuDNNのバージョン早見表 - Qiita
Tensorflow GPUとその他パッケージのコンパチ早見表 Tensorflow GPU、なぜか動かなくて禿げそう,いやマジではげそう そんな時は！ 下記ページの「テスト済みのビルド設定」を参照されてください。 https://www.tensorflow.org/install/source?hl=ja#gpu_support_2 上記バージョンに合わせても動かない場合は下記をチェック！ 表のとおりにバージョンを合わせたか？（CUDA=9ならば9.1を避けるなど） tensorflowとtensorflow-gpuがダブっていないか？ tensorflow-gpuとpython系は同じバージョンでインストールされているか？ 動かしたいソースコードはどのバージョンで作られているか？（更新ごとに関数が追加、削除されるため） 最新バージョンは避ける どう考えてもすべて合わせたのに動かない場
誰得なのか不明ですが2000円でCUDAを試してみました - Qiita
こんにちは @ixiv です。 「機械学習を勉強したい」と意欲を燃やす方々の中には「できたらGPGPUも！」と考えてる方も多いような気がします。とはいえ、自分のようなぺーぺーの初心者の方は、1本数万円するGPUで勉強をはじめよう、という事も難しく「なんとなくCUDAというものに触れてみたいなぁ」といったモチベーションに留まっているかと思います。 そこで、今回はまさかの 2020年の年末に2011年3月15日（僕の誕生日）発売のグラフィックボード『GeForce GTC550Ti』をメルカリで2000円で入手し、お手軽CUDA環境を立ち上げ、YOLO＋CUDA＋OpenCVでリアルタイム物体検出（Object Detection）をするまでの流れをまとめます。恐らく本手順を使うのは世界に自分ひとりな気もしますが… はじめに では早速。まずPC環境と、今回の記事を作成するために参照したWEBサ
gstore_fdw: GPUメモリをSQLで読み書き、そして…。 - KaiGaiの俺メモ
昨年、PGconf.ASIAで発表したPL/CUDAによる創薬ワークロードの高速化実験のテーマであるが、 kaigai.hatenablog.com 実測したベンチマークを見ると、奇妙な傾向が見てとれる。 このワークロードにおける計算量は「Qの行数×Dの行数」であるので、Dの行数が同じ1000万行であるならば、Qの行数が1000のケース（22.6s）に比べ、Qの行数が10のケース（13.4s）の実行時間はもっと顕著に短時間でなければならない。 計算量が1/100なのに、実行時間は半分弱にしかなっていない。 実はこれは、化合物同志の類似度を計算するための時間だけでなく、PL/CUDA関数に与える引数をセットアップするための時間に12秒程度を要しており、アムダールの法則を引用するまでもなく、類似度の計算を高速化するだけでは処理速度はこれ以上伸びないのである。 PL/CUDA関数の引数として行列
カスタムロジックをWHERE句で使う - KaiGaiの俺メモ
しばらくSSD-to-GPUダイレクトSQL実行の開発にどっぷり時間を突っ込んでいたので、久々にPL/CUDAネタ。 この辺のネタや、 kaigai.hatenablog.com この辺のネタで kaigai.hatenablog.com 紹介したように、PG-Stromはユーザ定義関数をCUDA Cで記述するための機能（PL/CUDA）を持っており、これを使えば、データベースから読み出したデータをGPUに流し込み、GPU上でカスタムのロジックを実行した後、結果をまたSQLの世界へ戻すという事ができる。 この仕組みはPostgreSQLの手続き言語ハンドラの機能を用いて実装されており、ユーザ定義のPL/CUDA関数が呼び出される毎に、手続き言語ハンドラが以下の処理を行う。 ユーザ記述のCUDA Cコードブロックをテンプレートに埋め込んで、ビルド可能なソースコードを作成。 NVRTC(NVI
Offloading & CUDA: Parallelism in C++ #3/3 (also OpenMP, OpenACC, GPU & Coprocessors like Xeon Phi)
Computer programs can be made faster by making them do many things simultaneously. Let’s study three categorical ways to accomplish that in GCC. In the third episode, we study ways to offload code to various accelerators such as GPU on a graphics card. We also explore CUDA. The previous episode can be found at: https://www.youtube.com/watch?v=MfEkOcMILDo As a plot device in this tool-assisted ed
Numba: High-Performance Python with CUDA Acceleration | NVIDIA Technical Blog
Looking for more? Check out the hands-on DLI training course: Fundamentals of Accelerated Computing with CUDA Python [Note, this post was originally published September 19, 2013. It was updated on September 19, 2017.] Python is a high-productivity dynamic programming language that is widely used in science, engineering, and data analytics applications. There are a number of factors influencing the
【GPU】メモリについて「cudaMemcpy」 - Qiita
pytorchの並列化のレスポンスの調査のため、gpuメモリについて調べた軌跡をメモ。 この記事では、もしかしたらってこうかなーってのしかわかってない。 これらのサイトを参考にした。非常に勉強になった。 http://d.hatena.ne.jp/interleave/20091103/1257259065 http://news.mynavi.jp/column/architecture/338/ cudaでhello world!! 実装は見なくていいという場合は飛ばしてください。 いや 本当に動くの？と思いながらこの記事を元に動かした。 http://www.gdep.jp/page/view/255 環境：ubuntu14, cuda8.0 #include <stdio.h> __global__ void kernel( void ) { } int main( void )
CUDAによるバンディング低減フィルタの高速化（2） - Fixstars Tech Blog /proc/cpuinfo
このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。 前回の続きです。メモリアクセス周りをもう少し見てみましょう。 カーネル内でメモリアクセスしてるデータは、乱数表と入出力画像です。このうち、読み書きデータ量の多い入出力画像を見てみます。画像のデータ型はPIXEL_YCです。これはAviUtlのフィルタ処理におけるデータ型で、以下のように定義されています。 typedef struct { short y; short cb; short cr; } PIXEL_YC; 画像データはこれの配列なので、構造体の配列（Array of Structures, AoS）です。AoSはCUDAが苦手なデータ構造です。なぜならコアレスアクセスができないからです。本来、教科書通りのやり方なら、ここでAoSをSoA（Structure of Array
CUDAによるバンディング低減フィルタの高速化（1） - Fixstars Tech Blog /proc/cpuinfo
現在(2017年6月)の価格.com最安値がCPUが35,780円、GPUが27,980円でした。よくあるPC構成ですね。 計測は、FullHD(1920×1080)の画像を10フレーム分処理して、１フレームあたりの平均を算出しました。バンディング低減フィルタのパラメータはすべてデフォルト値です。CUDA版は、画像データ転送や、乱数の生成時間は含まず、パラメータの転送や、カーネルの実行時間のみです。 CUDA版はCPU版の２倍以上の速度になりました。CPU版がSIMDやマルチスレッドを使って実装されているので、開発にかかった時間を考えると、これだけ簡単に高速化できてしまうのですから、CUDA恐るべしです。 ただし、上のCUDA版の時間は、画像データの転送時間を含んでいません。AviUtl本体とやりとりするデータは全てCPU上にあるので、GPUで処理するには、GPUへ転送→カーネル実行→CP
OpenPoseを動かしてみた。 - Qiita
目次 1.OpenPoseを動かしてみた。 2.OpenPoseチュートリアルのソースコードを読む。 3.WindowsでOpenPoseを動かしてみた。 4.OpenPoseのFace Estimationを動かしてみた。 5.OpenPoseのHand Estimationを動かしてみた。 背景 CVPR2017で発表された、DeepLearningを使った、単眼カメラでのスケルトン検出アルゴリズムが、OpenPoseという名称でライブラリ化・公開されました。 早速、Ubuntu(1404)で、OpenPoseのPose Estimationを動かしてみたので、手順を解説します。 https://github.com/CMU-Perceptual-Computing-Lab/openpose 上記画像ソースは、［ ぱくたそ（www.pakutaso.com）］様のフリー写真素材を使用し
デブサミ2017「DeNAの機械学習基盤と分析基盤」講演メモ #devsumi - 元RX-7乗りの適当な日々
sonots先生の話を聞きに行ってきたので、そのメモを残しておきます。 瀬尾 直利 氏 DeNA Co., Ltd. AIシステム部 リードエンジニア DeNAの機械学習基盤 ディープラーニングの基盤 => GPU基盤 という認識 GPUすごくて、CPU使って30日のところ、GPUを使うと4日くらいのオーダー GPUの特徴 並列処理が得意 CPUだと24coreとかのオーダー GPUでは3000〜4000core 分岐処理は苦手 行列演算に向いている GPU製品 NVIDIA Tesla HPC向けにGPUシリーズ NVIDIA GeForce GRID クラウドゲーミング向け AMD FirePro NVIDIA Tesla API CUDA OpenCL DirectCompute CUDAのアーキテクチャ CPU(ホスト)からGPU(デバイス)にデータを転送 GPUで処理 GPUから
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ソフトウェア技術者から見たFPGAの魅力と可能性
GitHub - hisashi-ito/cuda: cuda sample codes
GitHub - propelml/propel: Differential Programming in JavaScript.
GitHub - ymgaq/Pyaq: PyaqはPythonのみで実装された囲碁プログラムです。深層学習を学ぶための教育目的のコードです。
DeNA TechCon 2017 と Developers Summit 2017 でDeNAの機械学習基盤と分析基盤の講演をしました - sonots:blog
GitHub - facebookresearch/ResNeXt: Implementation of a classification framework from the paper Aggregated Residual Transformations for Deep Neural Networks
