SSD-to-GPU Peer-to-Peer DMAとバッファ管理（その１） - KaiGaiの俺メモ
昨年の暮れ、JPUGカンファレンスのLTで『SQL+GPU+SSD=∞』と題したスピーチを行った。 SQL+GPU+SSD=∞ (Japanese) from Kohei KaiGai www.slideshare.net これはかいつまんで言えば、ストレージからデータをCPU+RAMへとロードするより前に一旦GPUへとデータを転送し、そこで不要なデータを削ぎ落してからCPU+RAMへと渡してやる事で、CPU負荷の軽減とRAMの有効活用が計れるというアイデアである。 実装としては、PCI-Eデバイス間でのP2P DMA機能を利用する事によってNVMe SSDの特定ブロックからGPU RAM上の特定の領域へDMAを実行するというものなので、ここは別に新しくも何ともない。 以下の図は、従来の仕組みにおけるデータの流れを示したもの。 SSDから読み出されたデータは先ずCPU+RAMにバッファされ
OpenCLやる前にSIMD使い切れっていう幻想 - aokomoriuta's blog
お詫び アライン忘れてましたごめんなさい、でも時間あんまり変わってないから許して・・・ https://t.co/JNtq2U2kMq— 青子守歌 (@aokomoriuta) April 29, 2015 では本編どうぞ↓ 本編 若干話題に乗り遅れた感ありますが。 d.hatena.ne.jp けど、SSEも知らねー、SIMDも知らねー、なんか俺が書いたアルゴリズム遅いけどとりあえずOpenCLとかで高速化しよっかなーとかね、甘ったれてんじゃねえよ。CPUをもっと使いきれよ。お前のアオいコードのせいでCPUが泣いてるよ。っていう話ですよ。 GPGPUなんてのはSIMDを使い切った後の話でしょ。 GPGPUするのにGPUのパワーとメモリが足りませんとか言う前にまずSIMDからだろ。 とか言われてたので、検証することにした（やっつけ）。 環境 OS: Windows 7 Profession
NVIDIA cuDNN | NVIDIA Developer
Accelerated Learning cuDNN provides kernels, targeting Tensor Cores, to deliver best available performance on compute-bound operations. It offers heuristics for choosing the right kernel for a given problem size. Expressive Op Graph API The user defines computations as a graph of operations on tensors. The cuDNN library has both a direct C API and an open-source C++ frontend for convenience. Most
The Vector Programming Language
Vector was our team’s final project for COMS 4115: Programming Languages and Translators. Vector is a high-level language for general-purpose GPU computing. Over the course of the semester, our team developed a compiler that compiled Vector into CUDA, which could then be compiled to run on Nvidia GPUs. My teammates were Zachary Newman, Sidharth Shanker, Jonathan Yu, and Harry Lee. Rationale Genera
GPUでレコメンデーションの計算の高速化 - Thinking out loud
実際のところ、リアルタイムでレコメンデーションを走らせるためには、速い計算機が必要である。 計算量を食わない簡略化したロジックを動かすとか、計算機をクラスタ化して環境を構築する、などのアプローチもあるが、GPUを使って計算を高速化するというアプローチはなかなか見かけないので面白い。 （社内でやっているところはあるかもしれないけれど、公開をしていないだけ、だったりして。） "You Might Also Like: A Multi-GPU Recommendation System" You Might Also Like: A Multi-GPU Recommendation System from NVIDIA GPU演算で、(Simpleながらも)レコメンデーション(recommendation)の計算が、CPUと比べて20倍〜300倍の早さになったよ、というスライド。 要は、Util
%3A_Unified_Memory)
CUDA 6速報(1): Unified Memory - トータル・ディスクロージャ・サイト（事実をありのままに）
先日発表されたCUDA 6について、NVIDIAが紹介している新機能をいくつか紹介する。なお、Toolkitはまだ評価できる状態ではないため、NVIDIAの紹介からの推測による記事である。そのため、正確性に欠ける可能性について気を付けたい。 Unified Memoryとは CPUとGPUとの両方からアクセスされることを目的としたメモリ領域である。CPUとGPUとの両方にメモリを確保し、データのコヒーレンシを保つように適宜同期が行われるような実装であると説明されている。 しばしば「CPUとGPUの両方のメモリにアプリケーションが直接アクセスできるようになる」というような表現で紹介しているニュースサイトがあるが、CPU上のメモリをGPUが直接アクセスする機能はすでにCUDA 2.2のときに「Mapped Memory」という機能で実現されている。さらに、CUDA 4.0のときに実装された「
About NVIDIA
統合メモリ、ドロップイン・ライブラリなどのプログラミング機能により、 次世代のGPU開発者を支援 2013年11月14日 － カリフォルニア州サンタクララ －NVIDIA（本社：米国カリフォルニア州サンタクララ、社長兼CEO： ジェンスン・フアン(Jen-Hsun Huang)、Nasdaq：NVDA）は本日、世界で最も普及している並列コンピューティングのプラットフォームおよびプログラミングモデルの最新バージョン、NVIDIA® CUDA® 6を発表しました。 CUDA 6プラットフォームでは並列プログラミングがいままで以上にやりやすくなり、科学や工学、エンタープライズのアプリケーションをGPUで高速化するために必要な時間と労力が大幅に削減されます。 いままで使っていたCPUベースのライブラリを置き換えるだけで実行速度を最大8倍に高められるパフォーマンスの拡張機能も用意されています。CUD
【連載】Kepler GPUアーキテクチャとプログラム最適化
NVIDIAの「GK110(Kepler)」GPUを使う「Tesla K20/K20x」と「GeForce Titan」は、現状では最強の科学技術計算能力を誇っており、K20xは2012年11月のTop500で1位を獲得したオークリッジ国立研究所のTitanスパコンにも採用されている。GPUは高い浮動小数点演算能力を持っているが、単に、浮動小数点演算器の数を増やして従来のCPUを相似形で拡大したものではなく、かなり異なった作り(アーキテクチャ)となっている。そのため、GPUの高い演算能力を引き出すためには、CPUのプログラムとは異なる注意が必要である。そこで本連載では、Kepler GPUを例にとり、そのアーキテクチャとCUDAプログラムの最適化のポイントを見ていきたいと思う。
AWS News Blog
AWS Week in Review – AWS Documentation Updates, Amazon EventBridge is Faster, and More – May 22, 2023 Here are your AWS updates from the previous 7 days. Last week I was in Turin, Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years. AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz
AWS News Blog
Announcing Amazon Managed Service for Apache Flink Renamed from Amazon Kinesis Data Analytics Today we are announcing the rename of Amazon Kinesis Data Analytics to Amazon Managed Service for Apache Flink, a fully managed and serverless service for you to build and run real-time streaming applications using Apache Flink. We continue to deliver the same experience in your Flink applications without
GTC Japan 2013 - CUDAの発明者のIan Buck氏に聞いたGPUソフトの将来
NVIDIAが7月30日に開催した「GTC Japan 2013」においてGPU Computing Software部門のジェネラルマネージャのIan Buck氏から、GPUソフトウェアの将来像について話を聞いた。Buck氏はCUDAの生みの親であり、現在もNVIDIAのGPUソフトウェア開発の中心となっている人物である。 今回のGTCにおいて、NVIDIAがコンパイラのメーカーであるPGI(Portland Group International)を買収したことが発表された。これに関して、NVIDIAとPGIの分担はどうなるのかを質問したところ、PGIは、これまでのコンパイラのライセンス・販売を続ける。しかし、NVIDIAの一員となったので、MaxwellやVoltaといった将来のGPUやCUDA6/7の技術情報にアクセスできるようになり、より緊密な協力が行えるようになる。また、PGI
The 13 application areas where OpenCL and CUDA can be used - StreamHPC
Our Services and ProductsWe are a software house that writes extremely fast code for the world's most demanding companies. Software Development – From architecture to delivery, making fast softwareDevelop Fast SoftwareMaking the release version of prototype codeMaking CUDA-code work on AMD hardware (HIP)Porting CUDA to OpenCLTraining – From crash-course to full in-house trainings1-day Crash Course
GPUへのMapReduceの適用に関する調査 - nishio-dens's diary
概要 近年、GPUの性能は飛躍的に向上しており、グラフィック専用の処理装置としてではなく、数値計算等の汎用向けの処理に利用する、GPGPUに関する研究が盛んに行われている。GPUは内部に多くのコアを備えており、NVIDIA社のGeForce GTX 580では、512個ものコアを保持している。これらのコアすべてを効率よく利用することで、GPUの持っている高いパフォーマンスを引き出すことが出来るが、GPUの高い並列性を利用するためにはGPU特有の処理を実装する必要があり、GPUプログラミングになじみの無い利用者にとっては処理の記述が困難である。 そこで、GPUを大量のコアを持ったプロセッサだと考え、これらに対してMapReduceを適用することを検討する。親しみやすいMapReduceインターフェースにあてはめて処理を記述するだけで、GPUの高い並列性を生かしたプログラムが実装可能となる。加
2013年度 | ＧＰＵコンピューティング - TOKYO TECH OCW
講義資料を全世界に向けて無償で公開し、最高水準の理工系教育を全世界の共有財産とすべく提供するプラットフォームです
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【後藤弘茂のWeekly海外ニュース】 AMDの完成形APU「Kaveri」のアーキテクチャ
サービス終了のお知らせ
進化するGPU仮想化技術でワークステーションをデータセンターに - NVIDIA GRID VGXソリューション
【仮想化道場】 【GTC 2013レポート】NVIDIAが提供するクラウド/仮想環境向けのGPU「NVIDIA GRID」
2009/12/10 GPUコンピューティングの現状とスーパーコンピューティングの未来
【イベントレポート】 【GTCレポート】日本ユニシス、CUDAでリコメンドシステムを実装