CPUとGPUのマルチスレッディングの違いについて - arutema47's blog
"Locality is efficiency, Efficiency is power, Power is performance, Performance is King", Bill Dally マルチスレッディングとは？ CPUとGPUのマルチスレッディングの違いをブログにまとめていたけど例によって誰も興味なさそう— arutema47 (@arutema47) 2021年8月16日 つぶやいたら読みたい方が多そうだったので完成させました。 マルチスレッディングとはメモリ遅延を隠蔽しスループットを上げるハードウェアのテクニックです。 ただCPUとGPUで使われ方がかなり異なるため、その違いについて考えてみる記事です。 （SIMDについて並列プログラミングの観点から触れるべきでしたが、時間無いマルチスレッディングに注目するため初版では省きました。） 本記事について 本記事はCPUとG
PyTorchでGPUの計算時間を正しく計測する - まったり勉強ノート
測定結果 結果として、間違った測定方法だとCPUとGPUを比較すると「1883倍速くなりました！」という主張をしてしまうことになります。ちなみにGPUで1000倍なんて数字が出てきたら確実にどこか間違えています。実際、今回のケースでは本当は「約59倍速くなりました！」というのが正しい結果になります。 torch.cuda.synchronize()とtorch.cuda.Eventを使った場合の違い 今回torch.cuda.synchronize()とtorch.cuda.Event の2種類を紹介しました。場合によっては使い分けをしたほうがいいのでこの二つの違いを説明していきます。 torch.cuda.synchronize() を利用した場合、簡単なので測定しやすいのでいいので、ぱっと測定したい場合はこちらの方法が楽でよいかと思います。ただ、こちらの方法はkernel関数の発行と測
GeForce RTX 30-Series Tech SessionsでわかったAmpereが超進化した理由 (1/4)
CUDAコアが前世代に比べ2倍以上の増加し、RTコアもTensorコアも刷新されたGeForce RTX 30シリーズ。GeForce RTX 3080は9月17日より販売解禁となる。なお、写真のFounders Editionの国内正式販売はない 2020年9月2日、NVIDIAのCEO、ジェンスン・ファン氏は先日オンラインで開催した「GeForce Special Event」において、既存のGeForce RTX 20シリーズの性能をはるかに上回る（と主張する）「Ampereアーキテクチャー」と、それを採用した「GeForce RTX 30シリーズ」を発表した。非常に多くの内容を40分程度にまとめた超高濃度かつハイスピードなセッションだった。 今回はそのGeForce Special Eventに続き、プレス向けに開催された「GeForce RTX 30-Series Tech Se
仮眠プログラマーのつぶやき : UnityでGPGPU応用編 バイトニックソートを高速化
2020年07月13日12:44 カテゴリUnityGPGPU UnityでGPGPU応用編 バイトニックソートを高速化 バイトニックソート(Bitonic Sort)の概要バイトニックソート(Bitonic Sort)は主にGPU等の並列計算器でソートを実装しようとするときに使われるソートである。 計算量のオーダーはO(n log^2 n)であり、クイックソートのO(n log n)には負けるものの並列化による高速化が勝るという感じなのでいろんなところに使われている。 対象読者キーワード「GPU」「バイトニックソート」で検索してこの記事にたどり着いただろう方が対象。 この記事では ・バイトニックソートでなぜソートできるか ・どうやったら高速化できるか という点について重点的に書いている。 高速化については OpenCLでバイトニックソートを実装している海外サイト をパクリ参考にした。 こ
詳報：トヨタが頼った謎のAI半導体メーカー
AI（人工知能）による産業構造の激変が始まった。 売り上げ規模など従来の序列は全く関係ない。対応できない既存勢力は没落する。強固なピラミッドを持つ自動車産業とて安泰ではない。AIによる自動運転の実用化が、激変の号砲となる。 5月10日にトヨタ自動車とAIによる自動運転で提携したのは、半導体世界シェア10位以下の米エヌビディア。自動車業界と半導体業界にとって、序列の崩壊を象徴する提携である。 エヌビディアは長らく、ゲーム用半導体というニッチ産業のプレーヤーの1社に過ぎなかった。まさに「知る人ぞ知る」存在だった同社は、AI時代の寵児になりつつある。 ただし、同社のAI用半導体メーカーとしての実力はいまだベールに包まれている。4月、日経ビジネスはメディアとして世界で初めて、米エヌビディアを密着取材した。 AIによる世界制覇の攻防──。特集第1回は、その主役の1社であるエヌビディアの実像を詳報する
Dockerを使ってGPUも使える分析環境を構築してみた - のんびりしているエンジニアの日記
皆さんこんにちは お元気ですか。Kaggle Meetup面白かったです！またあいましょう。 今日はDockerを使った分析環境構築の話をしようと思います。 Dockerを使って何を作ろうかと思ったら、分析環境さっさと作りたい・・・ cudnn等の更新が面倒であることが思い浮かびました。 なんとなく、Dockerを使えば解消できるのではないかといったことを思いつき遊んでみました。 Dockerとは Dockerはコードやシステムライブラリ、システムで利用するのを実行するために 必要な全てが含まれているものをラップするソフトウェアらしい。 OS上で仮想環境を立ち上げ、ソフトウェアなどの実行ができます。 www.docker.com Dockerのメリット 公式サイトによれば、次のとおりです。 階層化されたファイルシステムから構築されるので、ディスクやイメージが効率的 DockerコンテナはL
Pascalって結局なに？ Founders Editionって何が違うの？ 「GeForce GTX 1080」の疑問アレコレにNVIDIAが答えた
Pascalって結局なに？ Founders Editionって何が違うの？ 「GeForce GTX 1080」の疑問アレコレにNVIDIAが答えた 編集部：小西利明 GeForce GTX 1080 Founders Edition 2016年5月17日にアーキテクチャや機能の詳細とレビューが解禁となった，デスクトップPC向け新型GPU「GeForce GTX 1080」（以下，GTX 1080）。前評判に違わぬ高い性能と消費電力の低さで，大きな話題を呼んでいるようだ。 そんなGTX 1080について，4Gamerでは，西川善司氏による解説記事を掲載済みではある。しかし依然として，NVIDIAによる説明がない「謎」が残っているのも確かだ。 5月18日にNVIDIAは，東京都内にて記者説明会を行い，GTX 1080に関する詳細を説明した。内容のほとんどは，西川氏の記事で解説済みであるため
GPGPUでオイル時計のシミュレーションを作ってみた – EL-EMENT blog
最近の投稿 サイトを新しくしました Unityでスクリプトを使わずに流体を計算する PHPでオンライン対戦できるリバーシを作ってみた ハル研究所プログラミングコンテスト2018に参加しました ワイヤーアクションゲームを作りました 最近のコメントリバーシAIを作ってみた に yukari よりPHPでオンライン対戦できるリバーシを作ってみた に 白丸 よりリバーシAIを作ってみた に taguchi よりPHPでオンライン対戦できるリバーシを作ってみた に ああ亜 よりリバーシAIを作ってみた に Yoka よりアーカイブ 2021年6月 2018年12月 2018年11月 2018年10月 2018年9月 2018年6月 2018年5月 2018年2月 2018年1月 2017年12月 2017年11月 2017年8月 2017年3月 2017年2月 2016年12月 2016年8月 20
scryptがGPUに破られる時 | びりあるの研究ノート
一般的によく知られている SHA-256 や MD5 などのハッシュ関数は非常に単純な設計となっており、非力なパソコンや組み込み機器、スマフォなどでも高速に計算できます。 しかしながらその一方で、ハッシュ関数を手当たり次第に計算し、もとの入力値を復元するいわゆる「ブルートフォース攻撃」が容易であるというデメリットがあります。 特にこのような SHA-256 や MD5 といったハッシュ関数は、GPU を用いるか、もしくは専用のハードウェア (FPGA もしくは ASIC) を製作することで非常に高い効率で計算（攻撃）ができてしまうことが知られています。 そのため、GPU ないし専用ハードウェアを用いたとしても、攻撃効率の改善が難しくなるような新たなハッシュ関数がいくつか提案されています。 その中で比較的古く (2012年ごろ) に開発され、他のハッシュ関数にも影響を与えている「scrypt
西川善司が分析！『アンチャーテッド』のグラフィックスのスゴさとは【PR】 - 週刊アスキー
こんにちは。再び登場の西川善司である。 10月8日発売の『アンチャーテッド コレクション』の魅力を伝えているこの短期連載の第二回目は、このアンチャーテッドシリーズのグラフィックス技術面にスポットをあててみたいと思う。 前回と比べると、少々難しい内容になっているかも知れないが、別に全てを理解する必要はなく、「なるほど、わからん。でもアンチャってすげえ」と言うことさえ伝わればヨシなので気にしないでいただきたい。 “不気味の谷”を渡るアンチャーテッドシリーズのキャラクター表現 アンチャーテッドシリーズは冒険活劇ではあるが、それを演じるのは魅力的なキャラクター達である。その魅力的なキャラクター達は人間であり、擬人化された動物ではない。我々は、ゲームの中に登場するのがそうした擬人化された動物キャラであれば、寛容な目線で見て「可愛らしい」と感じることが出来るが、これが人間となると事情が変わってくる。
マルチコアを用いた画像処理
2014年6月に開催されたSSII2014（http://www.ssii.jp/）のチュートリアル講演用資料です． 使用したコード等はこちら． https://github.com/norishigefukushima/SSII2014 アブストラクト 「CPUのクロック数が年月とともに増加する時代は終わり、プログラムの高速化をCPUの性能向上に任せることのできるフリーランチの時代は終わりを迎えています。しかしムーアの法則はいまだに続いており、CPUはマルチコア化、SIMD化という形で高性能化が続いています。本チュートリアルでは、計算コストの高い画像処理を高速化するために、CPUの能力をあますことなく引き出す、マルチコアプログラミング、SIMDプログラミングを解説します。」Read less
Kepler GPUアーキテクチャとプログラム最適化(2) GPUはどうやって命令を処理しているのか
GPUの命令の実行方法 CPUでは、基本的に1つの命令列で一組のデータを処理する。これに対して、GPUでは命令列は1つであるが、多数のデータの組を並列に処理するという方法を採る。例えば、3次元図形の頂点の座標変換を行うには、それぞれの頂点座標に変換行列を掛ける。この時、複雑な図形であれば頂点は多数あるが、変換行列を掛ける手順(プログラムの命令列)はすべて同じである。つまり、1つの命令列で、多数の異なる頂点座標データに同じ変換行列を掛けてやれば、多数の頂点の座標の変換を行うことができる。これは、座標変換を行うプログラム(スレッド)を並列に実行したことと同じである。NVIDIAは、この処理方法をSIMT(Single Instruction Multiple Thread)と呼んでいる。 GK110のような複雑なチップの全貌を1つの図にまとめるのは難しいが、おおよそ、上の図のような構造になって
GC 13: Crytekが次世代機にも対応した新たな“CRYENGINE”を発表、デモ映像も公開 | Game*Spark - 国内・海外ゲーム情報サイト
ドイツのゲームデベロッパーCrytekは本日、同社が手がけるゲームエンジンの最新版となる“CRYENGINE”を発表しました。「CryENGINE 3が2009年にローンチして以来、私達は非常に多くの主要な新機能でエンジンを劇的に変化させました。これはもはや同じエンジンではありません」と事業開発ディレクターのCarl Jones氏が語るように、エンジンは常に進化を続けているという事実を考慮して今後はバージョンの表記が取り払われるのだそうです。加えてJones氏は次のようにも話しています。 「全てのライティングシステムのオーバーホール、映画品質のキャラクターレンダリング及びアニメーションソリューションの構築、サンドボックスエディターの速度及び有効性の大幅な改善、テッセレーション・PADM・物理ベースなどによるレンダリングの変化など、私達はエンジンの多くの部品を革新させました。これらは製作する
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NVIDIA、「3DMark Port Royal」に導入されたディープラーニング技術について発表
GPU上でのNLP向け深層学習の実装について
Open CL Settings | Forums | SideFX
長文日記
Static hosting for Bitbucket by Aerobatic
The Future of GPU Render Appliances at VFX Studios - Studio Daily
【後藤弘茂のWeekly海外ニュース】 NVIDIAの最強モバイルSoC「Tegra K1」の省電力技術の秘密