「デスクトップをスパコンにする」新GPUは時代を変えるか 2008年6月23日 IT コメント： トラックバック (0) Bryan Gardiner 米NVIDIA社の新しい『GeForce GTX 280』は、並列接続して使用でき、きわめて大きな並列処理能力を実現する。この写真では、1枚のマザーボードに3個のグラフィックカードが設置してある。 Image: NVIDIA パソコン向けグラフィックチップ・メーカーの最大手2社が、6月第3週、新しい最上位製品を発表した。これらのグラフィックカードに使われている新しいチップは、ビデオゲームの動きを良くするだけにはとどまらず、普通のデスクトップをスーパーコンピューター並みに変えてしまうだろう——プログラマーたちが、このチップの強力に並列化されたアーキテクチャーの活用法を見出すことができれば。 グラフィック業界で長い経歴を持ち、米Jon Pedd
昨年、PGconf.ASIAで発表したPL/CUDAによる創薬ワークロードの高速化実験のテーマであるが、 kaigai.hatenablog.com 実測したベンチマークを見ると、奇妙な傾向が見てとれる。 このワークロードにおける計算量は「Qの行数×Dの行数」であるので、Dの行数が同じ1000万行であるならば、Qの行数が1000のケース（22.6s）に比べ、Qの行数が10のケース（13.4s）の実行時間はもっと顕著に短時間でなければならない。 計算量が1/100なのに、実行時間は半分弱にしかなっていない。 実はこれは、化合物同志の類似度を計算するための時間だけでなく、PL/CUDA関数に与える引数をセットアップするための時間に12秒程度を要しており、アムダールの法則を引用するまでもなく、類似度の計算を高速化するだけでは処理速度はこれ以上伸びないのである。 PL/CUDA関数の引数として行列
「MacBook Pro」用外付けGPU「Blackmagic eGPU」、Appleストアで8万9800円で発売
米AMDのRadeon Pro 580、Thunderbolt 3×2、HDMI 2.0×1、USB 3.1×4を搭載。同日Appleが発表した新型「MacBook Pro」をはじめとするハイエンドPCに接続し、動画編集や3Dゲーム、VRコンテンツ再生などを支援する。 同社のプロ向け動画編集アプリ「DaVinci Resolve 15」のユーザーは、Blackmagic eGPUを利用することでリアルタイムエフェクト、ノード数の多い色補正、フィルムグレインなどの編集性能を向上できるという。 関連記事 新型「MacBook Pro」発売 最大6コア、「True Tone」搭載 米Appleが、新型「MacBook Pro」を発売した。色温度を自動調節する「True Toneディスプレイ」を新たに採用した。 「Blackmagic Pocket Cinema Camera 4K」が日本初公開
東工大、世界初のGPU採用スパコンに進化した「TSUBAME 1.2」を解説 ～NVIDIA CEOフアン氏は特別講演を実施 12月2日 開催 米NVIDIAの創業者兼最高経営責任者(CEO)であるジェンスン・フアン氏が2日来日し、東京工業大学の講堂で学生に向けて「エンジニアの未来を語ろう」と題した講演を行なった。 今回、フアン氏が講演したのは、同校が運営するスーパーコンピュータ「TSUBAME」がこの11月に、世界最大規模となる680基のTeslaを組み込こむことアップグレードされ、77.48TFLOPSというピーク性能を実現するに至ったことが関係している。講演に先立って、Tesla採用の経緯についての記者説明会が行なわれたので、まずはその内容からお伝えする。 ●GPUによるアクセラレーションを用いた初のスパコン 2006年4月に運用が始まったTSUBAMEは、デュアルコアOpteron
高解像度の3DゲームなどのPCゲームを楽しむために「グラフィックボード(ビデオカード)」はかかせません。このグラフィックボードに搭載される専用チップ「Graphics Processing Unit(GPU)」が一体どのような働きをしているのかを、ExtremeTechが分かりやすく解説しています。 How Graphics Cards Work - ExtremeTech https://www.extremetech.com/gaming/269335-how-graphics-cards-work ◆CPUとGPU コンピューターの演算を行うハードウェアとしてCPUが知られています。ゲームに大切なGPUを理解するために、より一般的なCPUと比較するところからExtremeTechは説明を始めています。 「3Dなどの映像を描画するのにCPUを使えないのか？」という素朴な疑問について、答
GPUでモンテカルロ法の計算をしたくなったりした場合には普通CUDA,OpenCLを使うことになります。 C++でプログラミングする必要があるのですが、変数の確保、解放などで記述が長くなりがちです。pythonを用いると記述を簡潔にできるところが多いらしいので関連するライブラリを紹介します。 実務的にはPyMCからTheanoが呼べるらしいのでそれを使用するのが良さそうですが、現段階では実装されていない機能もあります。 @beroberoさん http://heartruptcy.blog.fc2.com/blog-entry-152.html id:breakbeeさん http://breakbee.hatenablog.jp/entry/2014/05/20/121722 がインストール、実行に関して解説されているのでここでは実装面を少し説明します。というか備忘録です。 PyCUDA
Pythonのように書けてGPU上で並列処理できる新プログラミング言語「Bend」、2D画像→3Dを高精度生成するGoogle「CAT3D」など重要論文5本を解説（生成AIウィークリー） | テクノエッジ TechnoEdge
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。第47回目は、生成AI最新論文の概要5つを紹介します。 生成AI論文ピックアップ GPU上でネイティブ動作する並列処理が可能な新プログラミング言語「Bend」とランタイムシステム「HVM2」 2D画像から3Dコンテンツを生成する「CAT3D」をGoogleが開発 大規模言語モデルは追加学習や新知識で幻覚生成が増加。Googleなどが調査 画像とテキストを使った長文生成が得意なAIモデル「Chameleon」をMetaが開発 Transformerを超える「Mamba」は視覚認識タスクに必要か？ 開発した「MambaOut」モデルで検証 GPU上でネイティブ動作する並列
【2ch】ニュー速クオリティ:ついにインテル内蔵GPUの新ドライバが覚醒 40%の性能向上 HAWX2は15→79fpsに大幅向上
1 名無しさん＠涙目です。(山形県) 2011/09/04(日) 01:45:30.27 ID:YZDmnb4y0 ?PLT(12067) ポイント特典 769+1 ：Socket774 [sage] ：2011/09/03(土) 20:34:52.83 ID:vniOepSc (3/9) ってネタかと思ったらまじかよ Intelの新グラフィックドライバは40%性能向上するらしい Intel: new graphics drivers will make your games run 40% faster http://games.kitguru.net/pc-gaming/maksims-smolaks/intel-new-graphics-drivers-will-make-your-games-run-40-faster/ 772 ：Socket774 [sage] ：2
CPU・GPU・ストレージの性能をワンクリックで測定できるフリーソフト「CrystalMark Retro」レビュー、CrystalDiskMark作者の新作で簡単操作でPCの性能を測定可能
CPUやGPU、ストレージの性能を簡単に測定できるベンチマークソフト「CrystalMark Retro」が2024年3月31日にリリースされました。CrystalMark Retroはストレージベンチマークソフト「CrystalDiskMark」やストレージ管理ソフト「CrystalDiskInfo」といった定番ソフトの作者であるhiyohiyo氏の新作ということで、CrystalMark Retroも定番ソフトに仲間入りしそうな気配を感じます。そんなCrystalMark RetroをダウンロードしてPCの性能を測定するまでの手順を確認してみました。 CrystalMark Retro - Crystal Dew World [ja] https://crystalmark.info/ja/software/crystalmarkretro/ CrystalMark Retroをダウン
NVIDIA H100 for AI & ML Workloads | Cloud GPU Platform | Paperspace
Cloud hosted desktops for both individuals and organizations.
メモリ食いますしグラボによっては使えないそうですが、皆さんGPU/OpenGLって使ってますか？僕は一応使ってます。使いこなせてないと思いますが。けっこう便利な小技が揃ってるので、個人的に気に入った機能をまとめました。使った事無い方は是非一度お試しください。 それと、3Dが出来るのは大きいかもしれないですね。使い方によっては面白い装飾が作れます。 が、3Dに関しては知識不足の為、省きます。 CS4から、あるいはCS5から導入された物が散らばってますが、 僕の環境が5.5なので5.5前提で書いていきます。ちなみにWinですが、Macも部分併記。 それと、恐らくCS6は微妙にどこか違うはず。6での追加機能も特に調べて無いです。 なんだよCS6書けよとご不満の方、CS6買って！CC1年でも良いです。ぜひ！ フリップ スマホ的な感じで、するするーっと動くようになります。 [Spac
3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFaceモデルを拡張して動画からテキスト生成するVideoBLIPを作成しました。ソースコードはGithubで公開しています。 運転映像に対する説明文章を学習に用いてVideoBLIPの学習を行い、運転映像を説明するモデルを作成しました。（以下のように運転映像に対して説明文が出力されます） 学習を高速化するためにマルチノードで学習を行えるようにし、実際にABCIのGPU80台を使って分散学習を行い、4GPUで行った場合の20倍の計算速度が実現できました（Strong Scaling!） 分散並列学習にはDeepSpeedを用いました。 はじめに Brain Researchチームで自動運転AIを開発している棚橋です。Brain Researchチームではレベル5の完
低ランク行列を追加することで、大元のモデルを維持しつつ少ないコストで学習できる LoRA(Low-Rank Adaptation of Large Language Models)。先日、日本語でも大規模パラメータモデル cyberagent/open-calm-7b や rinna/japanese-gpt-neox-3.6b 等々がリリースされたり、HuggingFaceからはtransformersでLoRAを簡単に実現できるライブラリ、peft がリリースされたことで、試したことがある方も多いと思います。 ただ、LoRAのメリットについて主に学習の話が殆どで、もう一つの大きなメリットであるLLMのベースモデルのメモリを共有しつつ、複数のタスクをこなす方法の紹介は見かけたことがなかったので、それをpeftで行う方法についてのお話です。 なお、LoRAとは何か？というお話は、輪講資料
NVIDIAのGPU不足が解消され余剰在庫が発生
新型コロナウイルス感染症のパンデミックによる工場閉鎖や仮想通貨のマイニング需要などが重なり、2021年はGPUの価格が激しく高騰しました。しかし、2022年1月にはGPUの価格が下落に転じたという報道がなされ、2022年4月には正常な価格に近づいていると伝えられており、価格が次第に安定し始めたことがうかがえます。このような状況の中、NVIDIAはGPUに余剰在庫が生じていることを明らかにしました。 NVIDIA Corporation (NVDA) CEO Jensen Huang on Q2 2023 Results - Earnings Call Transcript | Seeking Alpha https://seekingalpha.com/article/4536856-nvidia-corporation-nvda-ceo-jensen-huang-on-q2-2023-r
TensorFlow User Group HW部(2017年２月２７日)で使ったスライドです。講演後、一部加筆・修正しています。Read less
［GDC 2024］CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用
［GDC 2024］CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用 ライター：西川善司 セッションタイトルを訳すなら，「ようこそ，未来のGPUプログラミングモデル『GPU Work Graph』へ」 米国時間2024年3月18日に行われたGDC 2024の技術セッション「Advanced Graphics Summit: GPU Work Graphs: Welcome to the Future of GPU Programming」において，AMDとMicrosoftは共同で，DirectX 12の新機能「Work Graph」を発表した（関連リンク）。本稿では，Work Graphとは何で，どのような利点をもたらすのかを解説したい。 セッションを担当したMicrosoftのShawn Hargreaves氏（Dev Man
現在シリコンバレーで最も注目される話題は「GPU不足」といわれている。生成AIへの関心が高まる中、大規模言語モデルの開発が活発化し、それに伴いGPUをめぐる取得競争が激化しているためだ。そのため、NVIDIAが新たに発表した「GH200」にも注目が集まる。GH200はどんなGPUになるのか。そもそもなぜGPUが不足しているのか、現行GPU「H100」や「A100」は誰が、何個取得したのか、ChatGPTの開発にGPUはどれほど必要なのか。GPU関連の注目トピックを紹介しよう。 バークリー音大提携校で2年間ジャズ／音楽理論を学ぶ。その後、通訳・翻訳者を経て24歳で大学入学。学部では国際関係、修士では英大学院で経済・政治・哲学を専攻。国内コンサルティング会社、シンガポールの日系通信社を経てLivit参画。興味分野は、メディアテクノロジーの進化と社会変化。2014〜15年頃テックメディアの立ち上
文章生成AIの研究開発が急速に進んでおり、無料で使える大規模言語モデル(LLM)も数多く公開されています。しかし、LLMの動作を実際に試すには高性能なハードウェアや複雑な環境構築が必要なことが多いため、最初から諦めている人も多いはず。無料で公開されている「LM Studio」を使えば、一般的な性能のPCでもコマンド不要で気軽にLLMの動作させられるとのことなので、実際にLM Studioを使ってLLMを使う手順を確かめてみました。 LM Studio - Discover, download, and run local LLMs https://lmstudio.ai/ ◆LM Studioのインストール LM StudioはWindows版とmacOS版が存在するほか、Linux向けのベータ版も存在します。Windowsで使う場合の必要条件は「AVX2に対応したCPU」のみ。近年販売さ
iPad を GPU 支援付き無線セカンドモニタにする「Luna Display」を試してみた！ #lunadisplay | DevelopersIO
TL;DR 手元に Luna Display が届いたのでレビューします！ iPad を MBP のセカンドモニタにできるアプリは他にもいくつかありますが、こいつはハードウェアでの描画をサポートし、無線接続で利用できるなど、他にはない特徴をそなえたすごいヤツです。 Luna Display - Turn your iPad into a second display その前に：Luna Display とは Luna Display は、iPad を液晶タブレットにするアプリ「Astropad」を開発・販売していた Astro HQ が、昨年 8月に Kickstarter にて発表したプロジェクトです。 Luna Display by Astro HQ — Kickstarter プロジェクト自体は同 10月に無事目標額を達成、今年の 6月より順次製品の出荷が始まりました。わたしの手元に
NVIDIAが「消費電力1000Wの爆熱GPU」を開発中か
世界有数のPCメーカーであるDellの決算発表会で「NVIDIAが消費電力1000WのGPUを開発している」という旨の発言が飛び出しました。 Exhibit 99.1 Earnings 8K Q4 FY24 - Q4 FY24 Financial Results Press Release.pdf (PDFファイル)https://investors.delltechnologies.com/static-files/12b9be7b-2d4c-4d63-b7d3-8bb467724952 Dell exec reveals Nvidia has a 1,000-watt GPU in the works • The Register https://www.theregister.com/2024/03/05/nvidias_b100_gpu_1000w/ 「NVIDIAが消費電力100
最強ＣＰＵ将棋ソフト『水匠』ＶＳ最強ＧＰＵ将棋ソフト『dlshogi』長時間マッチ観戦記 第二譜『dlshogi』山岡忠夫の信念
取材・文／白鳥士郎 「バグが原因で勝ったと思われるのは、嫌だな」 第1局に勝利した瞬間、山岡忠夫の心に真っ先に浮かんだのは、そんな思いだった。 『やねうら王』に存在したバグ。 山岡はその存在に全く気付いてはいなかった。そもそも山岡は将棋ソフトを開発する際に、盤面や読み筋はおろか、評価値すら見ることがない。だからバグを知らないのも当然といえた。 では、山岡は何を見て開発しているのか？ 「基本的に、見るのは勝率と正解率です」 正解率とは、長時間の対局で『dlshogi』が指した手と同じ手を、ニューラルネットで予測して時間を使わず指すことができるかどうか、その割合を示す。 この精度が高ければ高いほど、dlshogiが強くなっているということを意味する。 だから山岡はdlshogiがどんな将棋を指すのかをほぼ知らない。将棋を指さず、将棋番組も見ないため、そもそも将棋の対局を見る機会もあまりない。
以下の記事が面白かったので、かるくまとめました。 ・Methods and tools for efficient training on a single GPU 1. LLMを単一GPUで効率的に学習する方法大規模モデルの学習では、次の2つを考慮する必要があります。 ・スループット・学習時間 ・モデルのパフォーマンス 「スループット」 (サンプル / 秒) を最大化すると、学習コストの削減につながります。これは通常、GPUメモリを限界まで利用することで実現されます。必要なバッチサイズがメモリオーバーする場合は、「Gradient Accumulation」などの「メモリの最適化」が必要になります。 ただし、「推奨バッチサイズ」がメモリに収まる場合は、学習が遅くなる可能性があるため、「メモリの最適化」を適用する必要はありません。どのバッチサイズが最良の結果をもたらすかを決定し、それに応じ
NVIDIAの新型CPU「Tegra4i」を使用して端末を製作するメーカーの参考のためにNVIDIAがリファレンスモデルとして開発したスマートフォンが「Phoenix(フェニックス)」です。今回はその端末やプロセッサーの詳細をMWC2013に出展中の同社から聞くことができたのでレポートします。 How Phoenix, the Tegra 4i Reference Phone, Will Bring Awesome Features to the Mainstream http://blogs.nvidia.com/2013/02/how-phoenix-the-tegra-4i-reference-phone-will-bring-awesome-features-to-the-mainstream/ NVIDIAブースの外観はこんな感じ。 2013年2月現在、同社の最新型のスマートフォ
Appleのサプライチェーン関係者によれば、Appleは2020年末までにTSMCの5nmプロセス技術を使用したApple Silicon用A14Xプロセッサの量産を開始し、12インチRetinaディスプレイを採用したMacBookに搭載されると、工商時報が伝えている。 A14Xプロセッサを採用したMacBook (Retina, 12-inch)は、バッテリー持続時間が最大10時間～12時間となる可能性があるそうだ。12インチMacBookは2019年に販売終了となっており、現在のラインアップには存在しない。 また、Appleは、TSMCの5nmプロセス技術を使用したApple Silicon Mac用のGPUも開発中で、2021年後半に発売予定のiMacに搭載される予定だとも伝えている。 iPhone 12シリーズで採用されるA14はコードネーム「Sicilian」、iPad Proと
Sat, Jan 2, 2016 This post presents a new method for high quality text rendering using the GPU. Unlike existing methods it provides antialiased pixel accurate results at all scales with no runtime CPU cost. Click here to see the WebGL demo Font atlases The standard way of rendering text with the GPU is to use a font atlas. Each glyph is rendered on the CPU and packed into a texture. Here’s an exam
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「デスクトップをスパコンにする」新GPUは時代を変えるか | WIRED VISION
gstore_fdw: GPUメモリをSQLで読み書き、そして…。 - KaiGaiの俺メモ
【Hothotレビュー】 IntelミドルレンジGPUのお手並み拝見！発売前のArc 770とA750をベンチマークテスト
東工大、世界初のGPU採用スパコンに進化した「TSUBAME 1.2」を解説
ゲームに不可欠な「GPU」の働きや性能に関して知っておくべきこと
pythonでGPUとMCMC(とR) - xiangze's sparse blog
ニンテンドー3DSのGPUに「PICA 200」が採用 純国産の固定機能シェーダー対応GPU
【後藤弘茂のWeekly海外ニュース】 GPUの進化に対応したMicrosoftの次世代API「DirectX 12」の背景
DDR4はDDR3より本当に高性能？意外と知られていない「メモリの実性能」 内蔵GPUや暗号化の実行速度、消費電力などをチェック text by 坂本はじめ
新製品レビュー：Adobe Lightroom CC GPU対応、フィルターブラシ、顔認識…定番写真ソフトがさらに進化
PhotoshopのGPU/OpenGLって使ってる？ 僕が使ってるお気に入り機能まとめ / Maka-Veli .com
走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話
LoRA のもう一つの大きなメリット、GPUメモリ共有しつつ別のタスク処理モデルへ即時に切り替える方法 - A Day in the Life
ムーアの法則を打ち破るNVIDIA GPUの次の一手は“1パッケージでマルチGPU” - PC Watch
Intel vs. AMDガチ比較！ ゲームのfpsは、配信負荷はどうだ!? ～第3世代Ryzen×GPUの最適タッグを検討する
【後藤弘茂のWeekly海外ニュース】 NVIDIAが次世代GPUアーキテクチャ「Kepler」のベールを剥いだ
Ryzen 6000モバイル版で遂にGPUにてこ入れ。Zen3+とRDNA2で性能大幅引き上げ
AMD、Zen 3アーキテクチャに刷新したGPU内蔵の「Ryzen 5000G」
GPUでビデオをエンコード・デコード ～Linuxで普及の「VA-API」がWindowsで利用可能に／Windows 10 November 2019 Update/Windows 11以降で
２値化CNN on FPGAでGPUとガチンコバトル（公開版）
【後藤弘茂のWeekly海外ニュース】 AMD 7年振りの新GPUアーキテクチャ「Navi」は、10年を見据えたゲーム向けRDNAを搭載
生成AIでGPU不足深刻化、NVIDIA新投入のGH200とは？ メタやテスラが抱える驚きのGPU数
【後藤弘茂のWeekly海外ニュース】 NVIDIAが次世代GPUアーキテクチャ「Fermi」を発表
GPU非搭載ノートPCでもコマンド不要で各種言語モデルの性能を試せる実行環境「LM Studio」レビュー
Raspberry Pi PicoでGPUを作る。element14が動画を公開
大規模モデルを単一GPUで効率的に学習する方法｜npaka
GPUを使って高速化! この夏買いたいGPGPU対応ソフト
4+1コアCPUと60コアGPUを備えたTegra4i搭載のNVIDIA製スマホ「Phoenix」フォトレビュー
12インチMacBook、A14X搭載で年内復活か Apple Silicon GPUも開発中
GPU text rendering with vector textures · Will Dobbie