【西川和久の不定期コラム】 CUDAコア128基のGPUを搭載したAI/深層学習向け「Jetson Nano開発者キット」を試す
Hydra: Pixar's Real-Time Render Engine for Feature Film Assets and Workflows / GPU Technology Conference 2015
Watch the latest videos on AI breakthroughs and real-world applications—free and on your schedule. Some content may require membership in our free NVIDIA Developer Program.
このように米国の大手IT企業がこぞってディープラーニングの推論アクセラレータに注力する中、ある日本のスタートアップ企業が、世界的に異色の成果を上げた。 単価わずか500円ほどの市販のボードで、10フレーム/秒（fps）もの速度のディープラーニング推論を実現したのだ（図1）。2015年に創業した精鋭技術者の集団、Idein（イデイン）というベンチャーの成果である。 Ideinの技術は、完全なビデオレートまでは到達していないが、動画として十分スムーズといえる速度である。モバイル向けのディープニューラルネット「MobileNet v2」で1000クラスの分類タスクをこの速度で実現。既存技術と比べて、10倍ほどの高速化を達成した。 彼らが使ったのは「Raspberry Pi（ラズベリーパイ、略称、ラズパイ）」。教育用途などとして世界で累計1250万台以上もの出荷実績を持つ小型のCPUボードである。
サーバレスGPUにModalがいいぞ！
GPUを使いたいこと、あると思います。 ただしご家庭に強いGPUはないこともあるでしょうし、かといってGPU搭載したインスタンスを立て続けているととてつもないお金がかかります。 そんなあなたにサーバレスGPU、使った秒数分だけ課金が発生するので、いきなりすごい金額がかかることにはならず手軽にGPUを使ったプログラミングが始められます。 私は今の所ModalとRunPodを試したのですが、ModalのDXが良すぎるため今回イントロ記事を書く筆を取りました。 始めにざっくりいいところを述べると 一つのファイルで完結する。 RunPodとの比較だと「RunPodではDockerのイメージを自前でビルドしてどこかしらのregistryにpush、都度タグを付け替えてRunPodの方にも反映」みたいなのが必要だったがModalでは全部要らない ローカルパッケージをちょろっとした関数で送れたり、テキス
実際の音を聞いて理解する「TrueAudio」。一部GPUとAPUに統合した新機能で，AMDは何を狙っているのか ライター：榎本 涼 Radeon R9＆R7シリーズのうち，「Radeon R9 295X2」（以下，R9 295X2）と「Radeon R9 290X」（以下，R9 290X），「Radeon R9 290」（以下，R9 290），そして「Radeon R7 260X」（以下，R7 260X）およびKaveri世代の「AMD A-Series」（以下，A-Series）APUだけがサポートする「TrueAudio」（トゥルーオーディオ）を覚えているだろうか。 AMD独自のグラフィックスAPI「Mantle」とセットで大々的に発表されたにもかかわらず，2014年8月時点でサポートされる製品版タイトルはPC版「Thief」のみで，Mantleと比べると今ひとつぱっとしないため，す
GitHub - BradLarson/GPUImage: An open source iOS framework for GPU-based image and video processing
The GPUImage framework is a BSD-licensed iOS library that lets you apply GPU-accelerated filters and other effects to images, live camera video, and movies. In comparison to Core Image (part of iOS 5.0), GPUImage allows you to write your own custom filters, supports deployment to iOS 4.0, and has a simpler interface. However, it currently lacks some of the more advanced features of Core Image, suc
次期最強GPU｢RTX 5090｣が、いろいろとヤバそうな件について2024.07.23 08:00199,991 武者良太 グラフィックの処理能力がヤバそう。そして価格も。 2024年末から2025年の3月までに、Nvidia（エヌビディア）の新しいGPU｢GeForce RTX 50｣シリーズが発売されるだろうというリーク情報が増えてきました。Dexertoの記事によれば、最初にリリースされるのはRTX 5090だ、いやRTX 5080だと、リーカーによって予想が異なっていますが、2022年のRTX 40シリーズ同様、まずはハイエンド寄りのモデルから発売するという流れは変わらないみたい。 ともあれ生成AIトレンドとともに重視されているNPUではなく、純粋なGPUの最新型となるRTX 50シリーズのなかでも頂点となるRTX 5090に期待している方も多いでしょう。いったいどんな性能を持っ
米NVIDIAは3月18日（現地時間）、年次イベント「GTC 2025」で、大規模言語モデル（LLM）の推論を最適化するオープンソースソフトウェア「NVIDIA Dynamo」を発表した。GPU群における処理の割り当てを最適化。計算を最小限に抑え、電力当たりの応答速度や処理能力を向上させるという。
CPUとGPUの差がわかるデモ：2100本のペイントガン実験(動画) 2008年9月 1日 IT コメント： トラックバック (0) Charlie Sorrel 検証テレビ番組『MythBusters』(邦題『怪しい伝説』)に登場するAdam Savage氏とJamie Hyneman氏による「伝説バスターズ」は、売り込みだってかっこよくやってのける。 米NVIDIA社が、上記の2人を雇い、CPUとGPU(グラフィックチップ)の処理スピードの違いを実演してみせたのだ[8月25日から27日にサンノゼで開催されたNVISION 08でのイベント]。 まずは、ありふれた「CPU」として、1ピクセルずつ発射するペイントガンが登場する。もどかしいほどゆっくりと、スマイルマークが点でキャンバスに描かれていく。 続いて登場する「GPU」は、心底圧倒される「2100もの銃身による並列処理」として体現され
NVIDIA，新世代GPU「GeForce RTX 30」シリーズを発表。第1弾の「GeForce RTX 3080」は9月17日発売で税別約11万円前後
NVIDIA，新世代GPU「GeForce RTX 30」シリーズを発表。第1弾の「GeForce RTX 3080」は9月17日発売で税別約11万円前後 編集部：小西利明 2020年9月2日，NVIDIAは，独自開催のオンラインイベント「GeForce Special Event」で，Ampereアーキテクチャを採用する新型GPU「GeForce RTX 30」シリーズの製品として，「GeForce RTX 3080」と「GeForce RTX 3070」，および「GeForce RTX 3090」を発表した。 GeForce RTX 3080搭載カードを披露するNVIDIAのCEOであるJensen Huang（ジェンスン・フアン）氏 搭載グラフィックスカードのメーカー想定売価と発売時期は，GeForce RTX 3080が10万9800円で9月17日，GeForce RTX 3070
【jQuery】CSS3のTransform3DでGPUによる滑らかなアニメーションを実装しよう【CSS3】 | スターフィールド株式会社
スターフィールド株式会社 > Blog > 制作 > css3 > 【jQuery】CSS3のTransform3DでGPUによる滑らかなアニメーションを実装しよう【CSS3】 jQueryを使うと、手軽にアニメーションを実装することができて、とても便利です。 しかし、jQueryによるアニメーションは処理がどうしても重くなります。 特にスマホなどでは、元々アニメーションがネイティブアプリのUIに多く使われているため、 jQueryによるアニメーションがもっさりとした動きに感じることが多いのではないでしょうか。 jQueryのアニメーションは、通常CPU(コンピュータの総合的な演算装置)により処理されています。 CPUは元々画像処理だけに最適化されたものではない上に、アニメーションだけでなくコンピュータ全体の演算を担っているため、 CPUでアニメーション処理を行うとどうしても処理が遅くなっ
はじめに ディープラーニングの学習を実行するにはGPUはほぼ必須ですが、GPUを使用するにはNVIDIAドライバー、CUDAなど色々とインストールする必要があります。 この作業はバージョンの組み合わせやインストール方法で結構ハマることが多いようです。 ubuntu-drivers と NVIDIA Docker を使えばこれらを簡単にインストールできます。 環境 Ubuntu 18.04 LTS 日本語 Remix GeForce GTX 960 ディープラーニングでGPUを使用するのに必要なもの NVIDIAドライバー LinuxでNVIDIAグラフィックカードのGPUを認識させるのに必要 CUDA NVIDIAが開発・提供している、GPU向けの汎用並列コンピューティングプラットフォーム cuDNN NVIDIAが公開しているDeep Learning用のライブラリ CuPy Pytho
次期最強GPU｢RTX 5090｣が、何もかもヤバそうな件について2024.11.25 18:3082,963 武者良太 怪物化が止まらない。 2025年初頭に発表されるとウワサされている、NVIDIAのゲーム/クリエイティブ/ローカルAIワーク向けGPU｢RTX 5090｣。そのウワサが少しずつ伝わってきました。 性能が大幅アップしてさらに大型化か現行の最強種であるRTX 4090と比較すると、次のようなちがいがあるみたいですよ。 ダイサイズ：RTX 5090はRTX 4090より22％大型化 CUDAコア数：RTX 5090はRTX 4090より33％増の2万1760コア TDP：RTX 5090はRTX 4090より33％増のTDP 600W 全体のサイズ：不明だが熱処理を考えるとクーラー部が大型化すると考えられる そして、もっとも重要な要素である価格ですが。 価格：RTX 5090
（ 調査 ）Deep Learning 計算を、FPGA 専用アクセレレータ 上で 高速 に 行う試み ～ Deep Learning 計算基盤 を、GPU から 自社製FPGA に 切り替える動き が 加速中。今後はさらに、Neuromorphic chip がやってくる？FPGADeepLearningneuromorphic-computingneuromorphic-tipCognitive-computing 1. 個人プログラマの手で、機械学習 / Deep learning 専用 FPGAアクセレレータを論理合成した先行事例 が Webに公開されている Google検索でしらべたところ、以下 の 高前田 伸也 氏 のSlide Shareが、公開されている先行事例として先駆的です。 （ 以下、下記 の SlideShare から 該当ページを抜粋して転載 ） (Slide S
BlenderはOS Xを放棄する？「OS XのGPUドライバにはApple以外修正できないOpenCLの不具合がある」としてLuxRenderの開発チームがTim Cook氏へ公開状を送る。
OpenCLの不具合 今回 OpenCLの不具合を指摘しているのは3Dグラフィックツール「Blender」の元開発者で現在Blender財団の会長を務めるオランダのTon Roosendaalさんや、Paolo Cicconeさんで内容は「我々はOS XのOpenCL GPUドライバが壊れておりレンダリングできないことを発見しました。同じシーンをWindowsやLinuxをインストールした全く同じハードウェア（Mac）で、レンダリングした場合美しく出力されるので、これはAMDやnVidiaのソフトやGPUの不具合ではなくOS Xのドライバの問題です。OS XのOpenCLはOSの一部となっておりApple以外このドライバーをアップデート出来ません。AppleはOpenCL不具合のプライオリティを新しい絵文字より低く扱っているようだ」というもので、 We have found out tha
『NVLink Bridgeで複数GPUを繋いだら、それらが1GPUとして扱えるようになるんでしょ？』という誤解をされているお客様をしばしばお見受けいたします。こちらの記事では、それが誤解であること、また、SLIやUnified Memoryといった関連する情報についても整理して解説いたします。間違った期待を抱いて失敗しないように、正しい理解を深めていきましょう。 GPUのメモリ空間は他デバイスから隔絶されています GPU上には演算するためのプロセッサと、データを一時的に置いておくためのメモリ(VRAM)が搭載されています。GPUのメモリを、CUDAで書かれたプログラムから利用するには、cudaMallocでメモリ領域を確保し、cudaMemcpyを使ってホスト(CPU側)のメモリとデータの送受信を行い、GPU上で演算kernelとする関数（以下、GPU-Kernel）を呼び出し、最後にc
TPU VS GPU(日本語版)
はじめに(この記事の英語版はTPU VS GPU(English Edition)にあります。) Machine Learning部門の江間見です。ストックマークでは、自然言語処理技術の研究開発を行っています。 昨今、大規模データでニューラルネットワークを訓練し良い結果を得ようとするならば、深層学習モデルの訓練にかかる時間の膨大さに誰もが悩まされたことがあるかと思います。さらに、深層学習モデルはハードウェアのリソースを多く必要とします。 深層学習モデルの学習では、計算の特性上、CPU（Central Processing Unit）より GPU（Graphics Processing Unit）が高速であるため、GPUが推奨されます。しかし、GPU以外の選択肢として、TPU(Tensor Processing Unit)があります。 そこで、本記事では、自然言語処理のタスクで深層学習モデル
MetaのAI研究組織であるMeta AI Researchが、大規模言語モデル「LLaMA(Large Language Model Meta AI)」を2023年2月24日に発表しました。Meta AI Researchによれば、LLaMAはOpenAIのGPT-3よりもパラメーター数がずっと小さく、単体GPUでも動作可能でありながら、ベンチマークテストの一部ではGPT-3を上回ったとのことです。 LLaMA: Open and Efficient Foundation Language Models - Meta Research https://research.facebook.com/publications/llama-open-and-efficient-foundation-language-models/ Meta unveils a new large languag
NVIDIA H100 for AI & ML Workloads | Cloud GPU Platform | Paperspace
Paperspace is now part of DigitalOcean, and we've got a new look to match!
［GTC 2018］NVIDIA，8万1920基のCUDA Coreを統合した“世界最大のGPU”「DGX-2」発表。新開発の「NVSwitch」で16基のTeslaを相互接続
［GTC 2018］NVIDIA，8万1920基のCUDA Coreを統合した“世界最大のGPU”「DGX-2」発表。新開発の「NVSwitch」で16基のTeslaを相互接続 編集部：佐々山薫郁 北米時間2018年3月27日，NVIDIAのJensen Huang（ジェンスン・フアン）CEOは，自社イベントである「GPU Technology Conference 2018」2日めの基調講演で，8万1920基のCUDA Coreからなる“世界最大のGPU”を発表した。 “世界最大のGPU”（“The World’s Largest GPU”）をHuang氏は発表した ただし，残念ながら（？）これは単体GPUではない。Huang氏は基調講演で，VoltaアーキテクチャのGPU「GV100」を採用しつつ従来比2倍の容量となる32GBものHBM2メモリを組み合わせた新GPUモジュール「Tesl
家庭用GPUでLlama 4を動かす方法：複数のRTX 4090でH100級の環境を構築する はじめに Metaが発表した最新の大規模言語モデル「Llama 4」は、その高い性能で注目を集めています。しかし、公式によると最小でもNVIDIA H100 GPUが必要とされており、一般ユーザーにとっては簡単に利用できる環境ではありません。H100は価格が高く（数百万円以上）、入手も困難な状況です。 そこで本記事では、比較的入手しやすい家庭用GPU（RTX 4090など）を複数枚使って、H100に匹敵する環境を構築し、Llama 4を動かす方法を紹介します。この方法により、より多くの開発者やAI愛好家がLlama 4の可能性を探求できるようになります。 なお、Llama 4自体の詳しい解説は以下の記事に譲りますので、そちらをご参照ください。 本記事では、複数GPUのセットアップ方法と、実際にLl
稼働中のPCやサーバのCPU/GPU温度を監視することは、マシンの状態を把握する上で極めて重要である。CPUなどの精密なパーツは、指定された制限値を超える温度で実行されていると、寿命が極端に短かくなったり、熱暴走を起こして停止したりしてしまう可能性がある。それを防止するには、いち早く冷却機能が正常に動作しているかを確認し、故障の原因を突き止めなければならない。TecMint.comは「4 Useful Tools to Monitor CPU and GPU Temperature in Ubuntu」において、UbuntuにおいてCPUやGPUの温度を監視するために便利な4つのツールのインストール方法を紹介している。以下、そのポイントをまとめてみた。 Glances Glances - An Eye on your system GlanceはPythonで記述されたシステム監視ツールで
GPUで超弾幕作ってみた
シューティングって弾が何発出るくらいから弾幕シューティングって呼ばれるようになるんでしょうか？これってトリビアになりませんか？ / というわけで、GPGPUでやってみました。
「デスクトップをスパコンにする」新GPUは時代を変えるか 2008年6月23日 IT コメント： トラックバック (0) Bryan Gardiner 米NVIDIA社の新しい『GeForce GTX 280』は、並列接続して使用でき、きわめて大きな並列処理能力を実現する。この写真では、1枚のマザーボードに3個のグラフィックカードが設置してある。 Image: NVIDIA パソコン向けグラフィックチップ・メーカーの最大手2社が、6月第3週、新しい最上位製品を発表した。これらのグラフィックカードに使われている新しいチップは、ビデオゲームの動きを良くするだけにはとどまらず、普通のデスクトップをスーパーコンピューター並みに変えてしまうだろう——プログラマーたちが、このチップの強力に並列化されたアーキテクチャーの活用法を見出すことができれば。 グラフィック業界で長い経歴を持ち、米Jon Pedd
昨年、PGconf.ASIAで発表したPL/CUDAによる創薬ワークロードの高速化実験のテーマであるが、 kaigai.hatenablog.com 実測したベンチマークを見ると、奇妙な傾向が見てとれる。 このワークロードにおける計算量は「Qの行数×Dの行数」であるので、Dの行数が同じ1000万行であるならば、Qの行数が1000のケース（22.6s）に比べ、Qの行数が10のケース（13.4s）の実行時間はもっと顕著に短時間でなければならない。 計算量が1/100なのに、実行時間は半分弱にしかなっていない。 実はこれは、化合物同志の類似度を計算するための時間だけでなく、PL/CUDA関数に与える引数をセットアップするための時間に12秒程度を要しており、アムダールの法則を引用するまでもなく、類似度の計算を高速化するだけでは処理速度はこれ以上伸びないのである。 PL/CUDA関数の引数として行列
「MacBook Pro」用外付けGPU「Blackmagic eGPU」、Appleストアで8万9800円で発売
米AMDのRadeon Pro 580、Thunderbolt 3×2、HDMI 2.0×1、USB 3.1×4を搭載。同日Appleが発表した新型「MacBook Pro」をはじめとするハイエンドPCに接続し、動画編集や3Dゲーム、VRコンテンツ再生などを支援する。 同社のプロ向け動画編集アプリ「DaVinci Resolve 15」のユーザーは、Blackmagic eGPUを利用することでリアルタイムエフェクト、ノード数の多い色補正、フィルムグレインなどの編集性能を向上できるという。 関連記事 新型「MacBook Pro」発売 最大6コア、「True Tone」搭載 米Appleが、新型「MacBook Pro」を発売した。色温度を自動調節する「True Toneディスプレイ」を新たに採用した。 「Blackmagic Pocket Cinema Camera 4K」が日本初公開
東工大、世界初のGPU採用スパコンに進化した「TSUBAME 1.2」を解説 ～NVIDIA CEOフアン氏は特別講演を実施 12月2日 開催 米NVIDIAの創業者兼最高経営責任者(CEO)であるジェンスン・フアン氏が2日来日し、東京工業大学の講堂で学生に向けて「エンジニアの未来を語ろう」と題した講演を行なった。 今回、フアン氏が講演したのは、同校が運営するスーパーコンピュータ「TSUBAME」がこの11月に、世界最大規模となる680基のTeslaを組み込こむことアップグレードされ、77.48TFLOPSというピーク性能を実現するに至ったことが関係している。講演に先立って、Tesla採用の経緯についての記者説明会が行なわれたので、まずはその内容からお伝えする。 ●GPUによるアクセラレーションを用いた初のスパコン 2006年4月に運用が始まったTSUBAMEは、デュアルコアOpteron
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【Hothotレビュー】 国内未発売のIntel Arc A380先行入手！GPUの第三の選択肢になるのか？
《日経Robotics》ラズパイGPUで深層学習推論を高速化、異色の精鋭集団Idein（前編）
「Stable Diffusion 3 Medium」がついに解禁、一般的なGPUでも効率よく動作する2Bモデル／フォトリアリズムを実現、NVIDIAとの提携によりパフォーマンス50％向上
実際の音を聞いて理解する「TrueAudio」。一部GPUとAPUに統合した新機能で，AMDは何を狙っているのか
【笠原一輝のユビキタス情報局】 GPU市場に地殻変動をもたらすIntelの第4世代Coreプロセッサ
次期最強GPU｢RTX 5090｣が、いろいろとヤバそうな件について
【イベントレポート】 Intel、数カ月内に10nm製造の新CPU「Ice Lake」を量産出荷開始 ～Sunny Coveコアと1TFLOPS越えのGPUを統合
西川善司の3Dゲームファンのための次世代PSP-GPU講座 -GAME Watch
NVIDIA、GPUクラスタ最適化で「DeepSeek-R1のスループット30倍」 オープンソースで提供
CPUとGPUの差がわかるデモ：2100本のペイントガン実験(動画) | WIRED VISION
AMDの次世代GPUアーキテクチャ「RDNA 2」、ついにハードウェアレイトレーシング対応 ～Zen 4までのロードマップ公開。データセンター向けの新GPUアーキテクチャ「CDNA」も
【後藤弘茂のWeekly海外ニュース】 Pascal世代で飛躍するNVIDIAのGPU仮想化技術「NVIDIA GRID」
Xiaomi、約79,000円でNVIDIA GPU搭載のMacBook Air対抗13.3型ノート - PC Watch
最短で作るローカルのディープラーニングGPU環境 - Qiita
【笠原一輝のユビキタス情報局】 「沢下り」から「沢登り」へと他2社とは逆の製品展開を行なうIntelのGPU戦略
次期最強GPU｢RTX 5090｣が、何もかもヤバそうな件について
（ 調査 ）Deep Learning 計算を、FPGA 専用アクセレレータ 上で 高速 に 行う試み ～ Deep Learning 計算基盤 を、GPU から 自社製FPGA に 切り替える動き が 加速中。今後はさらに、Neuromorphic chip がやってくる？ - Qiita
【後藤弘茂のWeekly海外ニュース】 デュアルCPUコア&デュアルGPUコアになったiPad 2
NVLink BridgeでGPUを繋いでも1GPUにはなりません | HPCシステムズ Tech Blog
Metaが大規模言語モデル「LLaMA」を発表、GPT-3に匹敵する性能ながら単体のGPUでも動作可能
家庭用GPUでLlama 4を動かす方法：複数のRTX 4090でH100級の環境を構築する
UbuntuでCPU/GPUの温度を監視するためのツール4選
「デスクトップをスパコンにする」新GPUは時代を変えるか | WIRED VISION
gstore_fdw: GPUメモリをSQLで読み書き、そして…。 - KaiGaiの俺メモ
【Hothotレビュー】 Intel Arc B580、ついにRTX 4060の壁を超えた？待望の新GPUをテスト
【Hothotレビュー】 IntelミドルレンジGPUのお手並み拝見！発売前のArc 770とA750をベンチマークテスト
【レビュー】 Kaveriにおける動画再生の画質改善効果を検証する ～GPUによって画質が異なるのか
東工大、世界初のGPU採用スパコンに進化した「TSUBAME 1.2」を解説