Yaboo Oyabu, Machine Learning Specialist, Google Cloud Kazuhiro Yamasaki, Deep Learning Solution Architect, NVIDIA 概要このチュートリアルでは GCP 上で NVIDIA Tesla T4 と TensorRT Inference Server (以降 TRTIS) を用いて高性能なオンライン予測システムを構築する手順と、そのパフォーマンス計測・チューニング方法を説明します。このチュートリアルを完了すると、TensorRT に最適化された機械学習モデルが Cloud Storage に格納されます。また、 オンライン予測と負荷テストを実施するための GKE クラスタが作成されます。 本記事は Google Cloud Next 2019 Tokyo におけるセッション『GCP
新連載「西川善司のバビンチョなテクノコラム」第1回。Appleの新プロセッサ「M3」はいかなるものぞ？ | テクノエッジ TechnoEdge
テクニカルジャーナリスト。東京工芸大学特別講師。monoAI Technology顧問。IT技術、半導体技術、映像技術、ゲーム開発技術などを専門に取材を続ける。スポーツカー愛好家。 こんにちは。西川善司です。 昔、Oh! MZとかOh! Xというソフトバンクが出していたパソコン雑誌で、技術的な記事プログラムとか音楽作ったりしていた、プログラマー崩れの著述家です。 現在は、2台の大きさのだいぶ違うスポーツカーを乗り回したり、渓流ルアー釣りを楽しんだり、色んなゲームをプレイしたり、国内外の電機メーカー、半導体企業を取材したりしています。 自分は他媒体では、頂いた「1テーマ」に沿った技術コラムを書かせてもらっていますが、テクノエッジさんでは、そのメディア名を曲解して「技術の端っこ」をテーマにしたコラムを書かせていただきたいと思います。 「技術」には普段、自分が請け負うことの多い「電気的な先端技術
高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon '23
高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon '23 高速なPython互換言語「Mojo」の開発元であるModular社は、同社として初のイベント「ModCon '23」を12月4日にサンフランシスコで開催しました。 基調講演で、高速なPython互換言語の「Mojo」を含むAI処理を高速に実行するプラットフォーム「MAX」（Modular Accelerated Xecution (MAX) Platform）がNVIDIAのGPU対応となり、さらに高速な処理が可能となる「MAX GPUs」が発表されました。
プリファード・ネットワークス（PFN、東京・千代田）は16日、生成人工知能（AI）の基盤となる大規模言語モデル（LLM）の開発に着手したと発表した。西川徹最高経営責任者（CEO）が同日開かれたICT（情報通信技術）分野の総合展示会「Interop Tokyo 2023」で表明した。米テック企業の汎用的なLLMとは一線を画し、より専門的な領域で活用する言語モデルをめざす。西川氏は「既存のモデルを
《日経Robotics》ラズパイ4の新GPUをハックしてディープラーニング推論を高速化、ベンチャーIdeinはなぜ開発できた？
IoT向けの安価な小型コンピュータとして注目を集める「Raspberry Pi（ラズパイ）」の全シリーズに、GPUが標準搭載されていることをご存じだろうか。 元は教育用途として始まった同デバイスだが、ユーザーが3次元グラフィックスに触れられるよう、米Broadcom社製のメインチップにGPUコア「VideoCore」が搭載されているのである。 IoTやAI技術を手掛ける日本のベンチャー、Idein（イデイン）は、このラズパイ1～3のGPUをディープラーニング（深層学習）推論のアクセラレータとして使えるようにしたことで知られる1）。このラズパイのGPUは米NVIDIA社のGPGPUと異なり、グラフィックス以外の汎用演算を行うための開発環境やツールがチップ開発元から提供されている訳ではない。 本誌が2019年3月号で解説したように、Ideinは当時、公開されている命令セットアーキテクチャ（IS
LittleJSは高速WebGLレンダリングシステムを備えた軽量の2DJavaScriptゲームエンジンです。他ライブラリに依存せずに動作してくれます。 軽量、シンプルで、様々なゲーム開発に使えるライブラリを目指しているそうです。超高速レンダリング、物理演算、パーティクル、サウンドエフェクト、キーボード/マウス/ゲームパッドの入力処理、アップデート/レンダリングループ、デバッグツールなど、ほとんどのゲームに必要なものをすべて備えているとの事。 Steamのようなプラットフォームで配布するために、electronを使ってWindowsの実行ファイルとしてビルドすることも可能だそうです。ライセンスはMIT。 LittleJS
ASUS、NVMe M.2 SSDを搭載できるGeForce RTX 4060 Tiを開発。グラボにM.2スロットがある変態カード | ニッチなPCゲーマーの環境構築Z
ASUSは、NVMe M.2 SSDを搭載可能なGeForce RTX 4060 Tiを開発しました。何を言っているかわからないと思いますが、文字通りの意味です。 いったいどういうことかと申しますと、グラボにM.2スロットがあり、そこにNVMe M.2 SSDを搭載することができます。 GeForce RTX 4060 TiグラボにM.2スロットが GeForce RTX 4060 TiはPCIe 4.0 x8接続ですが、多くの場合はマザーボードの一番上のPCIe 4.0 x16スロットにグラボを取り付けるでしょう。すると8レーン分が無駄になります。 しかし、ASUSが開発したM.2スロット搭載GeForce RTX 4060 Tiを使用すれば、余ったレーンをNVMe M.2 SSDへと割り当てることができます。まごうことなき変態カードではありますが、実に合理的と言わざるを得ません。 熱の
AMD製CPUにデータを盗み取られる脆弱性「Zenbleed」が存在することが判明、仮想マシンやコンテナも関係なくデータ窃取可能
AMD製CPUに攻撃者がデータを読み取れる脆弱(ぜいじゃく)性「Zenbleed(CVE-2023-20593)」が存在することが明らかになりました。影響を受けるCPUは「Zen2アーキテクチャ」を採用したモデルで、攻撃者は1コア当たり毎秒30kbのデータを取得可能とされています。 Zenbleed https://lock.cmpxchg8b.com/zenbleed.html CVE - CVE-2023-20593 https://cve.mitre.org/cgi-bin/cvename.cgi?name=CVE-2023-20593 Cross-Process Information Leak https://www.amd.com/en/resources/product-security/bulletin/amd-sb-7008.html Zenbleedを発見したのはGoo
日経BOOKプラスに掲載されている記事、本、著者を任意のキーワードで検索することができます。 ※ISBNも検索にご利用いただけます。ISBNとは出版物固有の13桁の番号で、裏表紙に記載されています。本サイトでISBNを使って書籍を検索する際は、ハイフン（-）を省略し、13桁の数字のみを半角文字で入力してください。
「ストリートファイターV」は、今やモバイルPCのCPU内蔵GPUでプレイできるようになってしまった：ゲームプレイと実況配信ライブにも挑戦（1/5 ページ） 2020年3月から始まった「ストリートファイターV（以下、スト5）が快適にプレイできる自作PCをなるべくコスト安で作る」（以下、5万円台スト5PC）という企画だが、コロナ禍と半導体不足、そして仮想通貨マイニングの過熱でGPUの価格が高騰したことにより、5万円台でゲームが快適にプレイできるPCの自作はかなり困難になってしまった。 安さだけを追求するのは、昨今の円安問題もあったりして、なかなか取り組みが難しくなってきた。そこで、今回は、がらりと趣を変えて、「小さなノートPCでスト5がプレイできるのか」を探求することにした。 しかも、CPU内蔵GPUでスト5がプレイできるのかを検証する！ あえてCPU内蔵GPUでどれだけスト5を楽しめるのかを
GitHub - IndieVisualLab/UnityGraphicsProgrammingSeries: 書籍「Unity Graphics Programming」シリーズのPDFコレクション
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
AMDがXilinxを買収か？ 複数の米国メディアが報道
AMDがFPGA大手Xilinxの買収に向けて協議を進めていると、Wall Street Journal(WSJ)をはじめとする複数の米国メディアが報じている。 これらの報道によると、買収額は300億ドルを超す見込みだとのことで、10月12日週にも両社の間で合意が取れ、正式発表される可能性があるという。ただし、かつて両社は買収交渉を行ったものの行き詰まりを迎え、最近になってようやく協議を再開したといういきさつがあり、この話自体が破談になる可能性もあるという。 ちなみにAMDの競合であるIntelは2015年、Xilinxの競合でFPGA業界2位のAlteraを買収。FPGAをいち早く自社ポートフォリオに組み入れている。一方のAMDは、その間、Intelがプロセスの微細化で躓いているのをしり目にTSMCの先端プロセスを活用することでCPU市場での存在感を増してきており、今回のXilinx買収
Google、NVIDIA、Qualcomm、インテルらが、RISC-V用オープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトを立ち上げ
Google、NVIDIA、Qualcomm、インテルらが、RISC-V用オープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトを立ち上げ RISC-V（リスクファイブ）プロセッサ対応のオープンソース開発を加速させる組織「RISC-V Software Ecosystem」（RISE）プロジェクトが、Linux Foundation Europeをホストとし、Google、NVIDIA、Qualcomm、インテルを始めとする13社がボードメンバーとなってスタートしました。 もともとRISC-Vはカリフォルニア大学バークレイ校のコンピュータサイエンス科が開始した、新しいプロセッサ命令セットを開発するためのプロジェクトです。創立メンバーにはRISCプロセッサの基礎を築いた計算機科学者のデイビッド・パターソン博士らがおり、当初は教育に使う
NVIDIAはハッカーグループの攻撃によって機密情報を盗み出されたことを2022年3月1日に発表しており、盗み出したデータを人質に仮想通貨での身代金支払いやマイニング性能制限の撤廃などを要求されていることが報じられています。新たに、盗まれたデータの中にNVIDIAのコード署名証明書が含まれていたことが判明し、証明書を悪用してNVIDIA製ドライバーになりすましたマルウェアの存在も複数報告されています。 Malware now using NVIDIA's stolen code signing certificates https://www.bleepingcomputer.com/news/security/malware-now-using-nvidias-stolen-code-signing-certificates/ NVIDIAは2022年3月1日に「私たちは脅威アクターが従
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 村上雅章 野崎裕子 2021-01-09 08:30 Linus Torvalds氏は、Linuxのビルドに使用する高性能コンピューターのプロセッサーとして、Intelベースのものを15年にわたって使用してきた。その同氏がここに来てマシンを乗り換え、「AMD Ryzen Threadripper 3970X」ベースの「フランケンボックス」を使用し、世界で最も重要度の高いOSであるLinuxをビルドするようになった。乗り換えから数カ月がたった今でも同氏は満足しており、Real World Technologiesのフォーラムに「このところAMDを使っており、とてもハッピーだ」と記している。 Torvalds氏は同フォーラムで、AMDのプロセッサーから得られるコストあたりのパワーが優れ
M1 Mac miniを買って1ヶ月。M1XやM2を待てるなら待ったほうがいい | INFORNOGRAPHY
画像出典 Apple M1 Mac miniを購入して丸1ヶ月経つので、この1ヶ月M1 Mac miniを使い倒した所感を書いておきたいと思う（主に残念に感じた点）。 購入したM1 Mac miniはRAM 16GB・SSD 512GB。 以前までの環境はMac mini 2018（Core i7 8700B・RAM 32GB・SSD 512GB）+Blackmagic eGPU（Radeon Pro 580 VRAM 8GB）。 モニターはBenQ EW3280Uを主に使用。 2021年3月29日追記その後、トラブルに耐えかねてIntel Macへと環境を戻しました。 2021年3月29日M1 MacからIntel Macに戻った理由 M1 Mac miniを丸1ヶ月使った感想 Mac mini 2018+eGPUからの移行ではそれほど速くなった印象がなく、むしろグラフィックスパフォーマ
AI時代に一人勝ち。NVIDIAの「CUDA」がIntelやAppleを蹴散らし業界の“実質的なスタンダード”になった背景を中島聡が徹底解説 - まぐまぐニュース！
空前のAIブームの中にあって、その開発の現場で「一人勝ち」とも言うべき圧倒的なシェアを誇っているNvidia（エヌビディア）のGPU向け開発環境「CUDA」。IntelやAppleといったライバルたちを尻目に、いかにしてCUDAはトップに登り詰めたのでしょうか。今回のメルマガ『週刊 Life is beautiful』では世界的エンジニアとして知られる中島聡さんが、CUDA誕生の経緯から業界の「事実上の標準」となるまでを詳しく解説。さらにMicrosoftが5月20日に発表した「Copilot+PC」に関して、中島さんが注目したポイントを記しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです／原題：NvidiaのCUDAが今の地位を築いた経緯 プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシ
ついにグラフィックボードの価格が下落に転じる
アメリカとドイツのIT系ニュースサイトが「グラフィックボードの価格が下落に転じた」と報じました。NVIDIAとAMDが生産しているほぼ全てのグラフィックボードの価格が5～10％下落しており、転売屋も売りを控えたためかオークションサイトでの取引数も減少しています。 GPU Prices Drop Along With Crypto | Tom's Hardware https://www.tomshardware.com/news/gpu-prices-plummet-along-with-crypto News des 22./23. Januar 2022 | 3DCenter.org https://www.3dcenter.org/news/news-des-2223-januar-2022 At long last, Nvidia and AMD GPU street prices
携帯大手のソフトバンクとアメリカの半導体大手エヌビディアは、AIの膨大なデータの処理に携帯電話の基地局を活用しようと、新たな業界団体を設立することを正式に発表しました。団体にはアメリカのAWSや韓国のサムスン電子など11社が参加し、世界標準化を目指します。 ソフトバンクとエヌビディアは、26日、スペイン・バルセロナで開幕したモバイル関連の展示会で、新たな業界団体「AIーRANアライアンス」の設立を発表しました。 AIの運用に必要となる膨大なデータの処理を、大規模なデータセンターを介さずに携帯電話の基地局で分散化させる技術の実用化を目指します。 団体には通信大手のエリクソンやノキアのほか、アメリカのマイクロソフトとAWS＝アマゾンウェブサービス、それに韓国のサムスン電子など世界の合わせて11の企業や団体が参加し、技術の世界標準化を目指すねらいがあります。 この技術を使うことで、スマートフォン
GMOインターネットグループは6月21日、グループ社員を対象に、米NVIDIA製のGPU「NVIDIA H100」や「NVIDIA L4」搭載サーバを無償で貸し出す新制度を始めると発表した。7月3日から開始する。AIを活用した新サービスの研究開発や実験を促進するという。 サーバはグループ社員に短期間貸し出す。具体的な期間や、利用を許可する用途など、制度の詳細は「現在詰めている最中」（同社）という。 従業員が画像生成AIに触れる機会を増やすとして、GPU「GeForce RTX 4090」「GeForce RTX 3080Ti」を搭載したノートPCを無償で貸し出す制度も開始する。こちらはまず短期間の貸し出しから始め、社員の様子を見つつ長期貸し出しも検討する。 GMOグループは3月にChatGPTの業務活用を開始。AIによる業務改善のアイデアを募るコンテストを開催するなど、AIの活用に注力して
LinuxのマシンにHDMI接続したディスプレイで映像を楽しもうとしたことがある人の中には、AMD独自の画面同期技術「FreeSync」が機能せず閉口した経験がある人もいるはず。オープンソースの環境でHDMIを使用する上でしばしば発生する問題にはHDMI業界の閉鎖体質が関係していると、Linux関連のニュースサイトPhoronixが指摘しています。 HDMI Forum Closing Public Specification Access Is Hurting Open-Source GPU Drivers - Phoronix https://www.phoronix.com/scan.php?page=news_item&px=HDMI-Closed-Spec-Hurts-Open Phoronixの創設者であるマイケル・ララベル氏によると、オープンソースのGPUドライバーがHDMI
【国内認定第1号!】NVIDIAの新しいAI認定制度「Jetson AI Specialist」認証を取得してみた！「Jetson Nano 2GB開発者キット」実機レビュー 2 - ロボスタ ロボスタ - ロボット情報WEBマガジン
前回は新発売のAIコンピュータボード「NVIDIA JETSON NANO 2GB 開発者キット」（以下、Jetson Nano 2GB）の特徴とレビューを解説しました。今回は「Jetson Nano 2GB」を使って、いま話題になっているNVIDIAのAI認定制度「Jetson AI Specialist」の認定を実際に申請してみて、取得にチャレンジしようと思います。 結果から言いますと、「Jetson Nano 2GB」を使った「マスク判定と検温のAI」のプロジェクトを作成して申請し、「Jetson AI Specialist」の【国内認定第１号】として無事に取得することができました！！それほどハードルは高くないので、申請から認定までの流れをお届けしますので、皆さんも挑戦してみてください！ 「Jetson AI Certification」の概要 まずは「Jetson AI Certi
ゲームやデスクトップアプリ用のPCを探す時、CPUの選択肢はIntelかAMDに限られるのが現実です。ハードウェア関連情報を専門とするニュースサイト「Tom's Hardware」の編集者であるPaul Alcorn氏が、IntelとAMDのデスクトップ用CPUをパフォーマンスや価格といった10項目について比較し、その分析結果を公開しています。 AMD vs Intel 2020: Who Makes the Best CPUs? | Tom's Hardware https://www.tomshardware.com/features/amd-vs-intel-cpus ◆価格 単純にCPUの価格だけを比較すると、AMDはIntelに対して劣勢です。しかし、AMD製CPUには「ソケット形状に互換性が保たれていること」「すべてのモデルでオーバークロックが可能であること」「高速なPCIe
3万円で買えるRISC-V採用64bitシングルコアCPU搭載のポータブルコンピューター「DevTerm R-01」が登場
オープンソースで開発される命令セットアーキテクチャのRISC-Vは、半導体業界に大きな風穴を開ける新技術として期待されています。そのRISC-Vで設計されたCPUを搭載したポータブルコンピューターの「DevTerm R-01」が登場しました。 DevTerm Kit R-01 | ClockworkPi https://www.clockworkpi.com/product-page/devterm-kit-r01 The first RISC-V portable computer is now available https://lunduke.substack.com/p/the-first-risc-v-portable-computer 世界中のPCに使われているCPUのほとんどはIntelのx86という命令セットアーキテクチャ(ISA)、スマートフォンなどに使われているCPUや
測定結果 結果として、間違った測定方法だとCPUとGPUを比較すると「1883倍速くなりました！」という主張をしてしまうことになります。ちなみにGPUで1000倍なんて数字が出てきたら確実にどこか間違えています。実際、今回のケースでは本当は「約59倍速くなりました！」というのが正しい結果になります。 torch.cuda.synchronize()とtorch.cuda.Eventを使った場合の違い 今回torch.cuda.synchronize()とtorch.cuda.Event の2種類を紹介しました。場合によっては使い分けをしたほうがいいのでこの二つの違いを説明していきます。 torch.cuda.synchronize() を利用した場合、簡単なので測定しやすいのでいいので、ぱっと測定したい場合はこちらの方法が楽でよいかと思います。ただ、こちらの方法はkernel関数の発行と測
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GCP を用いた高性能かつスケーラブルなオンライン予測システムの構築方法
NVIDIA、GPUで打鍵音や環境騒音を除去する「RTX Voice」 ～DiscordやZoom、OBSなど各種アプリで利用可
プリファード、大規模言語モデル開発 24年商用化目指す - 日本経済新聞
NVIDIA、59ドルの2GBメモリ版「Jetson Nano」を発表
GeForce RTX 3080/3070にもマイニング性能制限版が登場
GPUパススルーも簡単にできる仮想化プラットフォーム「Proxmox VE」【イニシャルB】
適当なスケッチをAIで実写風に変換するツール。GeForce RTX対応で無料
高速WebGLレンダリングシステムを備えた軽量の2DJavaScriptゲームエンジン・「LittleJS」
「謎のAI半導体メーカー」が400兆円企業に 快進撃は1本のメールから
【やじうまPC Watch】 PS5やXbox Series XのCPUは、PC向けよりかなり経済的な設計
「ストリートファイターV」は、今やモバイルPCのCPU内蔵GPUでプレイできるようになってしまった
【特集】 驚異の1,000円で買える12コア「Xeon E5-2650 v4」と最新GeForceでゲームがどこまで動くのか？
【特集】 CPUやGPUの発熱や電力をカットする方法
【西川和久の不定期コラム】 Stable Diffusion高速化技術続々登場！TensorRT、SSD-1B、LCMなどを試してみる
この10年のIntel CPU進化の歴史をベンチマークとともに振り返る ～コアの増加や内蔵GPUの強化、ストレージ/ネットワークの高速化が加速[Sponsored]
![この10年のIntel CPU進化の歴史をベンチマークとともに振り返る ～コアの増加や内蔵GPUの強化、ストレージ/ネットワークの高速化が加速[Sponsored]](https://cdn-ak-scissors.b.st-hatena.com/image/square/1545e220ad07df3d7020bcf06f64834bec84c168/height=288;version=1;width=512/https%3A%2F%2Fpc.watch.impress.co.jp%2Fimg%2Fpcw%2Flist%2F1262%2F523%2F4004board.jpg)
NVIDIAから署名付き証明書データが流出しNVIDIA製ドライバーになりすましたマルウェアが複数登場
"Linuxの父"トーバルズ氏が評価するAMD、そしてインテル
【Ubuntu日和】 【第15回】おっとIntelのdGPUはUbuntu用のドライバがリリースされているだと……よっしゃNVIDIAもAMDもまとめてDeskMeet X300で動作させるぞ！(NVIDIAとAMD編)
Intel CPU製造能力強化でAMDシェア拡大に歯止め
ソフトバンクと米エヌビディア 新団体設立を正式発表 | NHK
GMO、社員に「NVIDIA H100」搭載サーバ無償貸し出し RTXノートPCも AI活用を促進
HDMI業界の閉鎖体質がオープンソースのGPUドライバーに悪影響を及ぼしているとの指摘
IntelとAMDのCPUをあらゆる視点から比較した結果が公開中、どちらのCPUを買うべきか？
【イベントレポート】 AMD、64コア/128スレッドのRyzen Threadripper 3990Xを3,990ドルで2月7日発売
ゲーミングPCでの暗号通貨マイニングが終焉し、中古ビデオカードが激安に？【石田賀津男の『酒の肴にPCゲーム』】
【Hothotレビュー】 10コア化でRyzenとどこまで渡り合える? 「Core i9-10900K」を検証
PyTorchでGPUの計算時間を正しく計測する - まったり勉強ノート