生成AIを開発するデータセンターが日本で新たに整備される。 その場所は北海道石狩市。今回、取材機会を得て現地に向かった。 「データセンターの内部を取材するのは初めてです」 思わずそう口にした私の目の前に現れたのは、のどかな北海道の風景にそびえ立つ真っ黒の巨大な建物だった。 厳重なセキュリティーシステムに守られた建物の内部に入り、さらに合計6つのセキュリティゲートを通った先に生成AI開発のためのその部屋はあった。 (経済部記者 名越大耕)
ある日漫然と半導体アナリストの市場分析記事を眺めていたら、AMDとNVIDIAが躍進しているという趣旨の記事が出てきて興味を持って読んでみたら、かなり衝撃的な事実が浮かび上がってきて思わず詳細を調べてしまった。 記事の内容は、データセンター市場でのCPU/GPUの売り上げの推移に関するもので、Intel、AMD、NVIDIAの3社がデータセンター市場向けに供給するCPU/GPUの売り上げを四半期ごとに追いかけた形で構成されていた。GPUで強みを発揮するAMDとNVIDIAという構図は以前から感じていたが、各社の四半期の決算の数字をずらりと並べると、この2年間でデータセンター市場では劇的な変化が起こっていることがはっきりと見て取れた。 GPUノードの急増で激変するデータセンター市場 Intel、AMD、NVIDIAの3社はオープン市場で汎用のCPU/GPU半導体製品を供給している。 この2年
2022年9月からGeForce RTX 3000シリーズがさらに値下がりする模様です。中国語圏メディアのMydrivers.com(快科技)が報じました。 台湾経済日報によると、グラフィックスカードの在庫処分は期待されたほど進んでいないという。そのため、NVIDIAとAMD製品を中心に、2022年9月からさらなる値下げを行うという。 どこまで値下がりするかはNVIDIAとAMD次第だ。しかし、今と昔では状況が違い、消費者は冷静になって様子見する人も増えている。 グラフィックスカードの需要は弱まっており、消費者は今の値下げ幅には魅力を感じておらず、次世代製品の発売を待っているとの声も聞かれる。 GeForce RTX 3090 Tiが希望小売価格の4割引きになったり、GeForce RTX 3080がわずか3か月で4万円も値下がりしたり、GeForce RTX 3000シリーズはここ数か月
この記事について 深層強化学習を利用してAI RC Carの走行を学習させるソフトウェアをGithub上で公開しています。learnign_racerと命名しました。2020年4月29日の時点でのバージョンはv1.0.0です。この記事ではこのソフトウェアについて紹介していきます。 github.com なお、NVIDIAのJetson Community Projectsのページでも紹介されています。 developer.nvidia.com learning_racerの概要 このソフトウェアは10分から15分程度の学習時間で、コースに沿って走行する方法を獲得することができます。従来のAI RC Carでは人間のお手本操作をDNNに覚えこませる手法が一般的です1。ですが、本手法は教師なし学習の手法である強化学習をベースとしているため、教師データとなる人間のお手本操作は必要ありません。さら
現在シリコンバレーで最も注目される話題は「GPU不足」といわれている。生成AIへの関心が高まる中、大規模言語モデルの開発が活発化し、それに伴いGPUをめぐる取得競争が激化しているためだ。そのため、NVIDIAが新たに発表した「GH200」にも注目が集まる。GH200はどんなGPUになるのか。そもそもなぜGPUが不足しているのか、現行GPU「H100」や「A100」は誰が、何個取得したのか、ChatGPTの開発にGPUはどれほど必要なのか。GPU関連の注目トピックを紹介しよう。 バークリー音大提携校で2年間ジャズ/音楽理論を学ぶ。その後、通訳・翻訳者を経て24歳で大学入学。学部では国際関係、修士では英大学院で経済・政治・哲学を専攻。国内コンサルティング会社、シンガポールの日系通信社を経てLivit参画。興味分野は、メディアテクノロジーの進化と社会変化。2014〜15年頃テックメディアの立ち上
世界有数のPCメーカーであるDellの決算発表会で「NVIDIAが消費電力1000WのGPUを開発している」という旨の発言が飛び出しました。 Exhibit 99.1 Earnings 8K Q4 FY24 - Q4 FY24 Financial Results Press Release.pdf (PDFファイル)https://investors.delltechnologies.com/static-files/12b9be7b-2d4c-4d63-b7d3-8bb467724952 Dell exec reveals Nvidia has a 1,000-watt GPU in the works • The Register https://www.theregister.com/2024/03/05/nvidias_b100_gpu_1000w/ 「NVIDIAが消費電力100
携帯関連の将来や最新の技術情報や業界の行く末などを適当に綴るblogです。 内容の信憑性は?余り信じない方がいいと思います。 本家の鈴の音情報局はこちら→http://suzunone.0g0.jp:8800/ スマホ・携帯端末アクセス[ランキング]/[アクセスシェア(グラフ)] (毎年10/1にログをクリア) 敢えてこういう書き方をする。 先日、孫正義氏がARMを手放すことにした。 それは今、nVidiaが引き受けるという流れで話が進んでいます。 その決断は大きな波を巻き起こしたと言えるでしょう。 なぜ今ARMを手放したのか? 当然ソフトバンクの金回りが悪くなったからです。 コロナの影響プラス、WeWork問題を起点としてその後いろいろ怒った問題などで資金繰りが 相当ヤバくなったことが資産を見直すキッカケになったのだと思っています。 しかしキッカケはキッカケでもARMを売り飛ばすのは相当
by Jonathan Cutrer NVIDIAがGPUのLinux向けカーネルモジュールをオープンソース化しました。ソースコードはGPLライセンスとMITライセンスのデュアルライセンスで公開されており、記事作成時点ですでにダウンロード可能となっています。 NVIDIA Releases Open-Source GPU Kernel Modules | NVIDIA Technical Blog https://developer.nvidia.com/blog/nvidia-releases-open-source-gpu-kernel-modules/ これまで、NVIDIAがGPU関連ソフトウェアのオープンソース化に積極的でないことは広く知られており、2012年にはLinuxの生みの親であるリーナス・トーバルズ氏がLinux対応を怠るNVIDIAに対して中指を突き立てる事件が発生し
Omniverseは、4月のカンファレンスでそのエンタープライズ版が紹介された「エンジニア向けメタバース」。このプラットフォーム上でAutodesk MayaやSubstance Painter、AdobeのPhotoshop、Premiere、After Effectsなど様々なツールを使ってメタバースを構築できる。 NVIDIAは、CG版ファンCEO構築の舞台裏を紹介する動画も公開した(記事末に転載)。CG版CEOを作成するために、同氏の顔と体のフルスキャンを行って3Dモデルを作成し、本人のしぐさでAIをトレーニングすることでリアルに動かせるようにした。 NVIDIAは、「メタバースのために3Dを実行する既存のツールを接続するというアイデアからOmniverseを開始した。(中略)うまくいけば、20年後にはわれわれはOmniverse内で働くようになるだろう」としている。 関連記事 N
NVIDIAがCUDA Toolki 10.2をリリースすると共に、次期アップデートからはmacOSは非サポートになると発表しています。詳細は以下から。 NVIDIAは現地時間2019年11月17日、ToolkitとNVIDIAドライバを含んだCUDA v10.2をリリースしましたが、同リリースノートによると、CUDA Toolkit v10.2はmacOSをサポートする最後のアップデートとなるそうです。 CUDA 10.2 (Toolkit and NVIDIA driver) is the last release to support macOS for developing and running CUDA applications. Support for macOS will not be available starting with the next release of
NVIDIA RTX環境での「Stable Diffusion」はVRAMを使い果たすとDRAMも使えるが、逆にVRAMだけにもできる 米NVIDIAは10月31日、サポートページ内にあるナレッジベースに掲載する形で、「Stable Diffusion」に関する動作の仕様について情報を公開した。生成AIを手軽に楽しめる「Stable Diffusion」におけるTipsがまとまっている。 NVIDIA RTX環境での「Stable Diffusion」はVRAMを使い果たすとDRAMも使えるが、逆にVRAMだけにもできる Stable Diffusionは、利用にあたって大容量のGPUメモリ(VRAM)が必要になる。NVIDIAではおおよそ6GB以上必要であるとしているが、モデルやスクリプトによってはより大規模なGPUメモリが必要になることもある。これを受けてバージョン536.40以降のド
NVIDIAがGeForce RTX GPUで動作する技術デモ「Chat with RTX」を無料でリリースしました。ユーザーはChat with RTXを独自のコンテンツでパーソナライズでき、システム要件はVRAMが8GB以上のRTX 30シリーズ以降のGPUを搭載したWindowsマシンとなっています。 Chat with RTX Now Free to Download | NVIDIA Blog https://blogs.nvidia.com/blog/chat-with-rtx-available-now/ NVIDIA Brings Generative AI to Millions, With Tensor Core GPUs, LLMs, Tools for RTX PCs and Workstations | NVIDIA Newsroom https://nvidia
At Microsoft Build in the first half of the year, Microsoft demonstrated some awesome new capabilities and improvements that were coming to Windows Subsystem for Linux 2 including the ability to share the host machine’s GPU with WSL 2 processes. Then in June Craig Loewen from Microsoft announced that developers working on the Windows insider ring machines could now make use of GPU for the Linux wo
GPUはCPUよりもはるかに多くのコアを備えており、多数の並列処理を行う事が可能です。そうしたGPUの性能を活用するために必要な知識を、ITエンジニアのリジュル・ラジェシュさんがブログにまとめています。 GPU Survival Toolkit for the AI age: The bare minimum every developer must know https://journal.hexmos.com/gpu-survival-toolkit/ 現代のAIモデルで使用されているTransformerアーキテクチャは並列処理を活用して大きく性能を向上させており、そうしたAIの開発に関わる場合は並列処理についての理解が必須になってきます。CPUは通常シングルスレッドの逐次処理性能が高まるように設計されており、複雑なAIモデルで必要となる、多数の並列計算を効率的に分散して実行するのに
さくらインターネットは、生成AI向けクラウドサービス「高火力」の第一弾として、ベアメタルシリーズ「高火力 PHY(ファイ)」を2024年1月31日より提供開始すると発表しました。 同社は昨年(2023年)6月に経済産業省から、経済安全保障推進法に基づく特定重要物資である「クラウドプログラム」の供給確保計画に関する認定を受けました。同社はこれにより生成AI向けのクラウドサービスに3年間で130億円の投資をすると発表しています。 今回提供が開始される「高火力」クラウドサービスは、その供給確保計画に基づくものとされています。 提供されるサーバのスペックは、CPUがインテルXeon Platinum 8480+を2基(合計112コア)搭載し、メモリ容量は2TB、ローカルストレージはOS用が400GBのNVMe SSDが2枚でRAID1構成、非OS用が7.68TBのNVMe SSDが4枚。 GPUと
はじめに GMO NIKKOの吉岡です。 みなさん、生成AIは活用してますか? ChatGPTに始まり、Claude3やGeminiなど、実用的なAIがどんどん出てきてますね。 自分も使ってはきましたが、課金が気になってしまいます。 これではサービスに組み込むことは難しいですよね。 そのためローカルで動くLLMを追ってきましたが、今年に入って実用的な日本語を返すことができるモデルがいくつか出てきているので、サーバー構成からインストール方法、LLMの起動まで紹介しようと思います。 ローカルLLMを動かす上で一番重要なのはGPUのVRAMです。 LLMは7B、13B、70Bモデルが多いですが、量子化しない場合、必要なVRAM容量は動かすモデルの大体2倍なので、13Bモデルでは26GのVRAMが必要です。 NVIDIAのGPUを使ったCUDAが前提になっているのですが、一般向けでは24Gモデルが
GeForce 536.67ドライバの不具合情報です。NVIDIA公式の既知の不具合と、海外のGeForceフォーラムで目に付いたユーザー報告を意訳しています。ユーザー報告は全ての環境で発生するものとは限らず、環境依存の可能性もあります。同様の不具合にお悩みの方の参考になりましたら幸いです。 更新履歴 [記事初公開日: 2023/7/20] ① 536.67にしてからブラックスクリーンが発生するようになったとのユーザー報告を追記。536.67でも修正されていない模様。 | Dead Spaceがクラッシュするという既知の不具合1件追加。 [2023/7/23] ② 既知の不具合を2件追加。 [2023/8/9] [New]NVIDIA公式: 既知の不具合 (リリースノート + フォーラム)既知の不具合Dead Space (2023)のプレイ中にゲームがクラッシュする場合があります [Ne
NVIDIAがmacOSのサポートを正式に終了した「CUDA Toolkit v11」をリリースしています。詳細は以下から。 NVIDIAは現地時間2020年06月05日、GPUプログラミング開発ツール「CUDA Toolkit」をバージョンv11(v11.0.171)へアップデートし、昨年11月にアナウンスしていたとおりmacOSのサポートを正式に終了したと発表しています。 CUDA 11.0 does not support macOS for developing and running CUDA applications. Note that some of the CUDA developer tools are still supported on macOS hosts for remote (target) debugging and profiling. See the
新型コロナウイルスの感染拡大による世界的な半導体生産の滞りや、ゲーム需要の高まり受けて、NVIDIAやAMDが生産するGPUの供給不足が続いています。NVIDIAはこの供給不足を解消するために、「GeForce GTX 1050 Ti」や「GeForce RTX 2060」といった旧型のGPUの再生産を計画していることが明らかになりました。 Confirmed: Nvidia taps the GTX 1050 Ti to battle graphics card shortages | PCWorld https://www.pcworld.com/article/3607190/nvidia-rtx-30-graphics-card-shortages-gaming-gpu-gtx-1050-ti-geforce-rtx-2060.html NVIDIAが2020年9月に発表した「Ge
Googleは2023年3月8日(米国時間)、AI(人工知能)/ML(機械学習)業界の多くの主要企業が共同開発を進めているオープンソースMLコンパイラエコシステム「OpenXLA」(XLA:Accelerated Linear Algebra)の利用と貢献を可能にしたと発表した。 OpenXLAの開発にはAlibaba、Amazon Web Services(AWS)、AMD、Apple、Arm、Cerebras、Google、Graphcore、Hugging Face、Intel、Meta、NVIDIAなどが参加している。 利用するフレームワーク増加に伴うサイロ化が課題に 現在のML開発、導入では「TensorFlow」「PyTorch」「JAX」といったMLフレームワークや、多種多様なハードウェアの利用により、インフラが断片化、サイロ化していることが問題となっている。問題の背景には、
コンピュータの守護聖人であるアラン・チューリングは、トランジスタベースのコンピュータが存在する前の1950年に、AIに関する画期的な論文を書いた。チューリング賞がコンピュータ科学の最高の栄誉であることからも分かる通り、多くの優れたコンピュータ科学者がAIに取り組んでいる。さらに最近では、カナダ人2人とフランス人1人の計3人の研究者が、上記のすべてのイノベーションを可能にしたディープラーニング革命を主導した。 このようなコンピュータ科学の進歩はなだらかなものではない。科学はその代わりに、革命と挫折のサイクルで機能する。ハイプサイクルとも呼ばれるだろう。1950年以降、AIに大きな進歩がなかった年が何年もあった。AIの科学者はこれらの時をAIの冬と呼ぶ。 AIの最新のディープラーニング革命は、①膨大なデータ量②そのデータを処理するための膨大な計算量③オープン性の高い研究とオープンソースコード、
プラットフォームに搭載する「GB200 Grace Blackwell Superchip」は、新GPU「B200」(2080億個のトランジスタを搭載し、現行の「H100」と比較して、AI向けの作業で5倍の処理能力を発揮するGPU)を2基と1基のGrace CPUを組み合わせたもの。 NVIDIAによると、1兆8000億パラメータのAIモデルをトレーニングするには、Hopper GPUでは8000個のGPUで15メガワットの電力が必要だったが、新スーパーチップであれば2000個で可能で、消費電力は4メガワットで済むという。 NVIDIAはGB200を、水冷ラックスケールシステム「NVL72」などで提供する。これは第5世代NVLinkで接続された72個のBlackwel GPUと36個のGrace CPUを含む36個のGrace Blackwellスーパーチップを搭載する。 Blackwel
米NVIDIAは7月17日(現地時間)、「NVIDIA Transitions Fully Towards Open-Source GPU Kernel Modules」と題したブログ記事を公開し、GPUのカーネルドライバモジュールを完全にオープンソース化していくと発表した。 NVIDIAが方針転換、カーネルドライバモジュールをオープンソース化へ NVIDIAは2022年にもLinux向けのGPUカーネルモジュール(バージョンR515)をオープンソースとしてリリースしており、データセンター向けの一部GPUで利用できた。しかし今回、R560をベースにした最新ドライバのリリースからオープンソースGPUカーネルモジュールへの完全移行していくと発表。テストではクローズドソースのドライバと同等以上のパフォーマンスを発揮できたとしており、NVIDIAは随時オープンソースのGPUカーネルモジュールに切り
Appleが新型MacBook Proに搭載したM1 Max/Proは強力なGPU性能を持つとされ、これまでにGeekbenchやGFXBenchといったベンチマークプログラムでの性能が公開されてきました。 これに対して、今回公開されたのは実際のゲームでの性能であり、より現実的なM1 MaxとM1 Proの実力が明らかになったといえます。 ディスクリートGPUには及ばないM1 Max/Proのゲーム性能 この比較で使われたのは、Shadow of the Tomb RaiderとBorderlands 3です。 まず、Shadow of the Tomb Raiderにおいて、M1 Maxは85fpsという性能を記録しました。 これに対して、Core i9-11980HK + NVIDIA GeForce RTX 3080Lの組み合わせは140fps、Ryzen 9 5900HX + Ra
中国が高性能チップをAI搭載兵器やサイバー攻撃ツールなどに軍事転用することへの懸念から、アメリカ政府はNVIDIAなどの半導体メーカーに対し、中国への高性能チップ輸出を規制しています。しかし、中国国内の一部の研究機関や大学では、NVIDIA製チップが搭載されたDellやGigabyte、Supermicro製のサーバーを再販業者から仕入れることでこの規制を回避していることが指摘されています。 China acquired recently banned Nvidia chips in Super Micro, Dell servers, tenders show | Reuters https://www.reuters.com/world/china/china-acquired-recently-banned-nvidia-chips-super-micro-dell-servers-
再びIPOに向かうArmの明日はどっちだ? NVIDIAへの売却失敗で詰腹切らされた前CEOを惜しむ(1/3 ページ) ITmedia NEWSでRISCアーキテクチャの歴史、Apple Siliconへの道、PCアーキテクチャの変遷を連載し、コンピュータアーキテクチャ、中でもArmの動向に詳しい大原雄介さんに、ソフトバンクグループ(SBG)がNVIDIAへのArm売却を中止する至った背景を解説してもらった。 実をいうと、SBGの決算発表のタイミングはちょうど近所のDIYショップに買い物(2月10日の降雪に備えて、鉄シャベルを購入)に行っていてリアルタイムでは見ていないのだが、戻ってくると軽いお祭りになっていてちょっと驚いた。 内容そのものは「そりゃもう他にやりようがないよね」という話で、それほどの驚きはなかったのだが、直後にまたしても担当の松尾氏より「Arm買収、本当にできるの?→できな
「Core i7-10700K」(右)と「Ryzen 7 3800XT」(左)はどちらも8コア/16スレッドで価格帯も近い。原稿執筆時点の実売価格はCore i7-10700Kは4万6700円前後、Ryzen 7 3800XTは5万1500円前後である ゲーミングPCのスペックを考える時に、最も楽しく悩ましいのは「このGPUにはどんなCPUが良いのか」を考える時だ。自作PCに慣れていれば、ゲームのフレームレートを上げるにはGPU(ビデオカード)のほうがCPUよりもプライオリティーの高いパーツであることは知っている。 そこで、今回はビデオカードに最新GPU「GeForce RTX 3080」(以降、RTX 3080)を選んだ場合、CPUはインテルの第10世代CoreプロセッサーとAMDの第3世代Ryzenのどちらを選んだほうがゲームをより高フレームレートでプレイできるのかを考えてみたい。RT
ミドルクラスながら前世代のハイエンドGPUを超える性能は本当だった NVIDIA GeForce RTX 3060 Ti Founders Edition Text by 宮崎真一 Turing世代のGeForce RTX 20シリーズに比べて,非常に高い価格対性能比を実現していることから,Ampere世代のGPUであるGeForce RTX 30シリーズは,ゲーマーの人気を集めている。しかし,一番下のモデルとなる「GeForce RTX 3070」(以下,RTX 3070)であっても,搭載製品の価格は7〜8万円ほどするので,手が届かないと嘆いてる人も多いのではないだろうか。 ミドルクラス市場向けのGeForce RTX 30シリーズを求める声に応える新型GPU「GeForce RTX 3060 Ti」(以下,RTX 3060 Ti)がいよいよ12月2日に登場する。 GeForce RTX
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く