中国製GPUで学習した純中国製LLM「MT-infini-3B」が「Llama3-8B」を超える性能を示し中国単独で高性能AIを開発できることが明らかに
中国に拠点を置くGPUメーカーの「摩爾線程(Moore Threads)」が、自社製GPUを用いて大規模言語モデル「MT-infini-3B」を開発したことを発表しました。MT-infini-3BはNVIDIA製GPUを用いて学習した大規模言語モデルと同等以上の性能を備えているそうです。 摩尔线程携手无问芯穹：基于夸娥千卡智算集群的“MT-infini-3B”大模型实训已完成 | 摩尔线程 https://www.mthreads.com/news/171 アメリカ政府は中国によるAI研究を軍事上の脅威と捉えており、中国に対して高性能半導体の禁輸措置を実施しています。このため中国ではNVIDIAやAMD、Intelなどが開発しているAI研究用チップの開発が困難となっています。 そんな中、Moore Threadsは2023年12月に独自開発のAI研究用GPU「MTT S4000」を発表しま
天空が8月4日、中国GPD Technologyの外付けGPUボックス「GPD G1」の国内投入を発表、予約販売を開始した。発売は10月中旬の見込みで、8月31日までの先行予約価格は10万4300円、通常価格は10万6800円（税込み、以下同様）となる。 GPD G1は、GPD初のPC周辺機器だ。7月にクラウドファンディングサイト「Indiegogo」で出資受付が始まっており、開始価格が655ドル（約9万円）、その後は795ドルで販売予定となっている。
「Ryzen 7 5700G」レビュー。CPUに組み込まれた統合GPUだけで，今どきのゲームは快適にプレイできるのか？
統合GPUだけで，今どきのゲームは快適にプレイできるのか？ AMD Ryzen 7 5700G Text by 米田 聡 ほんの数年前までは，CPUに組み込まれた統合型グラフィックス機能（以下，統合GPU)の性能は低く，よほど古いタイトルを除けば，3Dグラフィックスのゲームを快適にプレイするというのは夢物語に近かった。しかし近年は，統合GPUも着実に性能を上げてきている。統合GPUでそれなりの性能が得られるなら，単体GPUを持たないPCでゲームを楽しむことも現実的な話になりそうだ。 本稿では現行のデスクトップPC向けCPUに統合されているGPUで，どこまでゲームを快適にプレイできるのか。AMDのデスクトップPC向けAPU（Accelerated Processing Unit）「Ryzen 7 5700G」（以下，R7 5700G）を中心に，ゲームにおける実力をテストしてみたい。 Ryze
ホームゲームPlayStation 5PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま 2023 12/12 PlayStation 5 Pro (PS5 Pro)の仕様情報が登場、2024年秋に発売予定 PlayStation 5については2023年秋に筐体サイズを縮小した新型PlayStation 5(PS5)を発売しました。ただ、このPS5については2020年11月11日に発売された当時と全く同じ構成のまま筐体サイズを20%小型化したモデルで、性能を向上させたPS5 Proについては発売が噂されているものの、まだあまり情報が出ていません。 ただ、今回海外のR
最近、Thunderbolt 3端子を備えるPCが少しずつ増えてきた。「USB4」として標準化が決まっているThunderbolt 3は、データ伝送速度が最大40Gbps（毎秒5GB）と非常に高速だ。この速度を生かした周辺機器も次第に増えてきた。 この記事では、2017年に発売された「ThinkPad X1 Carbon（第5世代）」をThunderbolt 3対応周辺機器でパワーアップしてみようと思う。 今回、パワーアップのベースとなる筆者の愛機「ThinkPad X1 Carbon（第5世代）」。Core i7-7600U、16GBメモリを搭載する当時としては一番ハイスペックな構成だった ThinkPad X1 Carbon（第5世代）のThunderbolt 3端子は2基。どちらもUSB Power Delivery（USB PD）規格の電源入力とDisplayPort規格の映像出力
「Ryzen AI 300」とはどんなプロセッサなのか。高効率Zen 5cコアに新世代NPUとPS5を超えるGPUを組み合わせる［西川善司の3DGE］
「Ryzen AI 300」とはどんなプロセッサなのか。高効率Zen 5cコアに新世代NPUとPS5を超えるGPUを組み合わせる［西川善司の3DGE］ ライター：西川善司 COMPUTEX TAIPEI 2024で基調講演を行うAMD CEOのLisa Su氏。Ryzen 9000よりも，Ryzen AI 300の紹介に時間を割いていた 2024年6月3日にAMDは，Zen 5アーキテクチャを採用した新Ryzenである「Ryzen 9000」シリーズを発表したわけだが，Zen 5アーキテクチャを採用したCPUは，Ryzen 9000シリーズだけではない。ノートPC向けAPUの「Ryzen AI 300」シリーズも，同時に発表しているのだ。APUであるので，「高性能なCPU」と「高性能なGPU」を統合したSoC（System-on-a-Chip）である。 そのうえ，名称に「AI」と付いている
新型Appleシリコン「M1X」12コアCPU、16コアGPUのベンチマークスコアか - iPhone Mania
新型Appleシリコン「M1X」12コアCPU、16コアGPUのベンチマークスコアか 2021 2/17 ディスプレイサイズが、21.5インチから23インチもしくは24インチに拡大されると噂の新型iMacや、新型14インチおよび16インチMacBook Proに搭載される可能性のある新しいAppleシリコン、「M1X」のものとするベンチマークスコアが、CPU Monkeyで報告されました。 他のプロセッサとの比較 CPU Monkeyで報告された、新型Appleシリコン「M1X」と、IntelプロセッサおよびAMDプロセッサとのベンチマークスコア比較は下記の通りです。 Cinebench R23（シングルコア） Cinebench R23（マルチコア） iGPU-FP32 Performance（Single-precision GFLOPS） M1XとM1の比較 CPU Monkeyに掲
nvidia-smi(1) で GPU にパワーリミットを設定して消費電力や発熱を減らす - CUBE SUGAR CONTAINER
自宅にあるオンプレマシンでグラフィックカードを GPGPU の用途に使用していると、消費電力や発熱は切実な問題になりうる。 特に昨今は電気代の値上がりも著しいし、発熱は製品寿命の短縮や夏だと室温の上昇につながる。 そこで、今回は Linux の環境で nvidia-smi(1) を使って NVIDIA の GPU にパワーリミットを設定することで消費電力や発熱の低減を目指してみる。 使った環境は次のとおり。 Ubuntu 20.04 LTS のマシンに、Docker と nvidia-container-toolkit がインストールしてある。 $ lsb_release -a No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 20.04.4 LTS Release: 20.04 Codenam
アメリカは中国に対して半導体の輸出制限をかけているため、中国企業はAIの開発に不可欠な高性能GPUを直接入手することが困難です。TikTokの中国親会社であるByteDanceが、この制裁を回避するためにクラウドを通じてNVIDIAのAIチップにアクセスしていると、海外メディアのThe Informationが報じました。 China’s Nvidia Loophole: How ByteDance Got the Best AI Chips Despite U.S. Restrictions — The Information https://www.theinformation.com/articles/chinas-nvidia-loophole-how-bytedance-got-the-best-ai-chips-despite-u-s-restrictions Sino fir
深層学習が著しく発展し、今まで人間にしかできないと思われていたことができるようになってきました。そのおかげで、今まで機械学習と縁が薄かった分野でも、機械学習を使った研究がしたいという声が上がるようになっています。 前々回は、それを裏付けるように非情報系の学生さんが機械学習を使った研究をしたいという応募がサイボウズ・ラボユースに増えているという話、前回はいままで機械学習や深層学習に縁のなかった人が何から勉強したらいいかという話を書きました。 今回はその続き、研究に必要な実験用 PC 環境をどのように準備したらいいかというお話です。 深層学習の実験をするには、十分な性能の GPU を積んだ PC が必要です。 今どきの機械学習関連の研究室では、院生有志がメンテナンスしている GPU のクラスタがあって、それを使わせてもらえることが期待できます。自分用の PC を手配する場合も、研究テーマに適し
Introducing Triton: Open-source GPU programming for neural networks
Triton makes it possible to reach peak hardware performance with relatively little effort; for example, it can be used to write FP16 matrix multiplication kernels that match the performance of cuBLAS—something that many GPU programmers can’t do—in under 25 lines of code. Our researchers have already used it to produce kernels that are up to 2x more efficient than equivalent Torch implementations,
M2 Ultraを搭載したMac Proは外部GPUのサポートがなく最大メモリが192GBに制限されているのでプロが購入しにくいことが報告される
2023年6月6日に開催されたAppleの開発者向け会議「WWDC23」の中で、Appleは独自開発SoCであるMシリーズの最新チップ「M2 Ultra」を発表しました。また、M2 Ultraを搭載したハイエンドPC「Mac Pro」も同じく発表されましたが、メモリの上限が最大192GBに制限されていることや購入時の構成以上のアップグレードができない点などから、ハイエンドなPCを求めるユーザーが購入をためらっていることが報告されています。 Apple Mac Pro M2 Ultra review: a powerful computer in search of an audience - The Verge https://www.theverge.com/23770770/apple-mac-pro-m2-ultra-2023-review M2 Ultra Mac Pro revi
ChatGPTが話題ですが、そういうのをおうちで動かしたいですよね。 ということで、おうちで動かしやすくて割と会話ができるChatRWKVを試してみます。 ChatGPTは実装は公開されておらず手元で動かすことはできません。けど、サービスがたまに落ちてたりするので手元で動かせるなにかがあると安心ですね。何より、こんな変な技術を手元で動かしたい。 そこで手元で動かせるLLMとしてFlexGenが話題になりましたが、それでも強力なGPUが必要です。 https://github.com/FMInference/FlexGen そして低リソースで動かせる実装としてAlpaca.cppなんかも出ましたが、そこまで賢くない感じ。 https://github.com/antimatter15/alpaca.cpp そこに現れたのがChatRWKVです。一般のご家庭の8GB VRAMのGPUで動かせつ
最強ＣＰＵ将棋ソフト『水匠』ＶＳ最強ＧＰＵ将棋ソフト『dlshogi』長時間マッチ観戦記 第三譜『GCT』加納邦彦の自信
取材・文／白鳥士郎 「なんて……なんて、趣味人なんだ……」 加納邦彦が山岡から初めてその話を聞いたとき、あまりの壮大さに圧倒されたことをよく憶えているという。 なぜなら山岡は、Googleという超巨大企業が行った壮大な実験を、論文だけを頼りに、たった一人で再現しようというのだから……。 「山岡さんは同じ会社の1年先輩だったんです。私は老けて見えるので意外かもしれませんが（笑）」 新卒で入社した会社の同僚。 それが、加納と山岡の出会いだった。およそ２０年前のことだ。 現在はお互いに別の企業で働いている。 山岡は今、将棋ソフト開発者が多数在籍し、『将棋ウォーズ』を運営するHEROZに在籍している。まさに将棋が身近にある職場だ。 一方、加納が今の会社で担当しているのは『チャットボット』と呼ばれる技術だ。 「自動会話プログラムですね。サイトを訪問したお客さんに、機械が話しかけるといった技術です」
「最近よく聞くGPUってなんなの？」観る将棋ファンのためのコンピュータ講座（２）（松本博文） - エキスパート - Yahoo!ニュース
松本 では今回も講師に「水匠」開発者の杉村達也先生、ゲストに渡辺明名人を迎えて進めさせていただきます。第２回のテーマは「最近よく聞くGPUってなんなの？」です。 杉村 これもまた難しい質問ですが（笑） 渡辺 もちろん、わかりません（笑） 松本 ちょうどよかった。私もわかりません（笑）。多くの将棋ファンの方もわからないのではないでしょうか。 杉村 GPUとはGraphics Processing Unitのことで、主に3Dグラフィックを描画するためのパーツです。 松本 はい。本格的にゲームなどする人が重視するパーツというのが、私のざっくりした知識です。グラフィックボード（グラボ）とGPUは、ほぼ同義ですか？ 杉村 ほぼ同義です。グラボの一部にGPUが付いています。 松本 なるほど。 杉村 よく言われるのはCPUは大学生。GPUは小学生がたくさん。 松本 といいますと・・・？ 杉村 GPUだと
Windows 11 の WSL で GPU を使って rinna InstructGPT - nownab.log
はじめに 最近、念願のつよつよ GPU がついた PC を新調して WSL で環境構築を頑張っている。今回は GPU を使った LLM の推論を試した。 ここでの GPU は NVIDIA のもので、GPU の環境構築は WSL で CUDA を使えるようにすることを意味する。また、WSL の Distribution は Ubuntu-22.04。 LLM としては rinna 社の日本語特化 InstructGPT を使った。 GPU on WSL 基本的に この手順 に従って進めれば WSL で GPU が使えるようになる。具体的には、Windows 11 へ WSL 対応 NVIDIA ドライバのインストール、WSL 内で CUDA Toolkit インストールの 2 点。 NVIDIA ドライバのインストールは NVIDIA のドライバダウンロードサイトで Windows 11
「国内利用率わずか5.4%、約9割が海外サービスを利用」。8月29日にGMOインターネットグループから発表された「GPUクラウド利用実態調査」の見出しにはちょっと驚いた。生成AI全盛期の最中、GPUの需要はうなぎ登りだと思っていたが、GPUクラウドの利用はまだまだだ。果たしてどの程度の需要が望めるのだろうか？ 「2000基のGPUはすでに売り切れた」と聞いたばかりなのに GPUクラウドは文字通り、AIの計算処理に不可欠とも言えるGPUをサービスとして提供するクラウドサービス。複数のGPUを搭載したGPUサーバーや複数サーバーのクラスターをサービスとして利用できる。 GPUクラウドはGPUの大量調達能力に加え、電力を消費するため、潤沢な電力供給が可能なデータセンターにしか設置できない。そのため、今まではサービスとして提供できるのは、グローバルのパブリッククラウド事業者がメインだった。しかし、
ソニー、「PlayStation 5」のロゴを初公開。超高速SSDやレイトレーシングに対応したGPUを搭載し2020年の年末に発売予定
『龍が如く8外伝 Pirates in Hawaii（パイレーツインハワイ）』発表、主人公は真島のアニキに決定。記憶喪失となった真島は海賊の船長となって財宝を探す旅に出る。キャストにはロバート秋山氏も登場
by Tyler Lastovich Appleが半導体メーカーのImagination Technologiesと新たなライセンス契約を結んだことが明らかになりました。Imagination TechnologiesはAppleにGPUを供給するサプライヤーだったのですが、Appleが独自にGPUの開発を進めた影響で身売りせざるを得ない状況に追い込まれたという企業です。 Imagination and Apple Sign New Agreement - Imagination https://www.imgtec.com/news/press-release/imagination-and-apple-sign-new-agreement/ Apple, former partner Imagination Technologies ink new licensing agreemen
AI事業本部におけるGPU活用の取り組みとKubernetes - CloudNative Days Spring 2021 Online / cndo2021-ca-ml-gpuaas-aiplatform
AI事業本部におけるGPU活用の取り組みとKubernetes at CloudNative Days Spring 2021 Online Speaker: 青山 真也・李 榮宰・高橋 大輔 Video: https://event.cloudnativedays.jp/cndo2021/talks/451 サイバーエージェント AI事業本部では、広告領域を始めとして、様々な領域での機械学習のワークロードが増えています。研究者・データサイエンティスト・プロダクト開発者など様々なメンバーが機械学習を利用するなか、利便性の高いGPU/ML環境の提供は欠かせません。 現在に至るまでAI事業本部におけるオンプレGPU環境は様々な変遷があり、現在は2020年にリリースされた NVIDIA A100を利用しNetApp TridentとKubernetesをあわせてGPU/ML環境の提供を開始してい
トラッキングアプリ「VTube Studio」に無料DLC配信 GPU「RTXシリーズ」で精度が大幅上昇 海外発の2DVTuber向けトラッキングアプリ「VTube Studio」に、無料ダウンロードコンテンツ「NVIDIA Broadcast Tracker」が配信されました。NVIDIAのGPU「RTXシリーズ」と組み合わせて使用することで、トラッキング精度を大幅に向上させます。 「VTube Studio」は、スマートフォンなどを使用して顔をトラッキングし、Live2D Cubismモデルのアニメーション化を行えるアプリです。端末からパソコンにフェイストラッキングデータを送り、2Dモデルを動かせます。無料の体験版が公開されており、気に入った場合は有料版を購入してアプリから透かしを削除し、無制限のストリーミング機能を有効にできます。 これまで同アプリでは、スマートフォン（iOS/And
3つの要点 ✔️ Skip-Layer Excitationとself-supervised Discriminatorを提案し、パラメータの大幅削減に成功 ✔️ 少量データでも学習可能 ✔️ 1024×1024の画像もGPU1枚、数時間で学習可能 Towards Faster and Stabilized GAN Training for High-fidelity Few-shot Image Synthesis written by Anonymous (Submitted on 29 Sep 2020) Comments: Accepted at ICLR2021 Subjects: Computer Vision and Pattern Recognition (cs.CV); Image and Video Processing (eess.IV) Comm 概要 これまでのG
タイトル: GPUの力を解放するプログラマー 東京の繁華街、青山のオフィスビルに住むプログラマーの田中健太は、朝から晩までスクリーンと向き合いながら日々を過ごしていた。彼のデスクには、複数のモニターと、コードがびっしりと詰まったノートが並んでいる。 ある日、彼は新しいプロジェクトに取り組んでいた。タスクは、古いNAMPy（Non-Accelerated Matrix Processing）を使って計算する非効率的なループ処理を、自動で高効率なGPU対応コードに変換するプログラムを作成することだった。彼の目標は、GPUのパワーを最大限に引き出し、処理速度を劇的に向上させることだった。 彼の心には、過去の経験からくる焦燥感があった。NAMPyのループは、コードが複雑になり、処理が遅くなることが多かった。しかし、最近のGPU技術の進歩を受けて、彼はこれを利用して問題を解決する決意をした。 初めの
次期MacBook Proの14インチと16インチ、早ければ今年の初夏に発売？ M1後継の最大メモリは64GB、GPUコアは最大4倍に
次期MacBook Proの14インチと16インチ、早ければ今年の初夏に発売？ M1後継の最大メモリは64GB、GPUコアは最大4倍に デザインを一新したMacBook Proは、早ければ今年の初夏に発売される予定で、その後、MacBook Air、ローエンドのMacBook Pro、新型Mac Proワークステーションと続き、さらにハイエンドのMac miniデスクトップと大型のiMacの開発も進めているようだと、Bloombergが伝えている。 これらのマシンには、現在のM1チップの性能や機能を大幅に上回る自社設計のプロセッサが搭載されるそうだ。 情報によれば、再設計されたMacBook Proは、コードネーム「J314」と呼ばれる14インチと、コードネーム「J316」と呼ばれる16インチの画面サイズで発売される予定で、再設計された筐体、マグネット式のMagSafe充電器、外付けドライ
新型MacBook Pro用「M1X」、GPUとRAMが2種類、合計4種類の構成か 2021 8/30 Apple製品の情報を発信しているルーク・ミアーニ氏が、新型MacBook Pro用の新しいAppleシリコン「M1X」の構成が4種類になるとの予想を投稿しました。 16コアと32コアGPU、16GBと32GB RAMを用意？ Dylan氏（@dylandkt）は、新型14インチMacBook Proと新型16インチMacBook Proは同じチップを搭載、性能は変わらないと投稿していました。 ルーク・ミアーニ氏は、Dylan氏（@dylandkt）の予想に対し、「新型14インチMacBook Proと新型16インチMacBook Proが搭載するM1XチップにはGPUとRAMがそれぞれ2種類用意され、合計4種類の構成になる」と返答しています。 同氏はM1Xについて、GPUが16コアと3
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
片手で持てる外付けGPUボックス「GPD G1」を試してきた
PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま
「Thunderbolt 3」でちょこっとパワーアップ GPUとRAIDストレージを外付けしてみた
【笠原一輝のユビキタス情報局】 AI=NVIDIAの牙城を崩すAMDの新GPU「Instinct MI300X」
TikTokはNVIDIAのGPUをクラウドでレンタルして制裁を回避している、中国企業の常とう手段か
実験用 GPU 環境をどう準備したらいい？（非情報系が機械学習を使う研究をしたいとき） - 木曜不足
NVIDIA、性能2倍のプロ向けGPU「RTX 6000」発表。Ada Lovelaceアーキテクチャ採用
おうちの8GB VRAM GPUでChatRWKVと会話する - きしだのHatena
【特集】 「パルワールド」を快適に遊ぶならGPUはどれがいい？GeForceの最新と旧世代で比較してみた
GPUクラウドをみんな知らない ニーズのなさか、伸びしろか
NVIDIA、ゲーム時約140WのミドルレンジGPU「GeForce RTX 4060 Ti」
【笠原一輝のユビキタス情報局】 TSMCの4nmで製造され、ユニークな構成のCPUを内蔵するSnapdragon 8 Gen 2、GPUの大きな性能向上を確認
そのGPU、仕事してる？Intelが「GPU Busy」を計測できる監視ツール公開
【笠原一輝のユビキタス情報局】 Zen 4、AVX-512対応、GPU統合、AM5、供給電力拡張の5つの強化点を持つRyzen 7000
Qualcomm、スマホ向けハイエンドSoC「Snapdragon 8 Gen 1」。AI性能4倍、GPU性能30%増
Appleに見捨てられ身売りすることとなったGPUメーカーがAppleと新しいライセンス契約を結ぶ
香港で300枚のGPU密輸事件発生！発売前のマイニング用GPU「NVIDIA CMP 30HX」か | Game*Spark - 国内・海外ゲーム情報サイト
AMD、Zen 3採用のデスクトップ向けAPUを発表。従来比50%高速なノート向けGPUも
トラッキングアプリ「VTube Studio」に無料DLC配信 GPU「RTXシリーズ」で精度が大幅上昇
NVIDIAが8月31日にコンシューマ向け新GPUを発表か?
【レビュー】 消費電力減で扱いやすくなった高性能GPU「GeForce RTX 4070」
GPU1枚、1日未満で学習！超高速学習GAN、「Lightweight GAN」
次世代の高速計算。自動で高効率なGPU対応コードに変換するプログラム。 - Qiita
ビデオカード高騰中の今だから気になる内蔵GPU性能。第11世代Core＆Ryzen Gでどこまで戦える!?
4万円の14コアCPU「Intel Core i5-14500」のゲーミング性能を検証する。ミドルレンジGPUとの名コンビ誕生か!? 【第2戦】静音ゲーミングPCに仕上げられるのもグレイト！ text by 芹澤 正芳
AMD、Zen 4になったモバイルRyzen 7000。RDNA 3 GPUとNPUも内蔵
新型MacBook Pro用「M1X」、GPUとRAMが2種類、合計4種類の構成か - iPhone Mania