安いGPUレンタルサービスについて個人的に触ったことのある安いGPUレンタルサービスをGood / Bad含め紹介します。
Appleシリコン搭載MacBookでNVIDIA製GPUが動作！外付けドックを開発 - iPhone Mania
Appleシリコン（Mシリーズチップ）を搭載したMacBookシリーズに接続して、NVIDIA製GPUを利用できる外付けドックと専用ドライバの開発に成功したと、AI関連企業のTiny Corpが報告しました。 NVIDIA RTX30、40、50シリーズに対応 Tiny Corpが開発した外付けドックは、Appleシリコン搭載MacBookでNVIDIA RTX 30、40、50シリーズのグラフィックカードを利用できるのが特徴です。 同社によれば、このドックの開発目的は、NVIDIA製GPUを活用して大規模言語モデル（LLM：Large Language Model）などの処理を高速化することにあります。 ただし、現時点で開発中のドライバはビデオ出力をサポートしていないとのことです。 SIPを無効化してからドライバをインストール Tiny Corpは、M3 Max搭載16インチMacBoo
事件はGPUで起きているんじゃない メモリで起きているんだ
「AI処理のボトルネックは演算ではなく、メモリアクセスにある」。そんなタイトルでインテル主催の「Intel Connection 2024」で講演を行なったのは、東京大学 特別教授の黒田忠広氏だ。AIの課題である電力消費とボトルネックを解消すべく、インテルのような北米企業と日本の企業、アカデミアはいま何をすべきか。黒田氏は持論を展開した。 GDP比0.6％の第三期成長期に向かうAI時代の半導体産業 Intel Connection 2024のセッションにおいて、スーパーコンピューター富岳プロジェクトのリーダーである松岡聡センター長からマイクを引き継いだのは、東京大学教授で半導体研究者でもある黒田忠広氏だ。最初に説明したのは、半導体産業の成長について。家電で用いられていた程度だった半導体の市場は1990年代はGDP比0.2％程度だったが、PC市場やインターネットが勃興した1995年頃に0.4
AI時代に一人勝ち。NVIDIAの「CUDA」がIntelやAppleを蹴散らし業界の“実質的なスタンダード”になった背景を中島聡が徹底解説 - まぐまぐニュース！
空前のAIブームの中にあって、その開発の現場で「一人勝ち」とも言うべき圧倒的なシェアを誇っているNvidia（エヌビディア）のGPU向け開発環境「CUDA」。IntelやAppleといったライバルたちを尻目に、いかにしてCUDAはトップに登り詰めたのでしょうか。今回のメルマガ『週刊 Life is beautiful』では世界的エンジニアとして知られる中島聡さんが、CUDA誕生の経緯から業界の「事実上の標準」となるまでを詳しく解説。さらにMicrosoftが5月20日に発表した「Copilot+PC」に関して、中島さんが注目したポイントを記しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです／原題：NvidiaのCUDAが今の地位を築いた経緯 プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシ
［GDC 2024］CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用
［GDC 2024］CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用 ライター：西川善司 セッションタイトルを訳すなら，「ようこそ，未来のGPUプログラミングモデル『GPU Work Graph』へ」 米国時間2024年3月18日に行われたGDC 2024の技術セッション「Advanced Graphics Summit: GPU Work Graphs: Welcome to the Future of GPU Programming」において，AMDとMicrosoftは共同で，DirectX 12の新機能「Work Graph」を発表した（関連リンク）。本稿では，Work Graphとは何で，どのような利点をもたらすのかを解説したい。 セッションを担当したMicrosoftのShawn Hargreaves氏（Dev Man
NVLink BridgeでGPUを繋いでも1GPUにはなりません | HPCシステムズ Tech Blog
『NVLink Bridgeで複数GPUを繋いだら、それらが1GPUとして扱えるようになるんでしょ？』という誤解をされているお客様をしばしばお見受けいたします。こちらの記事では、それが誤解であること、また、SLIやUnified Memoryといった関連する情報についても整理して解説いたします。間違った期待を抱いて失敗しないように、正しい理解を深めていきましょう。 GPUのメモリ空間は他デバイスから隔絶されています GPU上には演算するためのプロセッサと、データを一時的に置いておくためのメモリ(VRAM)が搭載されています。GPUのメモリを、CUDAで書かれたプログラムから利用するには、cudaMallocでメモリ領域を確保し、cudaMemcpyを使ってホスト(CPU側)のメモリとデータの送受信を行い、GPU上で演算kernelとする関数（以下、GPU-Kernel）を呼び出し、最後にc
AWS・Azure・Cudoなどが提供するクラウドGPUが1時間あたり何ドルで利用できてどういう構成なのかの一覧表
ニューラルネットワークのトレーニングや実行にはGPUが使われることが多く、クラウドサービスのGPUの需要はAIの普及に伴い高まりつつあります。そんなクラウドGPUの構成や価格を、AI関連のニュース＆コミュニティサイト・The Full Stackが公開しました。 Cloud GPUs - The Full Stack https://fullstackdeeplearning.com/cloud-gpus/ 表はクラウドサーバーとサーバーレスの2種類に分かれています。ピックアップされたサービスはAmazon Web Service(AWS)やMicrosoft Azure、Cudo Compute、Google Cloud Platform(GCP)、AWS Lambdaなど。Hugging Faceなど一部サービスの記載はありません。 クラウドサーバーの表がこんな感じ。最左列にサービス名
さくらインターネット、生成AI向けクラウドサービス開始へ | さくらインターネット
さくらインターネット、生成AI向けクラウドサービス開始へ 〜NVIDIA H100 GPUを搭載した2EFの大規模クラウドインフラを石狩データセンターに整備〜 クラウドコンピューティングサービスを提供するさくらインターネット株式会社（本社：大阪府大阪市、代表取締役社長：田中 邦裕、以下「さくらインターネット」）は、経済安全保障推進法に基づく特定重要物資である「クラウドプログラム」の供給確保計画に関する経済産業省の認定を受けました。AI時代を支えるGPUクラウドサービスの提供に向けて、3年間で130億円規模の投資をし、「NVIDIA H100 Tensor コア GPU」を搭載した、合計2EFLOPS（エクサフロップス）※1の大規模クラウドインフラを整備することを決定いたしました。 クラウドコンピューティングに最適化した「石狩データセンター」 本取り組みは民間で初めて経済産業省から認定された
ThinkCentre Neo 50t Tower Gen 3の電源を変えてStable Diffusionを動かすグラボに換装 - パパ教員の戯れ言日記
ニッチすぎて情報出てないので一応備忘録として書きますがほとんどの方には参考になりません。上の絵は「サッカーをするムキムキモンスター」です。 コスパモンスターだったThinkCentre Neo 50t Tower Gen 3を購入して一年。 ちょっとインターネット老人会入りますけどスペックはこんな感じで安定してました。 CPU 12th Gen Intel(R) Core(TM) i7-12700 2.10 GHz Mem 32GB GPU GeForce 1650 それが、この前やったイベントでStable Diffusionを知ってしまい、一気に沼に入り込みまして。 これはグラボ変えるしかねぇな と。 ThinkCentre Neo 50t Tower Gen 3の制約 コスパモンスターと書いたんですが、電源が380Wしか無いので、GF1650がギリギリ。 これ以上は電源を変えないとな
Appleが未発表の「M2 Ultra」搭載のハイエンドMacをテスト中との報道、24コアCPUと60コアGPUを備えたチップと最大192GBのメモリを搭載したモンスターマシンか
Apple関連情報に詳しいBloombergのマーク・ガーマン氏が2023年6月1日に、Appleが2023年6月5日開催の開発者向けイベント「Worldwide Developers Conference(WWDC)」に向けて、2機種のデスクトップ向けハイエンドMacのテストを行っていることを報告しました。 WWDC 2023: Apple Preps New Macs With M2 Ultra, M2 Max Processors - Bloomberg https://www.bloomberg.com/news/articles/2023-05-31/apple-tests-new-high-end-mac-chips-ahead-of-developer-conference Apple preps first Desktop Mac with M2 Max and Ultra
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TypeGPUとは何か｜TypeGPU入門
GitHub - kevmo314/scuda: SCUDA is a GPU over IP bridge allowing GPUs on remote machines to be attached to CPU-only machines.
「Gaudi 3はNVIDIA GPUを超えるAI性能」とインテル鈴木会長。インテルAI Summit Japanレポート
【特集】 ついにRadeonの時代が来た!? RX 7600とGeForce RTX 4060の比較で見えたAFMFの強み。これで認識が変わるかも
AMD、生成AIでNVIDIA H100を上回る性能のGPU「Instinct MI300」
NVIDIA、Stable Diffusionを倍速にするTensorRT。新ドライバで対応
Radeon上でStable Diffusionの性能を9.9倍にする最適化手法。AMD公開
NVIDIA、1EFLOPSの性能で生成AI/LLM処理を加速する「DGX GH200」
The AI workspace that works for you. | Notion
【西川善司のグラフィックスMANIAC】 ためになる3Dグラフィックスの歴史(6)。AI技術の進化にGPGPUがもてはやされる背景
