NVIDIA DGX SparkでローカルAI環境を構築してLLM・画像生成AIを動かしてみた
NVIDIA DGX Sparkの概要 NVIDIA DGX SparkをNVIDIA様から貸与いただきました。NVIDIA DGX Sparkは、手のひらサイズでペタFLOPS級性能を持つ「超小型AIスーパーコンピュータ」です。AI用のスーパーコンピュータであるDGXシリーズ（DGX-1→DGX A100→DGX H100など）の系譜を組みながら、手軽にデスクトップで使えるようにした存在です。 前置きはさておき、やっぱり気になるのは実際の使い勝手、何ができるのか、性能といったことですね。この記事では、NVIDIA DGX Sparkのセットアップの方法と、大なモデルのLLM(gpt-oss-120b)や画像生成を試してみるところまでをやってみたいと思います。 セットアップに関しては、NVIDIA提供の公式のマニュアル、ソフトは大いに参考・活用していますが、一部私の好みで変更しているものや
NVIDIAが小型AIスパコン「Project DIGITS」を発表、1台当たり3000ドルで2台組み合わせて4050億パラメーターのAIモデルを実行可能
NVIDIAが小型のAIスーパーコンピューター「GB10」を発表しました。GB10ではLinuxベースの「NVIDIA DGX OS」が動作し、2台のGB10を組み合わせることでパラメーター数4050億のAIモデルをローカルで動作させられます。また、NVIDIAの自動運転エコシステムにトヨタが加わることやAIロボットの仮想テスト環境「Mega」の提供開始なども発表されています。 NVIDIA Puts Grace Blackwell on Every Desk and at Every AI Developer’s Fingertips | NVIDIA Newsroom https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-finger
AIのトレーニングで使用されるチップ「H100」「H200」「MI300X」の性能を比較した結果判明した事実とは？
AIの学習や推論に用いるAIインフラストラクチャーの市場では、「H100」「H200」といったNVIDIA製のAI特化チップが大きなシェアを獲得しています。一方で、NVIDIAのライバル企業となるAMDも2023年12月に「Instinct MI300X」を発表しています。そんなH100・H200・MI300Xについて、テクノロジー系メディアのSemianalysisがさまざまなベンチマークテストを実施し、それぞれの結果について報告しています。 MI300X vs H100 vs H200 Benchmark Part 1: Training – CUDA Moat Still Alive – SemiAnalysis https://semianalysis.com/2024/12/22/mi300x-vs-h100-vs-h200-benchmark-part-1-training/
「NVIDIA H100 GPU」を2万4576基搭載して「Llama 3」などのトレーニングに活用されているGPUクラスターの情報をMetaが公開
「AI開発をリードするということは、ハードウェアインフラへの投資でリードするということ」として、MetaがAIのための投資として行っている、2万4000基以上のGPUを搭載したデータセンタースケールのクラスターの情報を明らかにしました。 Building Meta’s GenAI Infrastructure - Engineering at Meta https://engineering.fb.com/2024/03/12/data-center-engineering/building-metas-genai-infrastructure/ Meta reveals details of two new 24k GPU AI clusters - DCD https://www.datacenterdynamics.com/en/news/meta-reveals-details-o
【国内認定第1号!】NVIDIAの新しいAI認定制度「Jetson AI Specialist」認証を取得してみた！「Jetson Nano 2GB開発者キット」実機レビュー 2 | ロボスタ - ロボット･AI情報WEBマガジン
前回は新発売のAIコンピュータボード「NVIDIA JETSON NANO 2GB 開発者キット」（以下、Jetson Nano 2GB）の特徴とレビューを解説しました。今回は「Jetson Nano 2GB」を使って、いま話題になっているNVIDIAのAI認定制度「Jetson AI Specialist」の認定を実際に申請してみて、取得にチャレンジしようと思います。 結果から言いますと、「Jetson Nano 2GB」を使った「マスク判定と検温のAI」のプロジェクトを作成して申請し、「Jetson AI Specialist」の【国内認定第１号】として無事に取得することができました！！それほどハードルは高くないので、申請から認定までの流れをお届けしますので、皆さんも挑戦してみてください！ 「Jetson AI Certification」の概要まずは「Jetson AI Certif
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
