並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 46件

新着順 人気順

CUDAの検索結果1 - 40 件 / 46件

  • 加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実

    加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実 2024.06.21 Updated by Ryo Shimizu on June 21, 2024, 18:19 pm JST 世界中の企業や政府が狂ったようにNVIDIAのGPUを買い漁る流れはそろそろ潮時かもしれない。 いくつかの興味深い事象が起きているからだ。 昨日発表されたKarakuri社のLLM、「KARAKURI LM 8x7B Instruct v0.1」は、非常に高性能な日本語LLMだ。Karakuri社は今年の一月にも非常に高性能な70Bモデルを引っ提げて業界に旋風を巻き起こした。この最新のLLNは、日本語向けオープンLLMとしては初の「命令実行」チューニングを施されている。それだけでなく、RAGと呼ばれる、複数の知識を組み合わせてより正解に近い答えを導く技術や、Function

      加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
    • 任天堂株主総会レポート2024

      2013年に初参加し、コロナ禍で2年ほど欠席を挟んで今回で10回目の参加となる任天堂株主総会に今年も行ってきた。 先日、株主総会に関する記事執筆の依頼があり、株主総会に参加する意義と楽しみ方について書いたので、合わせて読んでいただけるとありがたい。 任天堂が好き過ぎて株を購入。「任天堂株主総会レポート」中の人が語る、“推し”企業に投資する魅力 | イーデス さて、今年2024年の株主総会だが、Nintendo Live 2024 TOKYOが脅迫により中止に追い込まれたことが影響したのか、今年から手荷物検査が行われると告知があった。博多駅からの始発で開会時間には間に合うのだけど、手荷物検査や天候不良で余計な時間が取られそうだと判断し、余裕を持てるようにホテルを予約して前日入りすることにした。 かつて任天堂の株価はWii全盛期に7万円台をつけ、その後の業績不振によりもっとも低いときは1万円を

      • 自分の認識をだらだら書くとこうなる。 結局のところ2003年から2011年頃まで..

        自分の認識をだらだら書くとこうなる。 結局のところ2003年から2011年頃までいちばん延べ計算量が必要だったのはリアルタイムの3Dグラフィックスのレンダリングだったんだ。そこではNVIDIAって会社がPCゲームのプラットフォームを握ってしまっていてそこで技術開発をめっちゃ進めてしまったんだ。 結果的にPlayStation2までは純日本設計だったグラフィックチップが、PlayStation3ではNVIDIAのGPUになってしまったんだ。そこで負けが確定してしまった感じだ。PlayStation3のCPU、CELLに内蔵されているSPUは、世代をどんどん進めていったら最終的にレンダリングもできるグラフィックチップに進化する可能性があったのかもしれないけど次世代が出せなかったのでそこで終わりになってしまった。 NVIDIAは先端を走っているユーザーが何を求めているかをめちゃくちゃちゃんと調査

          自分の認識をだらだら書くとこうなる。 結局のところ2003年から2011年頃まで..
        • 【大原雄介の半導体業界こぼれ話】 生成AIのバブルはいつ弾ける?

            【大原雄介の半導体業界こぼれ話】 生成AIのバブルはいつ弾ける?
          • 角刈りオジサンから美少女ボイス 「GPU不要で超低遅延」なリアルタイム音声変換ソフトを見てきた

            ブースは、韓国の音声AI企業Supertoneが出展したもの。角刈りオジサンの美少女ボイスは、リアルタイム音声変換ソフト「SHIFT」のデモによるものだった。このSHIFT、少女だけでなく少年、成人女性、成人男性、渋いおじいさん、悪魔などさまざまな声がプリセットされており、リアルタイムかつ高精度に声を変換できるのが特徴。 独自の音声合成基盤モデル「NANSY」(Neural Analysis & Synthesis)を採用しており、ユーザーの声の事前学習も、10秒程度のサンプルスクリプトを読み上げるだけで完了。ユーザーとキャラクターの音声の混合比率や感情の表現度合い、音の高低なども細かく調整可能だ。 同様の技術として「RVC」(Realtime Voice Changer)などが有名だが、快適に利用するにはNVIDIAの高性能なGPUを必要とする。一方、SHIFTはCPUのみで47ミリ秒と

              角刈りオジサンから美少女ボイス 「GPU不要で超低遅延」なリアルタイム音声変換ソフトを見てきた
            • 「NVIDIA最新GPUの20倍速い」史上最速を謳うAIチップ「Sohu」

              米AIスタートアップ「Etched」は6月25日(現地時間)、ChatGPTなど最新のAI技術の基盤となっている「Transformer」アーキテクチャーに特化したチップ「Sohu」を発表した。この発表は、現在NVIDIAが支配的な地位を占めるAIチップ市場に、新たな競争をもたらす可能性がある。 Transformer処理に特化 AIチップ市場は現在NVIDIAが圧倒的なシェアを持つ。同社の汎用GPUは様々なAIモデルを効率的に処理できる柔軟性から市場の約80%を占めている。 多くの大手テクノロジー企業がAI開発のためにNVIDIAのチップに数十億ドルを投資しているのが現状だ。 Etchedの「Sohu」は、ASIC(Application-Specific Integrated Circuit:特定用途向け集積回路)と呼ばれる、特定の用途に最適化された集積回路だ。汎用性は低いものの、特定

                「NVIDIA最新GPUの20倍速い」史上最速を謳うAIチップ「Sohu」
              • 中島聡さん、NVIDIAのGPUが用済みになるって本当ですか?AI開発の行列乗算をなくす「MatMul-free LM」で気がかりなこと - まぐまぐニュース!

                エヌビディアの強みであるGPUの優位性を揺るがすかもしれないAI関連の注目論文とは?人気急上昇中のメルマガ『週刊 Life is beautiful』より読者Q&Aをご紹介。著者の中島さんは「Windows95の父」として知られる日本人エンジニア。メルマガでは毎号、読者からの質問に丁寧に回答しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです プロフィール:中島聡(なかじま・さとし) ブロガー/起業家/ソフトウェア・エンジニア、工学修士(早稲田大学)/MBA(ワシントン大学)。NTT通信研究所/マイクロソフト日本法人/マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。 1ビットの高速推論AIチップ 米国より先に中国が開発する可能性も 読者からの質

                  中島聡さん、NVIDIAのGPUが用済みになるって本当ですか?AI開発の行列乗算をなくす「MatMul-free LM」で気がかりなこと - まぐまぐニュース!
                • NVIDIA、時価総額Apple抜き世界2位 3兆ドル超え - 日本経済新聞

                  【シリコンバレー=渡辺直樹】米エヌビディアの時価総額が5日、3兆ドル(約468兆円)を突破し、米アップルを抜いて米マイクロソフトに続く世界2位となった。3兆ドルの大台に乗るのは史上3社目。生成AI(人工知能)の開発や処理に使う半導体の需要拡大への期待から株価は上場来高値を更新し続けている。エヌビディアの株価は5日、終値で前日比5%上昇し、QUICK・ファクトセットによると、時価総額は3兆118

                    NVIDIA、時価総額Apple抜き世界2位 3兆ドル超え - 日本経済新聞
                  • NVIDIAがオープンモデル「Nemotron-4 340B」を発表、LLMトレーニング用合成データの生成に革命を起こすか

                    高度なAIのトレーニングには高品質な学習データが欠かせませんが、そのようなデータは急速に枯渇しつつあることが問題となっています。NVIDIA2024年6月14日に、大規模言語モデル(LLM)のトレーニングに使用する合成データの生成を念頭に開発され、商用アプリケーションにも使えるオープンソースのAIモデル「Nemotron-4 340B」を発表しました。 NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models | NVIDIA Blog https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/ Nvidia's 'Nemotron-4 340B' model red

                      NVIDIAがオープンモデル「Nemotron-4 340B」を発表、LLMトレーニング用合成データの生成に革命を起こすか
                    • 海外「だから親日家なのか!」NVIDIA創業者が日本で学んだ人生で最も重要な教えが話題に

                      先日時価総額が3兆3350億ドルに達し(約526兆円)、 マイクロソフトを抜いて世界首位となった、 アメリカの半導体大手「NVIDIA」の創業者、 ジェンスン・フアン氏が14日、 カリフォルニア工科大学の卒業式でスピーチを行い、 京都・銀閣寺での日本人庭師との出会いが、 人生で最も重要な教訓になったと話し、話題になっています。 フアン氏は子どもたちが10代だった頃、 毎年夏にNVIDIAの海外オフィスに1ヶ月間赴き、 プライベートでは家族と旅行をしていたそうなのですが、 日本滞在中、京都の銀閣寺に行った際、 見事な手入れが施されている庭園で、 1人の日本人庭師の姿に目を惹かれたそうです。 その庭師さんは「京都特有の」炎天下の中、 竹製のピンセットを使い慎重に枯れた苔を摘み取り、 それを竹かごに入れていたのですが、 その姿に興味を惹かれたフアンさんが、 「この広大な庭でなぜピンセットで作業を

                        海外「だから親日家なのか!」NVIDIA創業者が日本で学んだ人生で最も重要な教えが話題に
                      • AI時代に一人勝ち。NVIDIAの「CUDA」がIntelやAppleを蹴散らし業界の“実質的なスタンダード”になった背景を中島聡が徹底解説 - まぐまぐニュース!

                        空前のAIブームの中にあって、その開発の現場で「一人勝ち」とも言うべき圧倒的なシェアを誇っているNvidia(エヌビディア)のGPU向け開発環境「CUDA」。IntelやAppleといったライバルたちを尻目に、いかにしてCUDAはトップに登り詰めたのでしょうか。今回のメルマガ『週刊 Life is beautiful』では世界的エンジニアとして知られる中島聡さんが、CUDA誕生の経緯から業界の「事実上の標準」となるまでを詳しく解説。さらにMicrosoftが5月20日に発表した「Copilot+PC」に関して、中島さんが注目したポイントを記しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです/原題:NvidiaのCUDAが今の地位を築いた経緯 プロフィール:中島聡(なかじま・さとし) ブロガー/起業家/ソフトウェア・エンジニア、工学修士(早稲田大学)/MBA(ワシ

                          AI時代に一人勝ち。NVIDIAの「CUDA」がIntelやAppleを蹴散らし業界の“実質的なスタンダード”になった背景を中島聡が徹底解説 - まぐまぐニュース!
                        • 「Stable Diffusion 3 Medium」がついに解禁、一般的なGPUでも効率よく動作する2Bモデル/フォトリアリズムを実現、NVIDIAとの提携によりパフォーマンス50%向上

                            「Stable Diffusion 3 Medium」がついに解禁、一般的なGPUでも効率よく動作する2Bモデル/フォトリアリズムを実現、NVIDIAとの提携によりパフォーマンス50%向上
                          • スーパーコンピューターで日本がトップに立ち続けていたら今ブームのAIに繋..

                            スーパーコンピューターで日本がトップに立ち続けていたら今ブームのAIに繋がったのか? それともスパコンとAIは関係ない? 脱Android⁠⁠、Huaweiが独自OS「HarmonyOS NEXT」てのがニュースなったけど これもスパコン技術が応用されてそこから生まれてたりするの? スパコン予算をすべてに優先してたら日本産独自OSとか日本産AIに繋がってたんだろうか? つながらない OSはもうぜんぜんまったく完璧に関係ないのでAIについてだけ説明する まず2010年代に始まった第3次AIのブームはソフトウェアというかアルゴリズムのブレークスルーがきっかけ カナダのYoshua Bengio、Geoffrey Hinton、Yann LeCunの3人がディープニューラルネットワークに関する発見をしたこと 3人はこの業績で「ディープニューラルネットワークがコンピューティングの重要な要素となるた

                              スーパーコンピューターで日本がトップに立ち続けていたら今ブームのAIに繋..
                            • 10年前、150万円で買ったNVIDIA株が4億円になった人の話→「私なら10倍くらいで手放してしまう…」

                              FabyΔ @FABYMETAL4 メタラー兼業投資家。2013年にNVIDIA $NVDA に150万円投資し10年間ガチホ中。2024年、生成AIの登場によるNVIDIA GPU需要増で 150万円→4億円 (280倍) を達成。米国企業分析、決算分析、AIトレンド、特にNVIDIAに関する情報発信をしています。たまにメタル界隈にPOPします🤘 FabyΔ @FABYMETAL4 本日、ガチホ10年目のNVIDIAが150万円→4億円(280倍)を達成しました。NVIDIAには感謝の一言に尽きます。ありがとう $NVDA pic.twitter.com/WEnJm1Ks8K x.com/fabymetal4/sta… 2024-06-06 05:46:25 FabyΔ @FABYMETAL4 本日、保有10年目のNVIDIAが 円換算で150万円→3億円(200倍)となりました。 先

                                10年前、150万円で買ったNVIDIA株が4億円になった人の話→「私なら10倍くらいで手放してしまう…」
                              • Intelが光でデータ伝送の距離を100倍にする「光コンピューティング相互接続」チップレットを発表

                                Intelが、光学入出力チップレットをCPUに統合した「完全統合型光コンピューティング相互接続(OCI)」の実証デモを発表しました。銅線と電気でデータをやりとりする従来のチップよりも格段に長い距離のデータ伝送を高帯域幅かつ低消費電力で実現するOCIは、大規模なCPUクラスターやGPUクラスターで構築されたAIインフラに革命をもたらすとされています。 Intel Demonstrates First Fully Integrated Optical I/O Chiplet :: Intel Corporation (INTC) https://www.intc.com/news-events/press-releases/detail/1699/intel-demonstrates-first-fully-integrated-optical-io Intel® Shows OCI Opti

                                  Intelが光でデータ伝送の距離を100倍にする「光コンピューティング相互接続」チップレットを発表
                                • 【Phi-3-Medium】GPU2台構成でローカルLLMを動かす【Ubuntu24】

                                  はじめに GMO NIKKOの吉岡です。 みなさん、生成AIは活用してますか? ChatGPTに始まり、Claude3やGeminiなど、実用的なAIがどんどん出てきてますね。 自分も使ってはきましたが、課金が気になってしまいます。 これではサービスに組み込むことは難しいですよね。 そのためローカルで動くLLMを追ってきましたが、今年に入って実用的な日本語を返すことができるモデルがいくつか出てきているので、サーバー構成からインストール方法、LLMの起動まで紹介しようと思います。 ローカルLLMを動かす上で一番重要なのはGPUのVRAMです。 LLMは7B、13B、70Bモデルが多いですが、量子化しない場合、必要なVRAM容量は動かすモデルの大体2倍なので、13Bモデルでは26GのVRAMが必要です。 NVIDIAのGPUを使ったCUDAが前提になっているのですが、一般向けでは24Gモデルが

                                    【Phi-3-Medium】GPU2台構成でローカルLLMを動かす【Ubuntu24】
                                  • AIデータセンターの1万5000個のGPUを相互接続する技術をAlibaba Cloudの研究者が発表、NVIDIA技術を捨ててイーサネットを採用

                                    Alibaba Cloudのエンジニア兼研究者であるEnnan Zhai氏が、LLMトレーニング向けデータセンターのGPUをイーサネットで相互接続する方法に関する研究論文を発表しました。この技術は特に、NVIDIAのGPU相互接続プロトコルであるNVLinkではなくイーサネットを採用している点で斬新とされています。 Alibaba HPN: A Data Center Network for Large Language Model Training (PDFファイル)https://ennanzhai.github.io/pub/sigcomm24-hpn.pdf Alibaba Cloud ditches Nvidia's interconnect in favor of Ethernet — tech giant uses own High Performance Network t

                                      AIデータセンターの1万5000個のGPUを相互接続する技術をAlibaba Cloudの研究者が発表、NVIDIA技術を捨ててイーサネットを採用
                                    • エヌビディア株価上昇 時価総額 アップルを抜き世界2位に | NHK

                                      生成AI向けの半導体を手がけるアメリカの半導体大手、エヌビディアの株価が上昇し、企業の価値を示す時価総額が5日、初めて3兆ドルを超え、IT大手のアップルを抜いて世界2位となりました。AI需要の高まりへの期待が背景にあります。 5日のニューヨーク株式市場では生成AIの利用の急速な拡大でAI需要が高まっていることへの期待からハイテク関連銘柄に買い注文が膨らみました。 中でも生成AI向けの半導体を手がけ、業績が好調なエヌビディアの株価の終値は、1224ドル40セントと前日と比べて5.1%の大幅な上昇となりました。 このため、企業の価値を示す時価総額は初めて3兆ドル、日本円で468兆円を超えてアップルを抜き、マイクロソフトに次いで世界2位となりました。 時価総額が3兆ドルを超えるのはアップルとマイクロソフトに次いで史上3社目です。 また、ハイテク関連銘柄の多いナスダックの株価指数は1.9%の大幅な

                                        エヌビディア株価上昇 時価総額 アップルを抜き世界2位に | NHK
                                      • 新旧34種類のGPU(グラフィックボード)性能を一気に比較!! 気になるベンチマーク結果は? 【新装第1回/通算第13回】現行世代はこれで一段落。今の勢力図を総まとめ text by 加藤 勝明

                                          新旧34種類のGPU(グラフィックボード)性能を一気に比較!! 気になるベンチマーク結果は? 【新装第1回/通算第13回】現行世代はこれで一段落。今の勢力図を総まとめ text by 加藤 勝明
                                        • 第289回 NVIDIAはなぜ強いのか? 競合ベンダー創業者の視点で考えてみる

                                          NVIDIAの強さの秘密は「対抗するベンダーを創業する」と仮定すると見えてくる 今回はNVIDIAの覇権をひっくり返すことができるのかどうか思考実験(妄想?)を行ってみた。対抗するベンダーを創業すると仮定すると、NVIDIAの強さの秘密が見えてくる? 写真は、NVIDIAのプレスリリース「NVIDIA Supercharges Hopper, the World’s Leading AI Computing Platform」より。 NVIDIAの株価がすごいことになっているみたいだ。2024年6月18日には株式時価総額が約3兆3350億ドルとなり、Microsoftを抜いて、世界1位になったという。その理由は高まる「生成AI(人工知能)」への需要を満たすための計算基盤として、NVIDIAのGPU一択的な流れになっていることが挙げられる。 さて、今回はそんなNVIDIAの覇権をひっくり返す

                                            第289回 NVIDIAはなぜ強いのか? 競合ベンダー創業者の視点で考えてみる
                                          • グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される

                                            画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww

                                              グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される
                                            • GitHub - NVIDIA/multi-gpu-programming-models: Examples demonstrating available options to program multiple GPUs in a single node or a cluster

                                              This project implements the well known multi GPU Jacobi solver with different multi GPU Programming Models: single_threaded_copy Single Threaded using cudaMemcpy for inter GPU communication multi_threaded_copy Multi Threaded with OpenMP using cudaMemcpy for inter GPU communication multi_threaded_copy_overlap Multi Threaded with OpenMP using cudaMemcpy for itner GPU communication with overlapping c

                                                GitHub - NVIDIA/multi-gpu-programming-models: Examples demonstrating available options to program multiple GPUs in a single node or a cluster
                                              • DeepLearning系の将棋AIがRyzenのiGPUで簡単に動いた(ふかうら王編) - シンギュラリティ実験ノート

                                                DeepLearning系の将棋AIがRyzenのiGPUで簡単に動いた、の続報で今回はふかうら王についてである。ふかうら王はやねうらお氏によって作られたdlshogi互換エンジンである。 ふかうら王の導入手順 Windows版実行ファイルは下記のページから辿っていき、ふかうら王の実行ファイル詰め合わせYaneuraOu-v7.6.1+20220511b.master-deep-windows.zipをダウンロードする。 yaneuraou.yaneu.com ふかうら王の導入手順は下記のページを見てほしい。 ふかうら王のインストール手順 · yaneurao/YaneuraOu Wiki · GitHub 上記ページに説明があるが、実行ファイル詰め合わせには以下の種類のふかうら王が含まれている。私が導入したのはORT-CPUとORT-DMLである。 ORT-CPU onnxruntime

                                                  DeepLearning系の将棋AIがRyzenのiGPUで簡単に動いた(ふかうら王編) - シンギュラリティ実験ノート
                                                • NVIDIAの時価総額、天井フラグを物ともせずAppleを抜いて世界2位に : 市況かぶ全力2階建

                                                  日本テレビとフジテレビ、大谷翔平さんを怒らせて映像が一切使えなくなりイラストか系列局を使って放送するしかなくなる

                                                    NVIDIAの時価総額、天井フラグを物ともせずAppleを抜いて世界2位に : 市況かぶ全力2階建
                                                  • 【Hothotレビュー】 Core Ultra 7 165H搭載の最新NUC登場!高性能かつ静かなミニPC「ASUS NUC 14 Pro」

                                                      【Hothotレビュー】 Core Ultra 7 165H搭載の最新NUC登場!高性能かつ静かなミニPC「ASUS NUC 14 Pro」
                                                    • 「AMD ROCm」が「WSL 2」にベータ対応 ~NVIDIAでいうところの「CUDA」に相当/マルチGPU、「Tensorflow」もサポート

                                                        「AMD ROCm」が「WSL 2」にベータ対応 ~NVIDIAでいうところの「CUDA」に相当/マルチGPU、「Tensorflow」もサポート
                                                      • NTTデータ、生成AI開発を支援 GPUもセットで提供 - 日本経済新聞

                                                        NTTデータは生成AI(人工知能)の活用を全面的に支援する事業を始める。システム構築やデータ処理に使う画像処理半導体(GPU)サーバーの貸し出しなどに一括対応する。ソフト面とハード面のサービスのセット提供により、顧客のコストや手間を抑える。急ピッチで普及する生成AIの開発・運用体制が厚みを増してきた。NTTデータは2024年度内をめどに支援サービスを始める。生成AIの基盤となる大規模言語モデル

                                                          NTTデータ、生成AI開発を支援 GPUもセットで提供 - 日本経済新聞
                                                        • エヌビディア、時価総額3兆ドル超え-アップル抜く(Bloomberg) - Yahoo!ニュース

                                                          A Nvidia Corp. artificial intelligence supercomputing graphics processing unit. (ブルームバーグ): 米エヌビディアの株式時価総額が5日、初めて3兆ドル(約468兆円)を超えた。すでに世界で最も価値のある半導体企業だったが、ここにきてコンピューター・チップ企業として史上初めて時価総額3兆ドル台に達した。 人工知能(AI)タスクに使用される同社製チップの需要急増を追い風に、株価は今年、約147%上昇し、時価総額は約1兆8000億ドル増加した。5日終値は前日比5.2%高の上場来高値1224.40ドル。時価総額は3兆ドルを超え、アップルを抜いた。

                                                            エヌビディア、時価総額3兆ドル超え-アップル抜く(Bloomberg) - Yahoo!ニュース
                                                          • 胎動する「ポストGPU」、NVIDIAのボトルネック狙う米スタートアップの最終兵器

                                                            快進撃を続ける米NVIDIA(エヌビディア)。AI(人工知能)半導体であるGPU(画像処理半導体)の行方を占う連載の3回目は、「ポストGPU」と呼ばれる新型のAI向け半導体を取り上げる。この領域はスタートアップを中心に様々な技術が登場している。GPUのボトルネックを狙う最終兵器とは。 ポストGPUの特徴に、今後のニーズを見据えてAIの学習ではなく推論を専用とするスタートアップが多いことが挙げられる。例えば米d-Matrix(dマトリックス)は異なるチップを組み合わせる「チップレット」技術を採用し、最先端GPUの40倍のメモリー帯域幅を実現した。 米ハーバード大学を中退した21歳のコンビが起業した米Etched.ai(エッチドAI)や、米Google(グーグル)で機械学習向けチップ「TPU(Tensor Processing Unit)」を担当していたエンジニアが創業した米Groq(グロック

                                                              胎動する「ポストGPU」、NVIDIAのボトルネック狙う米スタートアップの最終兵器
                                                            • 「Gaudi 3はNVIDIA GPUを超えるAI性能」とインテル鈴木会長。インテルAI Summit Japanレポート

                                                                「Gaudi 3はNVIDIA GPUを超えるAI性能」とインテル鈴木会長。インテルAI Summit Japanレポート
                                                              • NVIDIA、AIトレーニング用合成データ生成モデル「Nemotron-4 340B」を商用利用可でリリース

                                                                米NVIDIAは6月14日(現地時間)、LLMのトレーニング用オープン合成データ生成モデルシリーズ「Nemotron-4 340B」を発表した。独自のオープンモデルライセンス(PDF)の下、「あらゆる業界の商用アプリケーション向けLLM」のトレーニングに使うデータセットを合成できるとしている。つまり、商用利用も可能だ。 LLMの開発では、高品質で多様なデータセットでのトレーニングが不可欠だが、ネットなどから収集したデータには偏りや不正確なものが含まれる可能性があり、量にも限りがある。そのため、合成データの生成に注目が集まっている。 Nemotron-4 340Bには、合成データ生成のパイプラインを形成するbase、instruct、rewardの3つのモデルが含まれる。baseモデルは、9兆個のトークでトレーニングされたカスタマイズの基盤となるモデル。独自データを組み込むことで、このモデル

                                                                  NVIDIA、AIトレーニング用合成データ生成モデル「Nemotron-4 340B」を商用利用可でリリース
                                                                • NVIDIAの時価総額が世界一に。Microsoftを抜く

                                                                    NVIDIAの時価総額が世界一に。Microsoftを抜く
                                                                  • https://jp.wsj.com/articles/the-ai-revolution-is-already-losing-steam-64f8b4f4

                                                                    • 【Ubuntu日和】 【第54回】お手軽に画像生成するならこれ!Intel Arc A580の侮れない実力

                                                                        【Ubuntu日和】 【第54回】お手軽に画像生成するならこれ!Intel Arc A580の侮れない実力
                                                                      • 米司法省(DoJ)と米連邦取引委員会(FTC)は、Microsoft、OpenAI、NVIDIAに対する独占禁止法調査を開始

                                                                        米司法省(DoJ)と米連邦取引委員会(FTC)は、Microsoft、OpenAI、NVIDIAに対する独占禁止法調査を開始 米司法省(DoJ)と米連邦取引委員会(FTC)は、Microsoft、OpenAI、NVIDIAに対する独占禁止法調査を開始し、これらの大企業がAI業界に与える影響を調査する予定であると、米The New York Timesが6月5日(現地時間)、この件に詳しい匿名の関係者の話として報じた。 この3社は、AIブームの最大の勝者として注目されており、その優位性に疑問が生じているとNew York Timesは指摘する。 NVIDIAはMicrosoftやOpenAI、Amazon、xAI、SoftbankなどにAIチップを提供しており、同社の直近の業績発表によると、売上高は262%増の260億ドル超だった。同社の時価総額は5日、米Appleを抜いて世界第2位になった

                                                                          米司法省(DoJ)と米連邦取引委員会(FTC)は、Microsoft、OpenAI、NVIDIAに対する独占禁止法調査を開始
                                                                        • NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models

                                                                          NVIDIA today announced Nemotron-4 340B, a family of open models that developers can use to generate synthetic data for training large language models (LLMs) for commercial applications across healthcare, finance, manufacturing, retail and every other industry. High-quality training data plays a critical role in the performance, accuracy and quality of responses from a custom LLM — but robust datas

                                                                            NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models
                                                                          • 低価格ゲーミングPC自作の最適解が見えた!Ryzen 7 5700X3D/5700Xの10~13万円プランで徹底ベンチ 【第7戦】エントリー~ミドルGPUに3D V-Cacheは効くのか!? text by 芹澤 正芳

                                                                              低価格ゲーミングPC自作の最適解が見えた!Ryzen 7 5700X3D/5700Xの10~13万円プランで徹底ベンチ 【第7戦】エントリー~ミドルGPUに3D V-Cacheは効くのか!? text by 芹澤 正芳
                                                                            • NVIDIA製AI特化チップ「H100」を搭載したシステムがAI処理ベンチマーク「MLPerf Training 4.0」の9つのテストすべてでトップに

                                                                              複雑になりがちな機械学習のパフォーマンスを標準化するべく設計されたベンチマーク「MLPerf Training」のバージョン4.0が登場し、複数のハードウェアで実行されました。その結果、NVIDIAの高性能GPU「H100」を搭載したシステムが優れたスコアを示しました。 MLPerf Training Benchmark - 1910.01500v3.pdf (PDFファイル)https://arxiv.org/pdf/1910.01500 MLPerf Training Results Showcase Unprecedented Performance, Elasticity | NVIDIA Blog https://blogs.nvidia.com/blog/mlperf-training-benchmarks/ Nvidia Conquers Latest AI Tests​ -

                                                                                NVIDIA製AI特化チップ「H100」を搭載したシステムがAI処理ベンチマーク「MLPerf Training 4.0」の9つのテストすべてでトップに
                                                                              • 米FTCなど、NVIDIA・Microsoft・OpenAIへの独占禁止法調査準備 米報道 - 日本経済新聞

                                                                                【シリコンバレー=渡辺直樹】米司法省と米連邦取引委員会(FTC)がエヌビディア、マイクロソフト、オープンAIの人工知能(AI)主要3社に対し反トラスト法(独占禁止法)に抵触していないか調査の準備を始めたことが5日、明らかになった。米紙ニューヨーク・タイムズ(NYT)などが報じた。新興のAI関連企業が急拡大する中、監視を強める。NYTは関係者の話として、司法省がAI半導体大手のエヌビディアを、F

                                                                                  米FTCなど、NVIDIA・Microsoft・OpenAIへの独占禁止法調査準備 米報道 - 日本経済新聞
                                                                                • エヌビディア株のレバレッジ型ETF、株価急落前に記録的な資金流入

                                                                                  人工知能(AI)関連株ブームに乗るデイトレーダーにとって、毎週2桁のリターンを得られる賭けは他になかった。 これは、米半導体メーカー、エヌビディアの株価についてレバレッジを効かせた上場投資信託(ETF)「グラニトシェアーズ2倍ロングNVDA・デイリーETF」(ティッカー:NVDL)を指す。記録的な資金を注ぎ込んできた個人投資家は今では、同社の約4300億ドル(約68兆6300億円)に上る時価総額消失を受け、大きな損失に直面している。 エヌビディア株が調整局面入り、過去3営業日で時価総額68兆円消失 エヌビディア株の日次リターンの2倍を提供するNVDLには先週、記録的な7億4300万ドルの流入があった。投資家は「世界で最も重要な銘柄」とされるエヌビディア株から得られる利益の増幅を狙った。だがそのタイミングは悪かった。NVDLは18日終値から約25%下落している。年初来ではなお約329%上昇だ

                                                                                    エヌビディア株のレバレッジ型ETF、株価急落前に記録的な資金流入