中国が高性能チップをAI搭載兵器やサイバー攻撃ツールなどに軍事転用することへの懸念から、アメリカ政府はNVIDIAなどの半導体メーカーに対し、中国への高性能チップ輸出を規制しています。しかし、中国国内の一部の研究機関や大学では、NVIDIA製チップが搭載されたDellやGigabyte、Supermicro製のサーバーを再販業者から仕入れることでこの規制を回避していることが指摘されています。 China acquired recently banned Nvidia chips in Super Micro, Dell servers, tenders show | Reuters https://www.reuters.com/world/china/china-acquired-recently-banned-nvidia-chips-super-micro-dell-servers-
もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。 対象読者NVIDIAが絶対にいいという人はこの記事の対象読者ではありません。また、用途によって、ローカルマシンによるローカルLLMが向いてる・向いてないは明確にあるので、向いてない用途にしか使わない人も対象読者ではありません。あしからず。 また、この記事は別にNVIDIAをdisる意図はありません。みんな違っていい。NVIDIAもいい選択肢ですが、Mac Studioも悪くないですよ、と言いたい。 結論LLMプロダクト開発において、今年はもはやローカルLLMを無視できない、してはいけない状況です。 LLMプロダクト開発をする会社の視点でいえば、是非とも80GB以上の十分なGPUメモリを積んだマシンを用意できるようなアジリティを持つのが望まし
最近オープンになる大規模言語モデル(LLM)が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です 話題の、Command-r-Plusは、日本語性能について評価が高く、一部の性能はGPT-4並みと言われますが、さすがに大型で104Bパラメータもあるため、4bitに量子化しても60GB程度のVRAMが必要となります。 コンシューマークラスのGPUの最高峰、RTX4090は、VRAM24GBのため、command-r-plusをすべてGPUに載せて推論しようと考えると、3台のマルチGPUデスクトップが必要です しかし、RTX4090は450W消費のGPUのため冷却機構が大きく、1デスクトップに3台収めるのは至難の業となります。 先日、水冷ラジエーター付きRTX4090で、マルチGPUデスクトップを作成しました。 水冷
外付けGPU「ONEXGPU」でビジネスノートPCをパワーアップしてみた オンライン会議における“もっさり”の解決策になる?(1/5 ページ) リモートワークで会社から貸与されたノートPCを使っている人の中には、その性能に不満を感じている人も多いのではないだろうか。例えば、作業効率アップのために外部ディスプレイを接続する場合もあるだろう。しかし、高解像度ディスプレイやマルチディスプレイの環境だと、メモリ不足などで極端に動作が重くなる場合もある。 とはいえ、現代のノートPCの多くは物理的にメモリの増設ができず、そもそも内部のパーツ追加や交換を会社が認めていない場合がほとんどだろう。 しかし、本記事で紹介する外付けGPU(eGPU)「ONEXGPU」を使えば、そんな会社のPCでもパワーアップさせられるかもしれない。 「会社のPCの動作が遅い……」 筆者が働いている会社から貸与されているのは、典
NVIDIAが、GPU向けのコンピューティングプラットフォームとして提供している「CUDA」のソフトウェア利用許諾契約(EULA)の中で、翻訳レイヤーを通じてNVIDIA以外のハードウェアプラットフォームで実行することを禁止していることがわかりました。もともとこの条項はNVIDIAのサイト上で公開されているオンライン版のEULAには含まれていましたが、インストールしたCUDAのドキュメントにも含まれるようになったとのことです。 License Agreement for NVIDIA Software Development Kits — EULA https://docs.nvidia.com/cuda/eula/index.html Nvidia bans using translation layers for CUDA software — previously the prohi
AMDのAthlonやZenマイクロアーキテクチャ、Apple A4などさまざまなチップの開発に携わったアーキテクトでエンジニアのジム・ケラー氏が、X(旧Twitter)で「NVIDIAのCUDAは沼です」と批判したことが報じられています。 Jim Keller criticizes Nvidia's CUDA, x86 — 'Cuda’s a swamp, not a moat. x86 was a swamp too' | Tom's Hardware https://www.tomshardware.com/tech-industry/artificial-intelligence/jim-keller-criticizes-nvidias-cuda-and-x86-cudas-a-swamp-not-a-moat-x86-was-a-swamp-too ケラー氏の経歴は以下の記事を
中国への輸出規制に準拠する中国専用のRTX 4090相当品「RTX 4090 D」をNVIDIAが発表しました。価格はRTX 4090と同じですが、CUDAコアとTensorコア数が少なくなっています。 Nvidia launches China-specific RTX 4090D Dragon GPU, sanctions-compliant model has fewer cores and lower power draw | Tom's Hardware https://www.tomshardware.com/pc-components/gpus/nvidia-launches-china-specific-rtx-4090d-dragon-gpu-sanctions-compliant-model-has-fewer-cores-and-lower-power-draw NV
2024年06月25日00:00 (注:商品価格は執筆当時のものです。販売ページリンクにはアフィリエイトを含みます) 【2024年】おすすめグラボまとめ。価格・性能比較で選ぶ。【RTX 40, RX 7000各種に対応】 wisteriear コメント(0) タグ :#おすすめグラボ#できる!自作PC#グラボ_レビュー スポンサードリンク グラフィックボードの買い替えや初めてのグラボ購入を検討しているユーザー向けに、100台以上のグラフィックボードを検証・レビューしてきた経験から、2024年最新のグラフィックボード事情、グラボ選びの基本、GPU性能比較などについて説明し、おすすめのグラフィックボード(グラボ・ビデオカード)を紹介していきます。 性能や価格の比較から、NVIDIA最新世代のGeForce RTX 40シリーズ(4090、4080、4070/Ti、4060/Ti)、AMD Ra
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く