ブラウザがGPUメモリを使いすぎるので、サブGPUのRTX3050を使わせる - きしだのHatena
30BくらいまでのLLMはRTX 4060 Ti 16GBを使っていろいろ試すわけですが、ブラウザが4GBくらいGPUを使ったりしていて結構こまりものでした。 で、年末にふとRTX 3050を買っていて、LLM読み込みであふれた分が3050にまわるようにしていました。 VRAMちょい足しにRTX 3050 6GBを追加してみる - きしだのHatena けど、よく考えるとブラウザにRTX 4060 Tiを使わせる理由があまりないので、RTX 3050を使わせるといいのでは、と設定をしてみました。 ブラウザは常駐でそこまでGPU性能を求めないのに常にGPUメモリを使ってるので。 「システム > ディスプレイ > グラフィック」で、「アプリケーションのカスタム設定」に「デスクトップアプリの追加」でFirefox.exeを追加して、「GPUのユーザー設定」をRTX 3050にします。 RTX 3
ジェンセン氏によると、NVIDIAの中国AI GPU市場シェアは95%からゼロに急落した。中国市場は以前はチップメーカーのデータセンター収益の20%から25%を占めていた。 - 自作ユーザーが解説するゲーミングPCガイド
その他 ジェンセン氏によると、NVIDIAの中国AI GPU市場シェアは95%からゼロに急落した。中国市場は以前はチップメーカーのデータセンター収益の20%から25%を占めていた。 10月6日に開催されたシタデル・セキュリティーズのイベントで講演したNVIDIAのCEOは、米国の輸出規制を非難し、同社は現在、予測の中で中国からの収入を想定していないと語った。 エヌビディア（NVIDIA）のジェンスン・フアンCEOは先週、米国の輸出規制が引き続き厳しくなる中、中国の先進AIアクセラレーター市場における同社のシェアが約95%からゼロに急落したと述べた。 この発言は、10月6日にニューヨークで開催されたシタデル・セキュリティーズ主催の「Future of Global Markets 2025」イベントでのライブインタビューの中で行われた。 フアンCEOは「現時点では、中国市場から完全に撤退して
第883回 Minisforum AI X1 PROでLLMを高速に動作させる | gihyo.jp
今回はベアボーンのMinisforum AI X1 PROにUbuntu 24.04.3をインストールし、さらにROCm 6.4.4とllama.cppを組み合わせてLLMを高速に動作させます。 ミニPCでLLM 筆者はこれまで、主にディスクリートGPU（グラフィックボード、以下dGPU）でLLMを動作させていましたが、昨今はミニPCで使用することも当たり前になりました。ミニPCとなれば当然統合GPU（CPU/SoCに内蔵しているGPU、以下iGPU）です。Ryzen AI Max 300シリーズが性能としては最高峰で、GMKtek EVO-X2やMinisforum MS-S1 MAXなど各社から搭載PCが発売されていますが、価格が高いのでなかなか手が出ません。 性能は1ランク落ちるものの、Ryzen AI 300シリーズ搭載であればベアボーンモデルもあるAI X1 PROであれば、まだ
NVIDIAとIntelがまさかの協業！ Intelに約7368億円を投資して，RTX GPUを統合したx86 SoCをPC市場向けに提供するとのこと
NVIDIAとIntelがまさかの協業！ Intelに約7368億円を投資して，RTX GPUを統合したx86 SoCをPC市場向けに提供するとのこと 編集部：小西利明 米国時間2025年9月18日，IntelとNVIDIAは，NVIDIAがIntelに対して，普通株式50億ドル分（約7368億円）を投資すると発表した。 両社は，データセンターおよびPCクライアント分野の製品開発で協業し，NVIDIAのプロセッサ間接続技術「NV Link」を用いて，Intel製CPUとNVIDIA製GPUをシームレスに接続することも明らかにしている。 これによりIntelは，NVIDIAのRTX GPUを統合したSoC（System-on-a-Chip）を開発してPC市場に提供することと，x86 CPUのNVIDIA向けカスタム版を，AIデータセンター向けのNVIDIAプラットフォームに統合して提供すると
GPUメモリ4GBあればGPT-oss 20Bが14tok/secで動く - きしだのHatena
llama.cppにMoEに適したCPU/GPUの振り分けのオプションが入って、LM Studioでもそのオプションに対応したことによって、MoEモデルであるGPT-ossが少ないGPUメモリでもそれなりに動くようになりました。拡大するとわかりますが、LM Studioの右下の表示によると、メインメモリは12GBくらい使います。 14tok/sec出ています。 CPUだけで動かすと10tok/secだったので、5割マシですね。 0.3.23.0に「Force Model Expert weight onto CPU」というスイッチが入っているので、これをOnにするとExpertのウェイトがすべてCPUに乗るようになります。アテンションはGPUで。 詳しくはリリースノートにありますが、llama.cppの--n-cpu-moeの仕組みを使ってるとのこと。 https://lmstudio.a
俺の128GB MacBook Proが真価を発揮する時がきた。ChatGPT o4-mini並みのgpt-oss-120bがローカルで動いてるよ（CloseBox） | テクノエッジ TechnoEdge
やってきましたね。PCユーザーたちがMacユーザーを羨望の眼差しで見るときが。 OpenAIが公開したChatGPTのオープンソース版「gpt-oss」。その2つのモデルであるgpt-oss-20bとgpt-oss-120bは、それぞれ16GB以上、80GB以上のVRAMを持つプロセッサが必要です。 下位モデルのgpt-oss-20bはChatGPT o3-miniと、上位のgpt-oss-120bはo4-miniと同等の結果を出すとしています。 つまり、世界で最も使われているLLMの、実力的にも十分なモデルが、ローカルマシンで動くのです。 しかし、推論には高性能なGPUが必要。16GB以上のVRAMを持つGPUならNVIDIA製ボードがいくらでもありますが、120bを動かせる80GB以上のVRAMを積んだGPUは、現行モデルでなくても数百万円はしますし、そもそも希少なものなので手に入れる
GeForce GTX 1080 Tiさん、GeForce RTX 5050に負ける。オーバークロックしても勝てない | ニッチなPCゲーマーの環境構築Z
GeForce GTX 1080 Tiというと、発売された当時はGTX 1000シリーズ / Pascal世代のハイエンドグラボで、あこがれの一品でした。そんなGeForce GTX 1080 Tiさんですが、GeForce RTX 5000シリーズの最下位モデルGeForce RTX 5050にも、もう勝てなくなってきています。 YouTubeチャンネルのTrashBenchがGeForce GTX 1080 TiとGeForce RTX 5050のベンチマーク対決を行った結果が以下。まずはデフォルトクロックから。 GTX 1080 Ti vs. RTX 5050 デフォルトクロック GeForce RTX 5050は1440p環境において、Time Spyが9917ポイント、アサシンクリードヴァルハラが平均82 fps、Red Dead Redemption 2が平均72 fps、サイ
ChatGPTの新画像生成、利用急増で無料ユーザー向け延期 「GPUが溶けてる」とCEO
「残念ながら、無料レベルへの展開はしばらく遅れます」──米OpenAIのサム・アルトマンCEOは3月26日（現地時間）、前日発表した「ChatGPT」の新たな画像生成機能について、Xでそう発表した。予想をはるかに上回る人気で、「GPUが溶けている」という。 同氏は別の投稿で、「効率化に取り組む間、一時的にレート制限を導入する予定」で、無料ユーザー向けは提供を開始しても画像を生成できるのは「1日当たり3回」になると説明した。 アルトマン氏は現在、自分のXのプロフィール画像をアニメ風なものに変えている。 この機能のデモ動画では、写真に「アニメ調にして」というプロンプトを添えた結果を紹介している。アルトマン氏のプロフィールも、このデモで生成された画像も、少し“ジブリ風”（スタジオジブリ作品のよう）だ。 その後、Xには「Ghibli Syle」（ジブリ風）と指定したアニメ風画像が溢れた。 Open
NVIDIA、GPUクラスタ最適化で「DeepSeek-R1のスループット30倍」 オープンソースで提供
米NVIDIAは3月18日（現地時間）、年次イベント「GTC 2025」で、大規模言語モデル（LLM）の推論を最適化するオープンソースソフトウェア「NVIDIA Dynamo」を発表した。GPU群における処理の割り当てを最適化。計算を最小限に抑え、電力当たりの応答速度や処理能力を向上させるという。
GPUが1枚でもローカルで高速にLLM評価を回したい！
前回の記事で、Command R+（CR+）のようなモデルはまあ4bit程度までは量子化しても実用的に問題なさそうだという事が分かった。 では、今回はいよいよローカルのCR+でElyzaTasks100の採点をさせまくろう！と言いたいところだが、だがちょっと待ってほしい。 …実は、あの後「もしかしたらCR+よりもLlama3-70Bの方が日本語能力高かったりして…」と考えて、LLama3の8Bモデルと70BモデルにElyzaTasks100を解かせていつも通りCR+に自動評価させてみた。 その結果がこれである。 な、なんと、Llama3-70BはCommand R+を上回るスコアを獲得している！つまり、Llama3-70Bの日本語での能力はCommand R+を上回ってる可能性が高い！ Llama3をHuggingChatで触った時、なんか日本語で訊いても英語で返ってきたりするから、てっき
小4息子が「自作PCを作りたい」と言ってるけど、合計10万以上するので悩む親御さん→将来有望すぎる息子さんを後押しするアドバイスが多数寄せられる
みぃの @rpOxxcdJ4J50668 息子が自作PCを作りたいと必要な物をパソコンで書き出してくれたんだけど、合計10万円以上する…😱 お小遣いは小4だから月400円。 お風呂掃除は毎日やってくれているし、洗面台洗ってくれたら20円として、毎日してくれれば、月600円で、合わせて月1000円かぁ…。 イイネの数だけ家計から出すか🤣 pic.x.com/LtvMkHhnB7 2025-02-10 20:07:33 ƺㄋƺㄋねʓ®(;👁🐽👁〆;)🐇🐹🐕 @tfTXqXcZPlBHLlT @rpOxxcdJ4J50668 CPU intel core i7-12700 26500円 CPU Arctic Silver 5/JP-DX1 1182円 asus prime b760m-a wifi d4 12980 M.2 内臓SSD 500GB 5980 DDR4-3200 8
西川善司の3DGE：GeForce RTX 50完全解説前編 Blackwell世代の構造とレイトレーシングにおける革新
西川善司の3DGE：GeForce RTX 50完全解説前編 Blackwell世代の構造とレイトレーシングにおける革新 ライター：西川善司 GeForce RTX 50シリーズの登場によって，3年ぶりにGeForce RTXシリーズのアーキテクチャが刷新された。 先代アーキテクチャの名称（および開発コードネーム）は「Ada Lovelace」（エイダ・ラブレス，以下 Ada）。一方，GeForce RTX 50シリーズのアーキテクチャ名は，「Blackwell」（ブラックウェル）となった。Blackwellとは，確率論やゲーム理論などで大きな実績を上げた統計学者兼数学者のDavid Blackwell氏にちなんだ命名だ。 余談だが，GeForce RTX 30シリーズの「Ampere」（アンペア）以前は，物理学者からの引用が多かったが，ここ2世代はソフトウェア寄りの学者からの引用となって
両手に収まる小さなPCにUSB4とOCuLinkで外付けGPUをつないでみた 「AYANEO AG01 Starship Graphics」の性能をじっくり検証
「ポータブルゲーミングPCやミニPCを買ったはいいが、自宅でゲームをするにはスペック不足が否めない」──そんなお悩みを持っている方はいるだろうか。 「通常のデスクトップPCと違って、グラフィックスカードを載せ替えるわけにもいかないし……」と思ってしまうところだが、そんなお悩みを解決してくれるのが、外付けGPUボックス（eGPU）だ。 前回、中国AYANEOが発売した「AYANEO AG01 Starship Graphics Dock」（以下、AG01）を紹介したが、今回は実際にポータブルゲーミングPCと接続し、どれだけパフォーマンスを上げられるか検証していきたい。 →・赤い宇宙船で3倍速い!? eGPU「AYANEO AG01 Starship Graphics」をポータブルゲーミングPCと接続した 2つの接続方式、2つのTGPを切り替えられるAG01 AG01は、ホスト（グラフィック性
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【西川和久の不定期コラム】 やってしまった。職人にお願いして「GeForce RTX 4090」を48GBへ魔改造！
【西川和久の不定期コラム】 Ryzen AI Max+ 395を「ビデオメモリ128GB積んだ鬼GPU」にしてしまう方法
ノートPCでも128BのLLMが動く。そう、Ryzen AI Maxとメモリ128GBならね
オープンＡＩ、グーグル半導体を使用 初の非エヌビディア製か
【Hothotレビュー】 みんなが欲しているVRAM 16GBを349ドルで。AMD渾身のミドルレンジ「Radeon RX 9060 XT」
もう十分働いた。今後CUDAツールキットからGeForce GTX 900/10などが非推奨に
【特集】 GeForce RTX 50シリーズと従来のGeForce RTX 40を仕様比較
