はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ
次期最強GPU｢RTX 5090｣が、いろいろとヤバそうな件について2024.07.23 08:00121,252 武者良太 グラフィックの処理能力がヤバそう。そして価格も。 2024年末から2025年の3月までに、Nvidia（エヌビディア）の新しいGPU｢GeForce RTX 50｣シリーズが発売されるだろうというリーク情報が増えてきました。Dexertoの記事によれば、最初にリリースされるのはRTX 5090だ、いやRTX 5080だと、リーカーによって予想が異なっていますが、2022年のRTX 40シリーズ同様、まずはハイエンド寄りのモデルから発売するという流れは変わらないみたい。 ともあれ生成AIトレンドとともに重視されているNPUではなく、純粋なGPUの最新型となるRTX 50シリーズのなかでも頂点となるRTX 5090に期待している方も多いでしょう。いったいどんな性能を持っ
米NVIDIAは7月17日（現地時間）、「NVIDIA Transitions Fully Towards Open-Source GPU Kernel Modules」と題したブログ記事を公開し、GPUのカーネルドライバモジュールを完全にオープンソース化していくと発表した。 NVIDIAが方針転換、カーネルドライバモジュールをオープンソース化へ NVIDIAは2022年にもLinux向けのGPUカーネルモジュール（バージョンR515）をオープンソースとしてリリースしており、データセンター向けの一部GPUで利用できた。しかし今回、R560をベースにした最新ドライバのリリースからオープンソースGPUカーネルモジュールへの完全移行していくと発表。テストではクローズドソースのドライバと同等以上のパフォーマンスを発揮できたとしており、NVIDIAは随時オープンソースのGPUカーネルモジュールに切り
アメリカ政府は中国に対する高性能半導体の輸出を厳しく制限しており、NVIDIAなどの半導体企業は輸出規制に抵触しない程度の性能の半導体を製造して中国への輸出を続けています。そんな中、NVIDIAが中国市場向けに「B20」と呼ばれる新しいフラッグシップAIチップを開発中であることが報じられています。 Exclusive: Nvidia preparing version of new flagship AI chip for Chinese market | Reuters https://www.reuters.com/technology/nvidia-preparing-version-new-flaghip-ai-chip-chinese-market-sources-say-2024-07-22/ Nvidia said to be prepping Blackwell GPUs
｢うちのゲーミングPCちゃんと動いてる？｣を確認できる無料アプリ2024.07.22 14:0024,612 David Nield - Gizmodo US ［原文］ （ 福田ミホ ） FPSからCPU・GPUのクロック周波数、ファンの回転速度などなどなど。 大枚はたいたゲーミングPCなら、その分ちゃんとパフォーマンス出てる？と確認したくなりますよね。幸い、それができる無料のソフトウェアがたくさん出ています。 こういう監視アプリでは、システム内のいろんな稼働状況から、1秒あたりの画面フレーム数まで、さまざまなデータが確認できます。それぞれ見られるデータや見せ方に違いがあるので、複数組み合わせてみるといいかもしれません。 コンピューターの性能を見るという点では、デバイスに負荷をかけて他のデバイスと比較するベンチマークアプリも監視アプリと関連はありますが、基本的には別物です。ここでご紹介する
ニデックは2024年秋にも中国やフィリピンで生成AI（人工知能）サーバー用の冷却装置の部品生産を始める。タイの工場で冷却装置の組み立て能力を増強しているが、合わせて中国のグループ工場などに数十億円を投資して部品の内製化を進める。生成AI関連を新たな収益源に育てる狙いだ。生成AIサービスを運用するサーバーは、中核部品の画像処理半導体（GPU）の温度がセ氏100度に近づく場合があるなど大量のデータ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ローカルLLMとRAGで自分の外部記憶を強化しよう - VA Linux エンジニアブログ
次期最強GPU｢RTX 5090｣が、いろいろとヤバそうな件について
NVIDIAが方針転換、カーネルドライバモジュールをオープンソース化へ
NVIDIAがアメリカの輸出規制に対応した中国向けの新しいフラグシップAIチップ「B20」を開発中との報道
｢うちのゲーミングPCちゃんと動いてる？｣を確認できる無料アプリ
ニデック､生成AIサーバー冷却装置の部品生産 中国などで - 日本経済新聞