eGPUを活用して余っているミニPCをGPUサーバー2ndとして復活させる(GPUクラスター構築計画：第一弾) - Qiita
この記事はFUJITSU Advent Calendar 12日目の記事です。 事の顛末 筆者はかつてIntel NUCとRayzer製のGPUボックス(Core X)を活用してLinuxデスクトップマシンを構築しました。その顛末は以下の2報の記事として投稿しています。執筆当時は低消費電力GPUサーバーをモットーに構築しました。 しかし、GPUとの接続がThunderbolt3と言うこともあり、実際のGPUの演算速度の8割(PCIExpress x8相当)ぐらいのスピードしか出ないことが分かりました。当時のハイエンドビデオカードGeforce RTX 2080 Superをわざわざ演算速度を下げて使うのは正直勿体無い使い方であり、加えてIntel NUCが低消費電力版Core i7 8559Uということもあり、その後Core i9 10900K搭載のデスクトップPCをパソコン工房のバーゲン
Kubernetes入門
Kubernetesがますます普及して、アプリケーション開発者でもKubernetesの使用者として最低限の知識が必要になってきました。 しかし、Kubernetesはすべてのコンポーネントの役割や細かい設定をすべて網羅するにはかなり勉強のコストがかかってしまいます。アプリケーション開発者は、Kubernetesを完全にマスターすることが必須ではありませんが、基本的な知識や便利なコマンドなどを習得することで、効率よくアプリケーション開発を行うことができるようになります。 このコースでは、実践的な内容を中心としているので、Kubernetesの基本的なイメージを説明してから、 kubectl (cli)のインストールと基本的な操作方法 アプリケーションのデプロイを通じてKubernetesのリソースを学習 よく使うDebugの方法 EKS(マネージドクラスタ)のセットアップ CI/CDとKu
【ローカルLLM】大規模言語モデルAIのあまりの遅さについカッとなってノートPCにGPUを追加する
「ChatGPT」が世界を席巻するなか、大規模言語モデル（LLM）について相談を受けるようになりました。企業のAI利用ニーズとしてよくある「独自データにより追加学習させたい」という話しをしていると、手元でも試してみたい衝動にかられ、「ファインチューニング」と呼ばれる追加で学習する手法を手元で動かしてみました。 今回、Pythonなどのプログラムを１行たりとも書いていませんので（笑）、「大規模言語モデル（LLM）に興味はあるけどプログラミングはよくわからない」「ごく普通のパソコンしか持ってない」という人の参考になるかと思い、作業メモを書き残します。 いろいろと迷走しますが、最終的に追加投入した費用は「１０万円」です。 LLMやファインチューニングなどを試したいが、コードは書きたくない諸兄へ LLMというと多くの解説記事は「Google Colab」などのクラウドサービスを利用して、Pytho
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
