はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ
OpenAIが高精度の音声認識・文字起こしを実現できるモデルであるWhisperを公開してから数年、Whisperを元にしたさまざまなツールが登場しました。今回紹介するWhisperLiveKitもそのひとつで、ローカルマシンで使える上に、より低遅延で話者認識にも対応していると謳っています。今回はそんなWhisperLiveKitをUbuntuマシンにインストールしてみましょう。 図1 このような長文でも、ほぼ誤認識することなく数秒遅れで認識してくれる WhisperLiveKitは低遅延な文字起こしツール たとえあなたが比類なきぼっちだったとしても、人間である以上は何らかのコミュニケーションから逃れられません。視覚を使うのか、聴覚なのか、それ以外か。会話重視なのか、それとも文字主体なのか。どのようなコミュニケーション手段を取るかはその人の特性次第な部分があります。この記事を読まれているの
バージョンについては2025年2月時点での数字です。UbuntuのシステムPythonの場合、同じリリースでもマイクロバージョン（X.Y.Zの「Z」の部分）についてはアップグレードされることがあります。 UbuntuではもともとPython 2を使っていました。その後、Python 3へと段階的に移行し、2017年10月にリリースされた17.10からデスクトップ版でもPython 2が標準ではインストールされなくなりました。それからもPython 2のパッケージ自体は存在したのですが、2024年4月の24.04までにPython 2関連パッケージはすべてインストールできないようになっています。 ちなみにリリースによっては、「複数のバージョンのPython」を提供していることもあります。たとえばUbuntu 22.04 LTSのシステムPythonのバージョンは3.10.6ですが、「py
Ubuntu Weekly Recipe 第880回GPUに画像の文字を解析させる、あるいはPyTorch入門 今回はAI文章画像解析エンジンであるYomiTokuを通じて、GPUメーカーごとに用意されているPyTorchのインストール方法を紹介します。 PyTorchとGPU PyTorchに関しては本連載でも何度となく登場しており、直近だと第877回でした。筆者も文字起こしをする必要がある場合には使用してみたくなりました。 PyTorchと何かというのは、gihyo.jpの記事「機械学習フレームワークPyTorch、Linux Foundationの傘下プロジェクトに」でも軽く紹介されています。元々はMetaのプロジェクトであったのが現在は独立していること、機械学習用のフレームワークでGPUアクセラレーション機能をサポートしていることがわかります。 GPUアクセラレーションはGPU
持ち運べる OpenStack 環境をつくる - NTT docomo Business Engineers' Blog
この記事は、NTT docomo Business Advent Calendar 2025 2 日目の記事です。 Android 15 から Android 端末上で Linux 環境を動かすことが可能になりました。せっかくなので、 OpenStack をインストールして VM を動かしてみました。 はじめに スマホの Linux 開発環境に SSH する 開発環境を探検する OpenStack のインストール方法について DevStack を実行して minimal な OpenStack 環境をつくる スマホ OpenStack に VM を建ててみる トラブルシューティング Linux 開発環境が落ちる VM が boot しない まとめ はじめに こんにちは。 Smart Data Platform (SDPF) クラウド/サーバー 仮想サーバーチームの杉浦 (@Kumassy_
目次 OpenID Connectとは 用語 OpenID Connectを試してみる OP側の準備 - AWS Cognito ユーザープールと最初のクライアントを作成する 作成されたパラメータを確認する ディスカバリ ユーザープールにユーザを追加する RP側の準備 - Pythonアプリ 実施 認証の流れ ログインする トークンをリフレッシュする トークンを失効させる ログアウトする IDトークンの形式 サンプルコード リンク OpenID Connectとは SSO(シングルサインオン)を実現するプロトコルのひとつです。 例えば、食べログ に Google アカウントでログインすることができますが、ここでも OpenID Connect が使用されています。 OIDC と略されることもあります。 類似の仕様に OpenID 2.0 がありましたが、OpenID 2.0 の進化系が O
gpt-ossモデルのサービングにおけるリクエスト処理性能評価 ― NVIDIA H100・A100・L4の比較 - ペパボ研究所ブログ
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。 2025年8月、OpenAIよりオープンウェイトモデルとしてgpt-ossが公開されました。 これらのモデルは、軽量ながら既存の強力なモデルに匹敵する性能を示しており、gpt-oss-120bはo4-miniと、gpt-oss-20bはo3-mini と同水準のベンチマーク結果を達成したと報告されています。 また、これらはApache 2.0ライセンスのもとで提供され、単一GPUで効率的な推論が可能である点が特徴として示されています。 こうした特性は、AI施策のコスト削減や適用範囲の拡大に寄与すると見込まれ、多くの組織で関心を集めていると想像されます。 一方で、サービス環境におけるこれらの言語モデルの導入には、モデルの出力精度や生成内容の妥当性だけでなく、サービング時のリクエスト処理性能が重要な要素
AI自作レビュー、「USBケーブルの種類を見分けるAIモデル」をトレーニングしてAIカメラを作ってみた【Raspberry Pi AI Camera】
2024年9月に登場した「Raspberry Pi AI Camera」は、カメラセンサー内にAI処理用のプロセッサを内蔵しており、カメラそのものにAIモデルを読み込ませてAIカメラとして使うことができます。ドキュメントも充実しており、比較的簡単にAIモデルを自作できそうだったので、実際に「USBケーブルの種類を見分けるAIモデル」をトレーニングして実行してみました。 Raspberry Pi AI Camera – Raspberry Pi https://www.raspberrypi.com/products/ai-camera/ Raspberry Pi -Ultralytics YOLO ドキュメント https://docs.ultralytics.com/ja/guides/raspberry-pi/ SONY IMX500 - Ultralytics YOLO Docs h
How to improve Python packaging, or why fourteen tools are at least tw
There is an area of Python that many developers have problems with. This is an area that has seen many different solutions pop up over the years, with many different opinions, wars, and attempts to solve it. Many have complained about the packaging ecosystem and tools making their lives harder. Many beginners are confused about virtual environments. But does it have to be this way? Are the current
公開日：2022年8月23日 最終更新日：2023年1月16日 はじめに 環境構築 実行方法 学習済みパラメーター「sd-v1-4.ckpt」のダウンロード リポジトリのクローン 「sd-v1-4.ckpt」の移動 いよいよ実行 結果 つづき 動作確認できたその他の環境 CUDA 11.3.1 1 2 CUDA 11.6.2 1 2 VRAM不足に直面したら 更新履歴（2022年10月11日） バージョン2.1 はじめに最近「DALL-E2」や「Midjourney」など文章から画像を生成するAIが流行っています。 その一つが今回紹介する「Stable Diffusion」です。 「Stable Diffusion」の特徴はオープンソースで公開されていることであり、ローカル環境で実行可能です。 もちろんWeb上で簡単に試すことも可能で、こちらにデモンストレーションが公開されています。 hu
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 個人的な話になるけど、20年前は Linux ばかり使っていた。当時は「ディストリビューションガー」「ウィンドウマネージャーガー」って言ってたけど、10年ぐらい前からMacを使い始め「全部Appleにお任せでいいんじゃね？」となってしまってからは、Linux や Ubuntu の事はすっかり頭から消えて無くなってしまっていた。 ところが最近、どうしても Linux を使わなきゃいけない事態が発生し、10年ぶりに Ubuntu を入れてみたら「あれ？Ubuntu もやっぱり楽しくない？」と思ってしまった。でもしばらく Mac OSX しか
1時間でAMD ROCm環境を構築してStableDiffusionを走らせてみた | DevelopersIO
ここ12年ほど、グラフィックスボードはRadeonを使い続けている水島が大阪よりお届けします。 AMD Radeonをこれでもかと推す内容となっておりますが、単に個人的な好みですのでご承知いただければ幸いです。 昨今世間を賑わわせているいくつかの画像生成AIですが、中でもStable Diffusionはオープンソースソフトウェアとして公開され、自分のマシンで実行できることが話題となりました。ローカルで実行できれば順番待ちも利用費も気にせず、リソースの限り好きなだけ試行できます。必要なのは時間と電気代と、そう、グラフィックスボードです。 幸い、高騰していたグラフィックスボードの価格も落ち着いてきておりますので、価格を理由に購入を見合わせていた方もそろそろ動き出す頃合いではないでしょうか。 用意するもの AMD Radeon グラフィックスボード ではまず、最新のROCmが動作するグラフィク
Ryeに見る自己完結型Pythonとライセンスの話 - techtekt（テックテクト） | パーソルキャリアのエンジニアブログ
目次 目次 はじめに 検証環境 pyenv + Poetryのインストールとプロジェクト作成 pyenvのインストール Poetryのインストール プロジェクト作成 Ryeのインストールとプロジェクト作成 インストール プロジェクト作成 pyenv環境とRye環境のPythonの挙動の違い readlineモジュール なぜRyeのPythonはlibeditを使用するのか pyenvよるPythonのインストール RyeによるPythonのインストール ライセンスの問題 ユーザへの影響 まとめ はじめに Pythonの開発において、pyenvによるバージョンの切り替えと、Poetryによるプロジェクト管理の組み合わせを使用されている方は多いかと思います。 そんな中、ワンストップなプロジェクト・パッケージ管理ツールとして近年登場し、話題となっているのがRyeです。 rye-up.com Ry
【備忘録】Ubuntu 24.04 で Python3.12 の Pip を利用する - Qiita
導入 Pythonの仕様の変更とOSのバージョンにより，これまでの pip3 install xxx のように Ubuntu で pip コマンドが使えなくなった．これによって，基本的に Python は venv の仮想環境下でのみの実行しか行えなくなっている．例えば，numpy をインストールしようと，以下のようにコマンドを実行するとエラーが出力される． $ pip3 install numpy error: externally-managed-environment × This environment is externally managed ╰─> To install Python packages system-wide, try apt install python3-xyz, where xyz is the package you are trying to ins
表に挙げているとおり、グラフィックボードはGeForce RTX 3060 AERO ITX 12G OCです。画像生成はVRAMの容量が命とっても過言ではないくらいで、8GB、12GB、16GBで生成できる画像の大きさに影響します。 筆者は5万円程度で購入しましたが、現在このモデルは入手困難なようです。後継となるとVRAMを16GB積んだGeForce RTX 4060Tiが対象になりますが、8万円前後となかなかに覚悟が必要な価格となっています[2]。 比較的安価なGeForce RTX 3060のVRAM12GBモデルにするか、あるいはさらに上のグレードにするかは、よくお財布と相談して決断してください。 ソフトウェア編 今回使用するUbuntuのバージョンは22.04 LTSとします。Stable Diffusion WebUIで使用するPythonのバージョンは3.10で、偶然（では
WSL2 の Ubuntu にデフォルトで入っているバージョン以外の Python を試したくなったので、複数バージョンを使えるようにする方法を調べてみました。 どうも、 Python では環境を管理するためにいろんな方法があるようで、このあたりの記事に表の形でよくまとまっていました。 Pythonの仮想環境構築 pyenv、pyenv-virtualenv、venv、Anaconda、Pipenv。私はPipenvを使う。 - Qiita ちなみに、 pyenv および venv についての説明はこちらの記事がわかりやすかったです。 似ているようで意外と違う。venvとpyenvの使い分け。 これらを読んでみたところ、 Python 自体のバージョンを切り替えるには、 pyenv を使うのがよさそうです。pyenv を使わない場合は、 OS 上に複数バージョンをインストールして、 alt
Ubuntu 24.04 開発・研究環境構築ガイド
【概要】本ガイドでは、Ubuntu 24.04 LTSにおける各種ソフトウェアのインストール手順を説明する。プログラミング環境（C/C++、Python、Java、R）、NVIDIA GPU環境（ドライバ、CUDA、cuDNN）、データベース（PostgreSQL）、人工知能・機械学習ライブラリ、3次元コンピュータグラフィックス・地理情報システム・メディア処理ツール、エディタ・統合開発環境などを扱う。 【この記事の対象読者】Ubuntu 24.04 LTS上で開発・研究を行いたい大学生や技術者。C/C++やPythonによるプログラミング、人工知能・機械学習、3次元コンピュータグラフィックス制作、データベース管理などの環境を構築したい人を対象としている。Windows 環境向けの情報は別ページ »で説明している。 【重要概念】 LTS (Long Term Support): 5年間のセキ
Pythonモジュール管理の新たな道具：pipxを使ってみた - とことんDevOps | 日本仮想化技術のDevOps技術情報メディア
Pythonには色々な便利なモジュールが存在します。中には単体で動くCLIツールなどもあったりします。 pipxは、Pythonで書かれたエンドユーザーアプリケーションのインストールと実行に役立つツールです。 macOSのbrew、JavaScriptのnpx、Linuxのaptやdnfに似たツールのようなものですね。 pipはPythonモジュールとCLIツールのインストールができるツールですが、pipの代わりにpipxを使えば、次のような利点があるので良い感じです。 pip listにインストールしたモジュールが表示されない インストールしないで実行（ワンタイム実行）もサポート 色々なPythonバージョンベースで実行 Git上のバイナリーを実行もサポート pipxはコマンドラインからアプリケーションとして直接実行できるPythonパッケージのインストールと管理に重点を置いているという
Press ← or → to navigate between chapters Press S or / to search in the book Press ? to show this help Press Esc to hide this help The PyO3 user guide Welcome to the PyO3 user guide! This book is a companion to PyO3's API docs. It contains examples and documentation to explain all of PyO3's use cases in detail. The rough order of material in this user guide is as follows: Getting started Wrapping
【画像生成AI】クラウド最安!? GPUSOROBANでStable Diffusion WebUIを動かす【￥50/1h】｜カガミカミ水鏡🔞
【画像生成AI】クラウド最安!? GPUSOROBANでStable Diffusion WebUIを動かす【￥50/1h】 なしてワイはRTX A4000を買ってしまったんや…… こんにちは、画像生成はローカル構築勢のカガミカミ水鏡です。 Stable Diffusion WebUI Automatic1111（以下A1111）を楽しむには主に、ローカル（自前のPCで動かす）とクラウド（GPUサーバを時間借りする）の２通りがあります。 ローカルは構築が比較的お手軽だけど初期費用に20万円前後かかるし（GeForce搭載のゲーミングPCを持っていない場合）、更に画像生成沼にドハマリし、より速い・より学習できる環境を求めて上位のGPUに買い替えすると更に10万円前後も追加費用が…… あっちなみに俺はRTX3060Ti(8GB) 👉 RTX3060(12GB) 👉 RTX A4000(16
自動売買bot「Freqtrade」で始める仮想通貨取引：特徴と活用法ガイド｜ユニコ🦄 AIエージェント開発 ＆ Obsidianの人
Freqtradeの概要と重要性Freqtradeとは？Freqtradeとは、仮想通貨の自動売買を行うためのオープンソースのトレードボットです。Pythonで開発された無料のツールであり、主要な暗号資産取引所（仮想通貨取引所）に対応しています。ユーザーは自分でサーバーやPC上に設置して動かすため、APIキーを外部サービスに預ける必要がなく、セキュリティ面でも安心です。Freqtradeは24時間365日市場を監視し、人間の介在なしに売買を実行できるため、手動取引では捉えきれないチャンスも逃しません。また、Telegramを介したリモート操作や通知、Web UI（FreqUI）による管理機能も備え、離れた場所からでもボットの状況確認や指示が可能です。 自動売買ボットの必要性と利点仮想通貨市場は昼夜を問わず動き続け、急激な価格変動が頻繁に起こります。こうした市場で利益を上げるには、素早い判断
Ubuntu でよく使うコマンドまとめ｜npaka
Ubuntu でよく使うコマンドをまとめました。 ・Ubuntu 22.04 1. バージョンの確認1-1. Ubuntuのバージョンlsb_release -aNo LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 22.04.5 LTS Release: 22.04 Codename: jammy1-2. CUDA Toolkit のバージョンCUDAアプリやライブラリをコンパイルするときに使用するライブラリのCUDAバージョン。 nvcc --versionnvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2024 NVIDIA Corporation Built on Thu_Mar_28_02:18:24_PDT_2024 Cu
Windows 11のWSL2（Ubuntu 22.04）でGPUを使う際にPyTorch, CuPy, TensorFlowを全て使おうと思ったら少し詰まった部分もあったのでメモとして残しておきます。 ※以下「WSL2」＝「WSL2にインストールしたUbuntu」です バージョン一覧（2023/7/7時点）Windows 11 22H2 WSL2 Ubuntu 22.04 Nvidia Driver 536.40 CUDA 11.7.1 cuDNN 8.6.0 (for CUDA 11.x) Python 3.11.4 PyTorch 2.0.1 CuPy 12.1.0 TensorFlow 2.13.0 Windows 11での設定それぞれの詳細は省略しますが、以下の設定を行います。 Enable NVIDIA CUDA on WSLが参考になります。 Nvidia Driverのイン
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ローカルLLMとRAGで自分の外部記憶を強化しよう - VA Linux エンジニアブログ
第877回 リアルタイム文字起こしをローカルマシンで実現できるWhisperLiveKitを使ってみよう | gihyo.jp
第850回 UbuntuにおけるシステムPythonと、Pythonの仮想環境を使い分ける方法 | gihyo.jp
第880回 GPUに画像の文字を解析させる、あるいはPyTorch入門 | gihyo.jp
とほほのOpenID Connect入門 - とほほのWWW入門
画像生成AI「Stable Diffusion」をローカル環境で実行する - パソコン関連もろもろ
UbuntuをMacOSXみたいにする話 - Qiita
第817回 参考書を片手にUbuntuでもStable Diffusion WebUIを動作させ、画像を生成する | gihyo.jp
WSL2 に pyenv + venv 環境を作ってみた - プログラマーのメモ書き
Introduction - PyO3 user guide
WSL2でGPUを使う（PyTorch, CuPy, TensorFlow）｜Koji Iino