はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ
バージョンについては2025年2月時点での数字です。UbuntuのシステムPythonの場合、同じリリースでもマイクロバージョン（X.Y.Zの「Z」の部分）についてはアップグレードされることがあります。 UbuntuではもともとPython 2を使っていました。その後、Python 3へと段階的に移行し、2017年10月にリリースされた17.10からデスクトップ版でもPython 2が標準ではインストールされなくなりました。それからもPython 2のパッケージ自体は存在したのですが、2024年4月の24.04までにPython 2関連パッケージはすべてインストールできないようになっています。 ちなみにリリースによっては、「複数のバージョンのPython」を提供していることもあります。たとえばUbuntu 22.04 LTSのシステムPythonのバージョンは3.10.6ですが、「py
目次 OpenID Connectとは 用語 OpenID Connectを試してみる OP側の準備 - AWS Cognito ユーザープールと最初のクライアントを作成する 作成されたパラメータを確認する ディスカバリ ユーザープールにユーザを追加する RP側の準備 - Pythonアプリ 実施 認証の流れ ログインする トークンをリフレッシュする トークンを失効させる ログアウトする IDトークンの形式 サンプルコード リンク OpenID Connectとは SSO(シングルサインオン)を実現するプロトコルのひとつです。 例えば、食べログ に Google アカウントでログインすることができますが、ここでも OpenID Connect が使用されています。 OIDC と略されることもあります。 類似の仕様に OpenID 2.0 がありましたが、OpenID 2.0 の進化系が O
How to improve Python packaging, or why fourteen tools are at least tw
There is an area of Python that many developers have problems with. This is an area that has seen many different solutions pop up over the years, with many different opinions, wars, and attempts to solve it. Many have complained about the packaging ecosystem and tools making their lives harder. Many beginners are confused about virtual environments. But does it have to be this way? Are the current
UbuntuサーバーのインストールISOイメージは、デスクトップ版と同じようにLive環境が備わっています。たとえば何かトラブルがあった時、デスクトップを起動するほどのスペックがないマシンに対してLive環境でリカバリーを試みる際に有効です。起動後は普通のUbuntuであるため、メモリの容量が許せば、aptコマンドなどで追加のインストールも可能になります。ただ、ネットワークの都合で、起動の時点でインストールされていたほうが良い場合も多々あります。そこで今回はこのLive環境をカスタマイズしたISOイメージの作成方法を紹介しましょう。 図1 UbuntuサーバーのLive環境 UbuntuサーバーのISOイメージ Ubuntuは18.04ぐらいから、本格的にサーバー版のインストーラーが刷新されました。第495回でも紹介しているように、これは「Subiquity」というソフトウェアを採用してい
初心者でもできる！HuggingFaceモデルをGGUF形式に変換しOllamaで使う手順 - uepon日々の備忘録
最近、AIのことは一応触ってはいますが、ちっともわからない状況です🫠 先日までOllamaを使用していたのでローカルLLMについてはなんとなく分かってきた様でもありという状況ですが、OllamaはGGUF形式のモデルが使えるとはいえ、すべてのモデルがGUFF形式で公開されているというわけはありません。 リポジトリ内には拡張子が無いモデルのファイルがあって…これ何？って感じです。なんとなく分かってきたのはHuggingFaceにで公開されているモデルはHFって呼ばれるモデルのようですが…。どこかに名言されてるんでしょうか🙇 ということで、HuggingFaceに公開されているHFモデルをなんとかしてOllamaでも使用可能なGGUF形式に変換できないかという内容でチャレンジしてみたいと思います。 （2024.09.11）Ollamaに作成したGGUF形式のモデルをpullする方法のリンク
公開日：2022年8月23日 最終更新日：2023年1月16日 はじめに 環境構築 実行方法 学習済みパラメーター「sd-v1-4.ckpt」のダウンロード リポジトリのクローン 「sd-v1-4.ckpt」の移動 いよいよ実行 結果 つづき 動作確認できたその他の環境 CUDA 11.3.1 1 2 CUDA 11.6.2 1 2 VRAM不足に直面したら 更新履歴（2022年10月11日） バージョン2.1 はじめに最近「DALL-E2」や「Midjourney」など文章から画像を生成するAIが流行っています。 その一つが今回紹介する「Stable Diffusion」です。 「Stable Diffusion」の特徴はオープンソースで公開されていることであり、ローカル環境で実行可能です。 もちろんWeb上で簡単に試すことも可能で、こちらにデモンストレーションが公開されています。 hu
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 個人的な話になるけど、20年前は Linux ばかり使っていた。当時は「ディストリビューションガー」「ウィンドウマネージャーガー」って言ってたけど、10年ぐらい前からMacを使い始め「全部Appleにお任せでいいんじゃね？」となってしまってからは、Linux や Ubuntu の事はすっかり頭から消えて無くなってしまっていた。 ところが最近、どうしても Linux を使わなきゃいけない事態が発生し、10年ぶりに Ubuntu を入れてみたら「あれ？Ubuntu もやっぱり楽しくない？」と思ってしまった。でもしばらく Mac OSX しか
使用するグラフィックボードはMSI GeForce RTX™ 3050 LP 6Gと玄人志向 RD-RX6400-E4GB/LPです。 グラフィックボードは高価なものでなくてもいいのですが、CPUに関してはそれなりのものでないと待ち時間が長くなります。今回使用したRyzen 7 5700Xは価格と性能のバランスが取れているように感じました。 SSDは検証機の都合でSATA接続のものにしましたが、大きなモデルはファイルサイズも大きいので、可能な限り高速のSSDにすると読み込み時間が大幅に短縮されるのでおすすめです。 ランタイムの準備 llama.cppのビルドに取りかかる前に、GPUごとのランタイムを準備します。 NVIDIAの場合 NVIDIAのGPUを使用している場合は、プロプライエタリなドライバーのインストールは必須です。インストールされているか確認しましょう（図1）。 図1 「
1時間でAMD ROCm環境を構築してStableDiffusionを走らせてみた | DevelopersIO
ここ12年ほど、グラフィックスボードはRadeonを使い続けている水島が大阪よりお届けします。 AMD Radeonをこれでもかと推す内容となっておりますが、単に個人的な好みですのでご承知いただければ幸いです。 昨今世間を賑わわせているいくつかの画像生成AIですが、中でもStable Diffusionはオープンソースソフトウェアとして公開され、自分のマシンで実行できることが話題となりました。ローカルで実行できれば順番待ちも利用費も気にせず、リソースの限り好きなだけ試行できます。必要なのは時間と電気代と、そう、グラフィックスボードです。 幸い、高騰していたグラフィックスボードの価格も落ち着いてきておりますので、価格を理由に購入を見合わせていた方もそろそろ動き出す頃合いではないでしょうか。 用意するもの AMD Radeon グラフィックスボード ではまず、最新のROCmが動作するグラフィク
概要 WSLにて現在実行しているものを一覧出力 WSLにて特定のイメージをインポートする 作った仮想マシンを停止したい場合 作った仮想マシンを削除したい場合 作った仮想マシンをエクスポートしたい場合 WSLが利用するメモリ量を制限したい場合 一般ユーザの作成 仮想マシンに特定のユーザでログインする ロケールを調整する C言語の環境を作る Pythonの環境を作る Goの環境を作る dotnetの環境を作る Java の環境を作る JavaでSpring Bootの環境を作る Flutterの環境を作る 補足 PowerShell (pwsh) の環境を作る 参考資料 概要 最近は、docker とかで環境構築したりするのがデフォルトになっているかもしれませんが、WSL2とVSCodeの組み合わせもとても便利なので、個人的にはよく利用しています。 WSL関連の記事を見ていると、大抵ストアから
Windows10でWindows Terminalを設定し、AWS CLIv2をインストールするまでの手順を公開します。 DA事業本部コンサルティングチームのnkhrです。入社して新しいPCの設定を行ったので、手順を公開します。 Windowsでの開発環境設定は、Microsoft公式ドキュメントに役割ごとの開発環境マニュアルがあるので参考になると思います。 このブログでは以下の設定を記載しています。 Windows Terminal設定 PowerShell7のインストール TerminalでのPowerShellの外観カスタマイズ (PowerLineの設定) WSL (Ubuntu)のインストール Pipenvの設定 (Pythonのパッケージ管理・仮想環境管理ライブラリ) vim for windowsのインストール AWS CLIのインストールと設定 Windows Termi
表に挙げているとおり、グラフィックボードはGeForce RTX 3060 AERO ITX 12G OCです。画像生成はVRAMの容量が命とっても過言ではないくらいで、8GB、12GB、16GBで生成できる画像の大きさに影響します。 筆者は5万円程度で購入しましたが、現在このモデルは入手困難なようです。後継となるとVRAMを16GB積んだGeForce RTX 4060Tiが対象になりますが、8万円前後となかなかに覚悟が必要な価格となっています[2]。 比較的安価なGeForce RTX 3060のVRAM12GBモデルにするか、あるいはさらに上のグレードにするかは、よくお財布と相談して決断してください。 ソフトウェア編 今回使用するUbuntuのバージョンは22.04 LTSとします。Stable Diffusion WebUIで使用するPythonのバージョンは3.10で、偶然（では
distroless imageを実用する
distroless image distrolessは、Googleが提供している、本当に必要な依存のみが含まれているcontainer imageです。そこにはaptはおろかshellも含まれておらず、非常にサイズの小さいimageとなっています。余計なプログラムが含まれていないことは attack surfaceの縮小にも繋がり、コンテナのセキュリティについての事業を展開しているSysdig社が公開しているDockerfileのベストプラクティスとしてもdistroless imageを使うことが推奨されています。 また先日、inductorさんがこのようなブログ記事を書き話題になりました。この記事からdistroless imageのことを知った方も多いと思います。その中で僕が趣味で作った distroless-ruby を取り上げてくださり、ありがたいことに僕の所有しているものの
WSL2 の Ubuntu にデフォルトで入っているバージョン以外の Python を試したくなったので、複数バージョンを使えるようにする方法を調べてみました。 どうも、 Python では環境を管理するためにいろんな方法があるようで、このあたりの記事に表の形でよくまとまっていました。 Pythonの仮想環境構築 pyenv、pyenv-virtualenv、venv、Anaconda、Pipenv。私はPipenvを使う。 - Qiita ちなみに、 pyenv および venv についての説明はこちらの記事がわかりやすかったです。 似ているようで意外と違う。venvとpyenvの使い分け。 これらを読んでみたところ、 Python 自体のバージョンを切り替えるには、 pyenv を使うのがよさそうです。pyenv を使わない場合は、 OS 上に複数バージョンをインストールして、 alt
生成AIでも人気のある機能のひとつが「音声合成」です。今回はゼロショットで（つまり事前学習の必要なく）任意の参照音声に変換できる「Seed-VC」をUbuntuで動かしてみましょう。 図1 Web UIやCLIから、マイクやアップロードしたファイルの音声データを、別の声に置き換えてくれる Seed-VCについて AIを利用した音声関係では、特に活発に開発が進んでいるのが「音声認識」と、今回紹介する「音声合成」です。どちらも十分に実用的な性能になっており、すでに製品化されているサービス等を使っている読者も多いでしょう。 第877回の「リアルタイム文字起こしをローカルマシンで実現できるWhisperLiveKitを使ってみよう」で紹介した、「WhisperLiveKit」もそんなツールのひとつです。WhisperLiveKitでは入力された音声を認識し、文字情報へ起こすことに特化したツールで
Ubuntu 24.04 開発・研究環境構築ガイド
【概要】本ガイドでは、Ubuntu 24.04 LTSにおける各種ソフトウェアのインストール手順を説明する。プログラミング環境（C/C++、Python、Java、R）、NVIDIA GPU環境（ドライバ、CUDA、cuDNN）、データベース（PostgreSQL）、人工知能・機械学習ライブラリ、3次元コンピュータグラフィックス・地理情報システム・メディア処理ツール、エディタ・統合開発環境などを扱う。 【この記事の対象読者】Ubuntu 24.04 LTS上で開発・研究を行いたい大学生や技術者。C/C++やPythonによるプログラミング、人工知能・機械学習、3次元コンピュータグラフィックス制作、データベース管理などの環境を構築したい人を対象としている。Windows 環境向けの情報は別ページ »で説明している。 【重要概念】 LTS (Long Term Support): 5年間のセキ
【画像生成AI】クラウド最安!? GPUSOROBANでStable Diffusion WebUIを動かす【￥50/1h】｜カガミカミ水鏡🔞
【画像生成AI】クラウド最安!? GPUSOROBANでStable Diffusion WebUIを動かす【￥50/1h】 なしてワイはRTX A4000を買ってしまったんや…… こんにちは、画像生成はローカル構築勢のカガミカミ水鏡です。 Stable Diffusion WebUI Automatic1111（以下A1111）を楽しむには主に、ローカル（自前のPCで動かす）とクラウド（GPUサーバを時間借りする）の２通りがあります。 ローカルは構築が比較的お手軽だけど初期費用に20万円前後かかるし（GeForce搭載のゲーミングPCを持っていない場合）、更に画像生成沼にドハマリし、より速い・より学習できる環境を求めて上位のGPUに買い替えすると更に10万円前後も追加費用が…… あっちなみに俺はRTX3060Ti(8GB) 👉 RTX3060(12GB) 👉 RTX A4000(16
自動売買bot「Freqtrade」で始める仮想通貨取引：特徴と活用法ガイド｜ユニコ🦄 AIエージェント開発 ＆ Obsidianの人
Freqtradeの概要と重要性Freqtradeとは？Freqtradeとは、仮想通貨の自動売買を行うためのオープンソースのトレードボットです。Pythonで開発された無料のツールであり、主要な暗号資産取引所（仮想通貨取引所）に対応しています。ユーザーは自分でサーバーやPC上に設置して動かすため、APIキーを外部サービスに預ける必要がなく、セキュリティ面でも安心です。Freqtradeは24時間365日市場を監視し、人間の介在なしに売買を実行できるため、手動取引では捉えきれないチャンスも逃しません。また、Telegramを介したリモート操作や通知、Web UI（FreqUI）による管理機能も備え、離れた場所からでもボットの状況確認や指示が可能です。 自動売買ボットの必要性と利点仮想通貨市場は昼夜を問わず動き続け、急激な価格変動が頻繁に起こります。こうした市場で利益を上げるには、素早い判断
【Python入門】Windows10+pyenv+venvで最強のPython開発環境を構築する【2021年版】 - とりゅふの森
こんにちは、とりゅふです。今回はPythonの開発環境構築についてまとめました。 本日のテーマはこちら！ 1つの端末で複数のプロジェクトを独立した開発環境で開発できるようにする 面倒な環境構築を手順化し、チームメンバーに共有できるようになる Pythonのインストール、ライブラリのインストール自体は簡単ですが、プロジェクト毎に使っているPythonのバージョンが違ったり、ライブラリが違ったりと、環境の管理がなかなか面倒だったりします。 そういったPythonの環境を、 pyenvとvenvといった仮想環境を作成できる機能を利用し、複数のPython環境を管理する方法についてご紹介します。 今回はWindowsでUbuntu 20.04を動かし（Windows Subsystem for Linux)、その上にPython仮想環境を構築します。 pyenvとは venvとは pyenv、ve
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ローカルLLMとRAGで自分の外部記憶を強化しよう - VA Linux エンジニアブログ
第850回 UbuntuにおけるシステムPythonと、Pythonの仮想環境を使い分ける方法 | gihyo.jp
とほほのOpenID Connect入門 - とほほのWWW入門
第764回 UbuntuサーバーのLive用ISOイメージをカスタマイズする | gihyo.jp
画像生成AI「Stable Diffusion」をローカル環境で実行する - パソコン関連もろもろ
UbuntuをMacOSXみたいにする話 - Qiita
第872回 百度（Baidu）の新しいMoEモデルを、安価なGPUで動作させる | gihyo.jp
WSL2とVSCodeで欲しい環境を好きなだけ作る - いろいろ備忘録日記
WindowsPC開発用の初期設定～AWS CLIインストールまで～ | DevelopersIO
第817回 参考書を片手にUbuntuでもStable Diffusion WebUIを動作させ、画像を生成する | gihyo.jp
WSL2 に pyenv + venv 環境を作ってみた - プログラマーのメモ書き
第886回 AIボイスチェンジャーであるSeed-VCで自分の声を変えてみよう | gihyo.jp