エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
【Ollama】【Open WebUI】WSL2でFugaku-LLM を動かす - パソコン関連もろもろ
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
【Ollama】【Open WebUI】WSL2でFugaku-LLM を動かす - パソコン関連もろもろ
はじめに「Fugaku-LLM」は日本が誇るスーパーコンピュータ「富岳」で学習した大規模言語モデルです。 パ... はじめに「Fugaku-LLM」は日本が誇るスーパーコンピュータ「富岳」で学習した大規模言語モデルです。 パラメーター数が13b(130億)とそこまで大きくないのでローカルで実行してみました。 まっさらのUbuntu 22.04 on WSL2に「Fugaku-LLM」を動かす環境を構築するまでの全手順です。Docker Engineのインストールこちらに従いました。 インストール後に以下を実行しました。(ユーザー名は各自変更が必要です) sudo gpasswd -a ユーザー名 docker sudo chgrp docker /var/run/docker.sock Nvidia container toolkitのインストールこちらに従いました。 いったんここまででWSL2を再起動しました。(必要かどうかはわかりません)モデルのダウンロードこちらから「Fugaku-LLM-13B-