ProxmoxのVMにOllama + OpenWebUIを入れた先日GPUパススルーしたProxmoxのVMにOllamaをインストールし、Webに公開するところまで行った。 やったことを思い出しながらここに書いていく。 この記事で言及すること# dockerコンテナからGPUを使えるようにする docker composeでOllamaとOpenWebUIを立ち上げる 前提# VMのOSはDebianのBookworm Linux xx 6.1.0-23-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.99-1 (2024-07-15) x86_64 GNU/Linux # Add Docker's official GPG key: sudo apt-get update sudo apt-get install ca-certificates curl sudo install -m 0755 -d /etc/ap
