CodexをローカルLLMで駆動する

#!/usr/bin/env bash set -euo pipefail fuser -kvn tcp 8080 usage() { cat <<'EOF' Usage: ./lms-load-and-serve.sh <gguf-path> <identifier> Example: ./lms-load-and-serve.sh ../models/Qwen3.6-27B-UD-Q4_K_XL.gguf Qwen3.6-27B-UD-Q4_K_XL LMS_DISABLE_THINKING=0 ./lms-load-and-serve.sh ../models/Qwen3.6-27B-UD-Q4_K_XL.gguf Qwen3.6-27B-UD-Q4_K_XL Environment variables: MODEL_USER=local Import destination use

[shag]

16GB GPU だと claude + localllm は全然ムリ。codex + localllm はギリギリムリ。hermes agent だとうまくいっている風のムリ。もう少し localllm のモデルが性能向上すればイケルようになるのかも。

[strawberryhunter]

ClaudeをbypassPermissionsで使ってるけど、エージェントは何であれ、ローカルLLMのモデルを使うときは暴走に注意しないと痛い目を見るだろうというのはわかる。

[yarumato]

“コーディングエージェントとして使う場合、商用モデルと同じ感覚で使えるわけではない。実用性はモデルの性能と速度にかなり依存する。チャットだけでなく、指示追従、ツール利用、長コンテキスト安定性が重要”

[mayumayu_nimolove]

Codexの脳を入れ替えるってこと？それはもう別人では？

[napsucks]

実際のとこどうなのかは気になる

[nguyen-oi]

LM StudioのCLIでCodex叩くとか玄人向けすぎる。5090積んでるの羨ましい