全社に OpenCode + LiteLLM を導入してコストを抑えつつ AI 活用を進めている話

こんにちは。日本トレカセンターのプロダクト部で EM をやっている中川です。 日本トレカセンターでは約 200 名の全社員が使う AI の入り口を 1 つにまとめました。社員の手元には AI エージェントのOpenCodeを配り、そのリクエストを自前でホストした LLM ゲートウェイのLiteLLMに通しています。使うモデルは会社側で制御し、予算は月単位で決めて社員ごとに週次の上限をかけました。コストを把握しやすくなり、金額も導入前の 10 分の 1 以下に収まっています。 導入前の課題 導入前の社内では ChatGPT、Claude、Cursor など AI ツールが乱立していました。 AI 活用が進むこと自体は歓迎です。困ったのは会社として中身が見えないことでした。社内でどんなプロンプトが使われているのかを把握する手段がありませんでした。業務の情報を AI に渡している以上、放置はでき

[fh477ehj8890]

努力が素晴らしい。ただ、エンジニアリングにお金かけない会社なのね、という印象が強まる。claudecodeの企画提案、予算策定してみてダメだったんですかね？

[donkeyll]

週次で利用制限があって好きなAIエージェント使えないなんて絶対に働きたくない。AI代を気にしてる会社なんて無理よ

[pochi-taro00]

Githubに金払いたくないからGitLab使ってそう

[soybeancucumber]

応募してくるエンジニアが激減しそう・・・

[golotan]

自分はソロでVS Code+Clineで利用してたけど、LiteLLMでBYOK形式での社内キー利用を統合管理できるのは良さげ

[toaruR]

情報管理的に、客向けではできないやつだな（´－｀）

[chiba1008]

claudecode使えないとかコメントが並んでるけど、OpenRouter経由で好きなモデル使うってだけっしょ

[for-my-internet-demo]

なんやねんと思ったが150人超えるとエンプラのAPI従量って言われちゃう感じなのね？なるほど

[mcddx30]

https://x.com/ma_anago/status/2101298450700943600

[misshiki]

約200名の全社員にOpenCode＋LiteLLMを導入。モデル・予算・プロンプトを一元管理し、週次上限やMCP集約も実装。AIコストは導入前の10分の1以下に。

[nuara]

個人で使う分にはQwen系で十分かな。アリババには感謝。

[osakana110]

“上限を超えても必要な場合は Slack のワークフローから追加を申請できるようにしました。” 社員のＡＩ代で会社の年間利益を吹っ飛ばす企業もいるみたいだからな。本末転倒だぞほんと。

[macj_jp]

否定的な意見が多いけど、パレートの法則的な状況になりがちなのでquota作って申請で上限解除って仕方ないんじゃないかなぁ。モデルは選びたいけど。

[otoku-memo]

各人がどのタスクにどのモデル使うのがいいか経験値を積んでいくの、現状だと結構大事（将来的には勝手にやってくれよと思わないでもないが）なので、こういう仕組みはアリだと思う。お前astra不要だろって奴がいる。

[ebibibi]

参考になる。

[knok]

claedr codeにロックインされるのもリスクだとは思うのでまあいいのでは

[nguyen-oi]

LiteLLMとOpenCodeで社内LLMを一元化してコスト1/10にするの有能。SSO自作したり予算枠を週次で絞ったりと運用の泥臭さがリアルで参考になる

[kiririmode]

AI予算は月次で管理とともにメンバーごとに週次のハードリミットとして配り、必要時だけ追加申請させることで、コスト管理を管理者による事後監視から利用者自身が短周期で最適化するフィードバックループへ変えられ