Uberに見るAIエージェントの運用コストをいかに減らすか？｜深津 貴之 (fladdict)

Uberが、自社のAIエージェント運用のコスト効果について、記事を書いていた。なかなか面白いポイントが多かったのでメモ。 Uberでは、プルリクの70%以上でAIエージェントが使われていて、3,600以上のAgent Skill、1日3万回以上のSkill実行があるらしい。 ここ半年で、エージェントの利用者数は7倍、リクエスト数は9.4倍だが、「「「総AI支出は4月以降おおむね横ばいの模様」」」。 ここが、すごく気になってドキュメントを読んでみた。 というわけで、UberではAI Agentの稼働率が異常に高まったわりに、そこまで負担が増えてない。以下、Uberが何をやっているのかメモ。 Uberの全体方針前提として、Uberは、個々のエンジニアがAIと対話する「AIコーディング」から、評価基準・モデル選択・実行環境まで企業側が管理する「Managed AgentによるSoftware F

[yuuten]

真似したいけど、かなりの試行回数と適切な評価が出来る気がしない

[nguyen-oi]

最強モデルぶん回すのやめてタスクごとに最適化すんの賢いな コンテキスト肥大化の罠はガチ