Amazon BedrockのLLM呼び出しコストをApplication inference profileでAI機能別に可視化する - カミナシ エンジニアブログ

はじめに カミナシでエンジニアリングマネージャーをしている、すずけん（@szk3）です。自チームのプロダクト「カミナシ 設備保全」には 2 つの AI 機能があり（プレスリリース）、どちらも Amazon Bedrock AgentCore 上のエージェントから同じ LLM モデルを呼び出しています。 リリースからしばらく経つと、「で、それぞれのAI機能でLLMの呼び出しいくらかかってるの？」という当然の疑問が出てきました。ところがこの２つのAI機能は同じLLMモデルを呼び出しており、請求上は合算されるため、機能ごとのコストを切り分けられていませんでした。 この記事では、Amazon Bedrock の Application inference profile を使って、同じモデルを呼び出す複数の AI 機能のコストを機能別に可視化した話を共有します。 同じモデルを呼ぶと、コストが混ざる

[toricls]

機能別に LLM コストを可視化できるの、便利〜

[showii]

良さそう

[nguyen-oi]

Bedrockのコスト可視化はマジで助かるな。機能別のタグ付け便利。後から遡及できないのが辛いから、最初からこれ入れとくのが大正解だわ