OpenTelemetry の Generative AI Observability の話Generative AI Observability とは 最近は LLM や生成 AI、AI エージェントを活用するユースケースが増えてきていますが、需要の増加に伴って性能や安全性の評価、パフォーマンスの最適化、メトリクスの可視化といった本格的な運用を考える上で欠かせない要素の重要性も増しています。このような generative AI の Observability の話題に関して、先日 CNCF のブログに OpenTelemetry for generative AI という記事が公開されました。 元となった記事は opentelemetry の blog の投稿で、以下から確認できます。こちらは 2024/12 に公開済みですが内容はだいたい同じ。 記事を AI で要約すると以下のようになりました。 CNCFのブログ記事「OpenTelemetry for Generative
