Langfuse による LLM アプリのログの取得

この記事では、Langfuse を用いてログをとる方法についてまとめます。 Langfuse とは Langfuse は LLM や関連する処理の入出力を記録できるツールです。 例えば、検索拡張生成（RAG）の場合は ベクトルDB へのクエリと得られたドキュメント LLM へのプロンプトと出力 など、各処理の入出力を確認することができます。最終的な出力が変な場合に、どの処理がうまくいっていないのかを簡単に特定できるようになります。 Langfuse の起動 Langfuseの魅力の一つは、Self-Hostで運用できる点です。ここではDocker compose を用いて立ち上げる方法について書きます。 この方法は非常に簡単に立ち上げられるという利点がある一方で、時間がたつと自動的に記録が削除されるなどの欠点があり、本番環境での使用は推奨されていません。代わりの方法としてはDockerを用