MICINのデータ＆ML基盤のご紹介（LLM Night 〜LLM Ops編〜に参加してきました）

先日、PharmaX様 主催のLLM Night 〜LLM Ops編〜という勉強会で、MICINにおけるデータ基盤の取り組みを紹介させていただきましたので、その記録と補遺としてのエントリです。 イベントについて PharmaX様が月例で開催されているテックイベントです。今回はLLM Night 〜LLM Ops編〜 というタイトルで、LLM Opsの工夫などの実践的な内容についてLTを行うというコンセプトのものでした。 主催のPharmaX様が「薬剤師のチャットサジェストの評価と実験管理の本番運用」 というタイトルで、ログラス様が「ログラスの継続的なプロンプト改善のためのLLMOpsの今」というタイトルでそれぞれLTがあり、これらはすでに本番運用を開始したLLMアプリケーションの改善サイクルや実験管理に関する話でした。 MICINでも4つの事業と10以上のプロダクトを対象に、LLMアプリケ