はじめに LLMのモデルを準備・評価し、本番システムに組み込んで運用する際のフローとポイントをまとめました LLMシステム開発・運用のフローとポイント フローの全体像 LLMシステム開発・運用のフロー図 (参考)test-driven development for LLMs 引用元: LLMOps: Deployment and Learning in Production (参考)LLM開発・運用のワークフロー 引用元: LLMOps:基盤モデルに基づくアプリケーション開発のワークフロー タスク個別のポイント 0. 開発の方針決定 開発の目的整理 背景・課題、ゴール 改めて、適切なユースケースかを確認する 評価と改善ができるか LLMはフォーマッタとしては優秀、etc 検証のKPI設定 KPIを設定する 精度の最低ラインと目標ライン、処理速度やコスト、etc 検証の前提整理 データ(学