こんにちは。生成AI関連の開発をしている図左です。社内でRAGを使った生成AIサービスを開発していますが、ロジック変更のたびに毎回人手でテストするのは現実的ではありません。今回は、この品質評価を自動化したフローや手法を紹介します。 SeekAIとは LINEヤフー株式会社では、社内の情報を効率的に検索するために、生成AIを活用したサービス SeekAI を内製展開しています。SeekAIではRAGという技術を使って一般的な知識だけでなく、社内規程・ルール・問い合わせ先、コーディング時の技術スタック、顧客や取引先とのコミュニケーション履歴などを効率的に把握できるため、社内の情報検索ツールとして活用されています。 SeekAIのプレスリリース RAGとは 生成AIに『学習済みではない知識』に関する回答を出力させるために、別途構築したデータベースから取得した情報と組み合わせて回答させる手法です。
![RAGの回答を自動評価する手法(LINEヤフーのSeekAIでの事例)](https://cdn-ak-scissors.b.st-hatena.com/image/square/a4ed0f05b14adb5b36b77edcb6fa7c5c33570c24/height=288;version=1;width=512/https%3A%2F%2Ftechblog.lycorp.co.jp%2Fstatic%2F923af3c6d3b654493309fcdb7cc2dc6a%2F7d66e%2F1723770862239.png)