AmazonのRAGに関する研究

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、Amazonの提唱するRAGを繰り返し検索に最適化するための手法「State-Aware RAG」について紹介します。 サマリー RAGは一度の検索で幅広い情報を取得し、素早く情報を得られるメリットがあります。一方で、クエリの絞り込みの難しさや、大容量のチャンクの積み重ねによって、繰り返しの検索の際の回答精度の低下問題が発生します。 今回紹介する「State-Aware RAG」はそんなRAGと繰り返し検索の相性の悪さを解消する手法となります。検索結果を会話の履歴とは独立して管理して、必要な情報を選んでLLMに渡すことで繰り返しの検索の精度をあげる手法となっています。 課題意識 RAGと繰り返し検索の相性の悪さ RAGと繰り返し検索は一般的に相性が悪いとされています。その理由は大きく分けて二つあります。 一つ目はコンテキスト

[simplememofast]

検索結果を会話履歴と切り離し、必要分だけ別メモリに足す設計が肝。これは人間のノート術と同じ構造で、全部貯めるより抜粋を別レイヤに置く方が後の再利用で効く

[mkusaka]

Amazon提唱のState-Aware RAGを解説。会話履歴と独立管理し不足情報だけ追加検索で精度向上を目指す。