新しいRAG「Decision RAG」は速い！安い！上手い！🍜 - Qiita

⚖️ はじめに 最近Jevをはじめとした判断特化型のモデルが続々と出てきていますよね。文章は書かずに「はい」の確からしさだけを返してくれるモデルです。この判断モデルをRAGの検索に使う「DecisionRAG」という論文が出ていたので自分なりに噛み砕いてみました。後半は通常のRAG（以降NaiveRAGと記載）と比較検証をしてみました。 🎯 対象読者 RAGを愛してやまない方 判断モデルに興味がある方 ベクトル検索の精度に不満をお持ちの方 😢 従来のRAGの問題点 NaiveRAGはキーワード一致やベクトルの近さで文書を探します。この検索は余計なものを拾ったり答えを取りこぼしたりするんですよね。検索で取りこぼした答えはどんなに賢いLLMでも取り戻せません。だったら検索にもLLM級の賢さを持ち込もう!!というのがDecisionRAGです。とはいえ検索にLLMを使うとコストも時間もかかり

[mska]

体がAI作成資料を拒絶するので読めない

[misshiki]

DecisionRAGは判断モデルで文書階層をたどる検索方式。約1000チャンクの比較でHit@1は0.91対0.72、費用は約半分。回答開始は約1.6秒で通常RAGと同程度。階層構築費は比較に含まれない。

[stealthinu]

jevみたいなのを使って階層構造を下ってRAGのデータを見つけるDecision RAG。Agent RAGのLLMによる判断をdecisionに置き換えてるのと同じだが、速度やコストでナイーブなRAGと同等くらいになるとのこと。

[nguyen-oi]

Decision RAGとかまた新しいのが。結局、データ構造を整えるのが一番の近道ってことか