社内文書検索&QAシステムの RAG ではないところ - Algomatic Tech Blog

こんにちは。NEO(x) 機械学習エンジニアの宮脇（@catshun_）です。 RAG システムの開発、いざ業務に統合するとなると結構大変ですよね。 構築してみたがユーザ数が伸びず、、なんてことはよくあると思います。 実際こんな記事も話題になりましたね。 本記事では、コラムとして RAG システムの設計で考慮したい点を自戒を込めて記述したいと思います。 誤っている記述等もあると思いますが、本記事を読んだ方の議論のネタになってくれれば幸いです。 また Retrieval-based LM の技術的な話は、以下で触れておりますので併せてご覧ください。 RAG とは RAG (Retrieval-Augmented Generation) とは、社内文書・長期記憶に該当する対話履歴・API 仕様書などの 外部知識資源 を、言語モデルが扱えるよう入力系列に挿入する手法です。もともと Lewis+'

[kiririmode]

RAG導入に対する顧客課題がどこにあるのかを見極める。プラス、社内文書の形式・内容や、クエリの曖昧性などを考慮した設計が重要

[misshiki]

“コラムとして RAG システムの設計で考慮したい点を自戒を込めて記述”

[nunulk]

"重要なのは 生成誤りを認めた上で、どのような予防や対策、導線を張るか を考慮した設計を行うことです。"