「RAGがうまくいかない」「精度が低い」 生成AI実装はどうすれば成功するのか

関連キーワード 人工知能 | Amazon Web Services | アプリケーション開発 | SaaS AI（人工知能）技術の利用が広がる中で、企業の関心を集めるのが「RAG」（検索拡張生成）だ。RAGは、LLM（大規模言語モデル）の内部知識ではカバーされない外部の情報を参照し、LLMが事前学習していない情報も回答できるように補う手法を指す。ただしRAGを使えば常に精度の高い回答を得られるわけではない。精度を上げるための工夫や、現実的な運用方法の見極めが必要だ。 ソフトウェアベンダーWorks Human Intelligenceは、同社が開発するSaaS（Software as a Service）型のERP（統合業務）システム「COMPANY」にRAGの仕組みを組み込んでいる。本稿は、同社がRAG実装の過程で直面した技術的な課題と、それらを克服するための取り組みについて紹介する。