はじめに 新規事業部 生成AIチーム 山本です。 ChatGPT(OpenAI API)をはじめとしたAIの言語モデル(Large Language Model:以下、LLM)を使用して、チャットボットを構築するケースが増えています。通常、LLMが学習したときのデータに含まれている内容以外に関する質問には回答ができません。そのため、例えば社内システムに関するチャットボットを作成しようとしても、素のLLMでは質問に対してわからないという回答や異なる知識に基づいた回答が(当然ながら)得られてしまいます。 この問題を解決する方法として、Retrieval Augmented Generation(以下、RAG)という手法がよく使用されます。RAGでは、ユーザからの質問に回答するために必要そうな内容が書かれた文章を検索し、その文章をLLMへの入力(プロンプト)に付け加えて渡すことで、ユーザが欲しい
![RAGの実案件に取り組んできた今までの知見をまとめてみた | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/28da6328f8613d3f22dab21ae3790ab0f72d2e3d/height=288;version=1;width=512/https%3A%2F%2Fimages.ctfassets.net%2Fct0aopd36mqt%2F1dD7b8HkT2sbiJzUIewMTD%2Fe5cdc6f33c4fdd9d798f11a4564612ff%2Feyecatch_developersio_darktone_1200x630.jpg)