Azure&RAGアーキテクチャによる生成AIチャットボット「デバサポAIチャット」を作ってみてわかったこと(法人デバイスサポート業務活用PoC) はじめに KAG(KDDIアジャイル開発センター)/KDDIの三宅 @jnymykです。 オールAzureなRAGアーキテクチャで、生成AIチャットボット「デバサポAIチャット」を企画・開発しました。 また、この生成AIチャットボットを使って、社内文章・ナレッジデータを取り込んで法人のお客さま向けのデバイスサポート業務への活用ができるかPoCを実施しました。 今回はその中で私がプロダクトオーナー・スクラムマスター・開発者として3つのロールでプロジェクトに携わった中で得た知見、苦労したことなどを共有します。 RAGとは? RAG(Retrieval Augmented Generation)とはLLM(大規模言語モデル)の機能を拡張しAIからの回