RAG(検索拡張生成)を用いるLLMアプリにおける、セキュリティ視点での実装ガイドライン - GMO Flatt Security Blog

はじめに こんにちは、GMO Flatt Security株式会社 セキュリティエンジニアの藤田（@fujitargz）です。 昨今のLLM（大規模言語モデル）の急速な進化にともない、LLMを活用したサービスが多数登場しています。しかし、業務改善・ビジネス活用を狙ってLLMを触ってみたものの、モデルの知らない最新情報や自社固有の情報への対応、回答の正確性などに頭を悩ませた方もいらっしゃるのではないでしょうか？これらの問題に対する解決策として、LLMの知識や出力精度を向上させる技術であるRAG（Retrieval-Augmented Generation）が注目されています。 ところで、RAGの設計・実装について考えたことがあっても、セキュリティについては考えることが後回しになっていませんか？また、RAGセキュリティについて考えようにも「何に気を付けるべきか分からない」「どう気をつければ良い

[poad1010]

この記事をおすすめしました

[hiroomi]

3つのセキュリティリスク - データ・モデルの汚染 - 機密情報の漏洩 - 過剰な課金（EDoS攻撃）

[hogataro]

“知識集約的（knowledge-intentive）なタスクの出力を改善する手法の一つです。”

[misshiki]

“RAGアプリにおけるセキュリティリスクを洗い出し「何に気を付けるべきか」を示す。vector storeに関連するセキュリティリスクであるドキュメント汚染・認可制御不備について具体的な対策・緩和策を紹介する。”