ChatGPT活用時のセキュリティ懸念、プロンプトインジェクション攻撃とその対策を解説 | LAC WATCH

プロダクトの開発を手掛けているソフトウエアエンジニアリンググループに所属する加藤です。 昨今、人間のように自然に対話できるAIとして注目を集めるChatGPTを中心に、生成AI（Generative AI）の活用が広がっています。既に、生成AIを組み込んだシステムの開発も幅広く実施されています。生成AIは「プロンプト」と呼ばれる指示を受け取り、様々な回答を返します。 しかし、生成AIには懸念点も指摘されています。例えば、プロンプトに悪意ある入力をすることで、生成AIを組み込んだシステムに意図しない動作をさせる「プロンプトインジェクション攻撃」の危険性などです。 この記事では、生成AIを組み込んだシステムに対するプロンプトインジェクション攻撃とはどのようなものか、プロンプトインジェクション攻撃に対してはどのような対応方法があるかをお伝えします。 生成AIを組み込んだシステムの概要 はじめに、