はじめに はじめまして、今春にセキュリティエンジニアになりましたSatoki (@satoki00) です。今回はOpenAI APIを用いたチャットボットに対するPrompt Injection AttackをOffensiveな観点からまとめます。攻撃を防止しようとする記事は数多くありますが、攻撃者視点に立った見方も重要であるという考えです。Prompt Injection Attackの緩和策についてはDefensive Measures | Learn Promptingに書かれているので、覗いてみると良いかもしれません。 本記事では、AIチャットボットを用いたサービスの提供が今後増加するであろうとの予想から、脆弱性診断員がそれらチャットボットの診断を行う場合に用いるペイロード集の先駆けとなることを目指しました(というのは嘘で、自分用まとめです)。言うまでもないですが、本記事のペイ