間接プロンプトインジェクションを防御的に使って、講義資料をレポートで不正利用できないようにしてみた話｜今井悠資

--------------- 2025/04/14追記：無課金ChatGPTだと意味無いかも、という報告もアリ。ルールベースのプログラムでない以上不確実性はいっぱいあるので、実施にあたってはご自身の環境でテストしてみてください。 --------------- 今年も講義がスタートするということでバタバタと準備していたのですが、この1年で生成AIが進歩して講義資料をRAG的に扱うことができるようになってきました。私の講義では大した問題ではないものの、レポート課題などを課している先生だと悩みの種だろうなと思いました。そこで、講義当日に思いついたのが、資料の中にプロンプトを仕込んでおくという手法です。どうせ身内しか見ないだろうと思ってつぶやいたら想像以上に拡散していってしまったので、ちゃんとまとめておきます。なお、偉そうに書いていますがおそらく世の中に同じようなことをやっている人はたくさんい

[akymrk]

“どうせ突破できるから無意味」という反論がよくあるのですが、セキュリティ技術の多くは、防御可能性の“程度”を高め、コスト・労力・モチベーションのバランスを変化させることで抑止力を提供”