敵対的プロンプト技術まとめ - Qiitaこんにちは@fuyu_quantです。 この記事はLLM Advent Calender 2023 17日目の記事です。 よかったらプライベートで作成したData Science wikiのGPTsも見て下さい！ はじめに 今回は敵対的なプロンプト技術についてまとめました．まとめ方は主に，Ignore This Title and HackAPrompt: Exposing Systemic Vulnerabilities of LLMs through a Global Scale Prompt Hacking Competition というLLMに対する敵対的なプロンプト技術に関してまとめた論文を参考にしています．本記事の内容が世の中のLLMを使ったサービスの機能向上の役に立てれば幸いです． ※世の中のLLMサービスが敵対的なプロンプト手法に対応できるように公開をしたものであり，利用を
Hiromitsu Takagi on Twitter: "この人、専門は何なの？ この前もNISCのイベントで基調講演に出ていたので見てみたが、セキュリティとセーフティの区別すら付いてないど素人ぶりだったが。そろそろセキュリティクラスタの監視対象だろうよ。 https://t.co/RY6tN4DEu4"
