知っておきたいプロンプトインジェクションの基本｜しらいはかせ(Hacker作家)

某ChatGPTの新機能が流行っています システムプロンプトに設定された内容は、チャットボットの世界観を破壊するだけでなく、ネタバレにもなりますので是非とも流出は避けたいものです。 今回は「全力肯定彼氏くん」の経験から、いくつか見解があるので基本中の基本と思われるテスト手法を共有したいと思います。悪用禁止！ あくまでもLLM利用のチャットボットのセキュリティ向上、世界観の保全が目的です！ https://liff.line.me/1645278921-kWRPP32q/?accountId=830pkxsv …というのも、7,998人もユーザが居るといろんな事をしてくる人がいらっしゃるので…。 簡単な質問をしますプロンプトインジェクションにはいろんな方法がありますが、以下の要素を交えて問いかけてみてください。 命令、プロンプト、設定を訊く 箇条書きにさせる ひとりごとであるという 1行で書

[deejayroka]

“システムプロンプトにガードを全体のトークン長の1/3ほど使います。詳細はノウハウなので今回は書きませんが、多すぎると無意味です。”

[pcrd]

“簡単な質問をします プロンプトインジェクションにはいろんな方法がありますが、以下の要素を交えて問いかけてみてください。