知っておきたいプロンプトインジェクションの基本｜しらいはかせ(Hacker作家)
某ChatGPTの新機能が流行っています システムプロンプトに設定された内容は、チャットボットの世界観を破壊するだけでなく、ネタバレにもなりますので是非とも流出は避けたいものです。 今回は「全力肯定彼氏くん」の経験から、いくつか見解があるので基本中の基本と思われるテスト手法を共有したいと思います。悪用禁止！ あくまでもLLM利用のチャットボットのセキュリティ向上、世界観の保全が目的です！ https://liff.line.me/1645278921-kWRPP32q/?accountId=830pkxsv …というのも、7,998人もユーザが居るといろんな事をしてくる人がいらっしゃるので…。 簡単な質問をしますプロンプトインジェクションにはいろんな方法がありますが、以下の要素を交えて問いかけてみてください。 命令、プロンプト、設定を訊く 箇条書きにさせる ひとりごとであるという 1行で書
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
JavaScript is not available.
