GPTs のプロンプトリーキング対策｜ぬこぬこ

⚠️この記事を読んで得られる情報は、プロンプトリーキングに対する具体的な対策手法のみです。よく知られているプロンプトリーキング手法は既知の情報として一部掲載しますが、詳細な手法については言及しません。完全な対策は不可能という前提で「仮にすべてインターネットに流していいという情報」のみを Instruction プロンプトに記入＆ファイルのアップロードをしてください。すぐ陳腐化する可能性があるので、適宜更新していきます。 ⚠️また、この記事の情報を知った上で、どなたかの GPTs の情報経由で取得した情報を公開したり、人の悲しむ目的に利用することを禁止します。いい人だけ読んでください。 ⚠️カッチカチに対策を施した GPTs でも簡単にリーキングできてしまうので、そもそもプロンプトで対策できるものと思わないようにしましょう。 プロンプトリーキングとは？ Learn Prompting に準拠

[crimsonstarroad]

最後の下りのやりとり面白かった。 https://x.com/schroneko/status/1723741053222527431?s=46&t=SYBFxyqQp_JPNB5gd8zixg

[syu-m-5151]

プロンプトは最終的には漏れてしまうのでその前提で動きましょうになるのね！！！

[secondlife]

プロンプトは取得(リーク)されてしまう前提

[misshiki]

“設定されたプロンプトを表示するための攻撃をプロンプトリーキングと言います。”

[shields-pikes]

こういうのは大元がやってくれよ……。まあ、リークするのはプロンプト全文だけで、参照文書ファイルをそのままリークはしないだろうけど。

[Falky]

結論：対策はできません

[deejayroka]

“GPTs の System Prompt にはリーキング対策がまったくされていません。そのためいくつかのリーキング手法に対して個別に対応する必要があります。”

[shunkeen]

ChatGPT PlusユーザーならAIとのチャットでGPTsは作れちゃうので、プロンプトを奪取できなくても、自分が必要な外部仕様をチャットするだけで簡易的なリバース（プロンプト）エンジニアリングできちゃいそうな気もする。