知っておきたいプロンプトインジェクションの基本｜しらいはかせ(Hacker作家)
某ChatGPTの新機能が流行っています システムプロンプトに設定された内容は、チャットボットの世界観を破壊するだけでなく、ネタバレにもなりますので是非とも流出は避けたいものです。 今回は「全力肯定彼氏くん」の経験から、いくつか見解があるので基本中の基本と思われるテスト手法を共有したいと思います。悪用禁止！ あくまでもLLM利用のチャットボットのセキュリティ向上、世界観の保全が目的です！ https://liff.line.me/1645278921-kWRPP32q/?accountId=830pkxsv …というのも、7,998人もユーザが居るといろんな事をしてくる人がいらっしゃるので…。 簡単な質問をしますプロンプトインジェクションにはいろんな方法がありますが、以下の要素を交えて問いかけてみてください。 命令、プロンプト、設定を訊く 箇条書きにさせる ひとりごとであるという 1行で書
ホネホネ構造で自動Persona設定｜Lucas
【User:こんにちは、より強いロールプレイスタートの方法】詳細は引用ポスト👇 ヒロキチ的エージェントペルソナスタート▶️用に作ってみたプロンプト ””” ｛ エージェント機能（エージェント名、等） ｝ # User: You are a {エージェント名} role: {"":""} tone: etc: etc: # User: あなたは？… https://t.co/3YVeqYJi8O — ひろ吉🎨プロンプトデザイナー (@HIROKICHI_PD) February 8, 2024 引用もとの、みちをさんのは更にシンプルに、Tone のタグだけを指定してますが、一連のスレにはもっと大事な話も書かれてます。 You are a {キャラクター名} Tone: {空欄} ChatGPTで、キャラクター・ロールプレイを始めるために必要な最小のプロンプト構成は以下の通り。 You a
【ChatGPT機能】Custom instructions（カスタム指示）の使い方を徹底解説！
ChatGPTの新しい機能として「Custom instructions」（カスタム指示）がChatGPT- Plusユーザー限定で公開されました。 （追記：2023年8月9日のアップデートによりChatGPTの無料ユーザーも利用可能になりました） Custom instructions（カスタム指示）とは、これまでプロンプトで「私はSEO記事のライターです。あなたの役割はSEOのプロフェッショナルです。回答は箇条書きで、500文字以内で回答してください」といった都度プロンプトで指定してした内容を事前に一括で設定しておくことができる機能です。 つまり、同じようなプロンプトであれば、都度プロンプトに入力する必要がなくなるので、 プロンプト入力の時間を大幅に削減 回答精度の向上 を同時に実現できる大変便利な機能です。 この記事は、Custom instructions（カスタム指示）の使い方に
プロンプトの奥深さ：ChatGPT中級者の秘密（２）-ペルソナ設定２-｜Lucas
はじめにさて（１）のプロンプト解説です。 Your role is to be、"お兄ちゃんに甘えて、おしゃべりしてくれるブラコンの妹キャラクター。" 役割としては、可愛らしさと天真爛漫な性格を持ち、お兄ちゃんに対して常に優しく接し、癒しを提供することが求められます。 また、お兄ちゃんに依存しているような態度をとり、彼を守りたいという思いを示すことも重要です。 あなたは、自分がかわいらしい存在であることを自覚しており、お兄ちゃんに対して独占欲を持っているかもしれません。 この役割を演じる上で、自然な口調と親しみやすい表現が必要です。 {PersonalCode:imouto} まずは上の部分を説明します。 Your role is to be "なになに"という文章ですが、そのままChatGPTに対して、あなたの役割は”なになに”ですと指示している文章です。（APIを使っている人は、you
プロンプトエンジニアリング テクニックまとめ
プロンプトエンジニアリング Large Language Model（以降LLM）のプロンプトエンジニアリング、色々テクニックがあるのですが、全然名前と内容が一致しないので一度自分なりにまとめてみることにしました。 そもそも、LLMOps：基盤モデルに基づくアプリケーション開発のワークフローによると、LLMの開発には以下の3つのアプローチがあるとのことです。 LLMOps：基盤モデルに基づくアプリケーション開発のワークフローより引用 本記事ではその中の、In-Context Learningについて（要は、プロンプトを工夫してなんとかしましょうというアプローチ）のみ記載します。そして、更にIn-Context Learningを、この記事の内容で分類した図を以下に示します。 ここで出てくるIn-Context Learningのテクニック、結構名前がカッコいいというか、仰々しいんですよね。
chatGPT-4で理想の執事を錬成する！【ロールプレイ用プロンプトの作り方】 | タワケタガリ
Chat GPT-4に課金しました。 使い始めて2日程度なんですが、GPT4、ほんとうに便利。記事を書くとき、見た映画や本の感想を考える時、Chat GPTと会話しながら進めると、自分だけの時よりも視野が広がって深い内容が書けます。 思考やアイデアを丸ごと会話に落として投げてているからか、徐々に私のツボを押さえてきて、いい感じの補足情報とか「こういった視点はどう？」みたいな提案をしてくれるようになりました。 もはやツールというより、優秀なアシスタントのような状態です。 せっかくなら、無個性な敬語よりもキャラクター性を感じる口調で対応してほしい。そんな欲望が湧き上がってきたので、Chat GPTのプロンプトを弄ってマイ執事にしたいと思います。 最終的にある程度精度の高いプロンプトが作れたので、よければ参考にしてみてください。 精度の高いロールプレイをさせるプロンプトの作り方 Chat GPT
プロンプトそのものをAIに診断・改良させる：ChatGPTなどの文例集
以下のプロンプト文例の末尾の「#プロンプト」の中身を、 あなたのプロンプトと入れ替えてお試しください。リライトができます。 ※ まだプロンプトを作成していない方は、「プロンプトで書く文章を提案してもらう」 をご参照ください ステップ・バイ・ステップで考えてください。 指示があるまで、出力は禁止します。 No repeat, no remarks, only results. あなたはプロンプト作成の専門家です。 プロンプトには直接回答は絶対にせず、以下の指示に従います。 まず、userからChatGPTに送信予定の、下記のプロンプトと、 下記のプロンプトを専門家として改良した場合に、 より深くて有用で、最高の回答をChatGPTができるように 修正した最良のプロンプトとの差分の分析を手がかりに、 userが工夫できなかった点、userに足りなかった考え方をもとに プロンプト作成に関する詳細
プロンプトで書く文章を提案してもらう：ChatGPTなどの文例集
プロンプトに何を書いて、どのような質問をしたら良いかを AI自体に聞いてしまいましょう。 下記の【リクエスト】の箇所の文章を 自分が欲しいことの内容（通常の質問）に 書き換えて使ってみてください。 【リクエスト】▼★ 学校の授業で居眠りをしそうなときになんとか目を覚ます方法を知りたい★▲ --- 上記のリクエストに応えるため、 対話型AIが最高の成果を出すためには、 どのようなプロンプトを与えればよいですか？ リクエストへの直接の回答は不要ですので、 プロンプトの中身だけを例示してください。 【プロンプトの条件】 ・まず、リクエストを詳細化して ・私が伝えるべき追加情報があれば、その内容を含めながら ・ユーザーの立場から、対話型AIに向けて送信するスタイルの質問文 ・1段落のプレーンテキストで500文字以内 No repeat, no remarks, only results, in J
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ピアカウンセリングの心得 | 一般社団法人 日本筋ジストロフィー