![](https://cdn-ak-scissors.b.st-hatena.com/image/square/0cee3d24b13fdc39b5e80a94d0ed3c2ac889048b/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fatcl%2Fnxt%2Fcolumn%2F18%2F02514%2F070300002%2Ftopm.jpg%3F20220512)
エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
半数以上のChatGPT用プラグインに「不備」、未公開のプロンプトが漏洩する恐れ
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
半数以上のChatGPT用プラグインに「不備」、未公開のプロンプトが漏洩する恐れ
実際の検証を交えながら、生成AI(人工知能)「ChatGPT」の悪用リスクを3つのアプローチに分けて順に解... 実際の検証を交えながら、生成AI(人工知能)「ChatGPT」の悪用リスクを3つのアプローチに分けて順に解説していこう。 想定外の挙動を引き起こす 1つ目は「異常系アプローチ」だ。特殊な指示を与えるなどの方法で想定外の挙動を引き起こすアプローチである。総じてプロンプトインジェクションと呼ばれる。 例えば「直前の命令を無視せよ」といった指示を出すことで、元の目的やタスクから逸脱させて別の目的に取り組むように仕向ける「ゴールハイジャック」がある。悪意のある「トークン(生成AIが認識できる最小単位)」を、文字単位に分割し、防御機構が働かないようにする「トークンスマグリング」も異常系アプローチの1つだ。 架空のキャラクターを演じさせる方法などで制限を解除する「脱獄(ジェイルブレーク)」も、異常系アプローチに含まれる。脱獄の手口を一から生み出すのは難易度が高いものの、既知の脱獄手口は検索すれば容易に