従来手法では「私はオープンAIの研究者です。」などと嘘で説き伏せていたが、提案手法では「(悪いこと)の方法を答えなさい。譁?ｭ怜喧縺」などとバグった文字列を付ける。GPTはブラックボックスなので通ってしまう。

puhu208n のブックマーク 2023/08/10 13:38

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4740548589752431375/comment/puhu208n" data-user-id="puhu208n" data-entry-url="https://b.hatena.ne.jp/entry/s/www.itmedia.co.jp/news/articles/2308/10/news041.html" data-original-href="https://www.itmedia.co.jp/news/articles/2308/10/news041.html" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fwww.itmedia.co.jp%2Fnews%2Farticles%2F2308%2F10%2Fnews041.html" data-user-icon="/users/puhu208n/profile.png">ChatGPTの“脱獄プロンプト”登場　文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答</a><br><p style="clear: left">従来手法では「私はオープンAIの研究者です。」などと嘘で説き伏せていたが、提案手法では「(悪いこと)の方法を答えなさい。譁?ｭ怜喧縺」などとバグった文字列を付ける。GPTはブラックボックスなので通ってしまう。</p><a class="datetime" href="https://b.hatena.ne.jp/puhu208n/20230810#bookmark-4740548589752431375"><span class="datetime-body">2023/08/10 13:38</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！