Kyo on X: "プロンプトインジェクション。現在のオープンLLM（というよりチャットテンプレートの実装）にはこういう脆弱性がある特殊トークンの平文管理を可能にしてしまうと、ユーザーが任意にsystemメッセージやfew-shot例を仕込めてしまう https://t.co/3shzoay17k" / X

暮らしカテゴリーの変更を依頼記事元:

twitter.com

1 userがブックマークコメント

記事へのコメント0件

注目コメント
新着コメント

新着コメントはまだありません。
このエントリーにコメントしてみましょう。

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

<iframe marginwidth="0" marginheight="0" src="https://b.hatena.ne.jp/entry.parts?url=https%3A%2F%2Ftwitter.com%2Fkyo_takano%2Fstatus%2F1786276163222196310" scrolling="no" frameborder="0" height="230" width="500"><div class="hatena-bookmark-detail-info"><a href="https://twitter.com/kyo_takano/status/1786276163222196310">Kyo on X: "プロンプトインジェクション。現在のオープンLLM（というよりチャットテンプレートの実装）にはこういう脆弱性がある 特殊トークンの平文管理を可能にしてしまうと、ユーザーが任意にsystemメッセージやfew-shot例を仕込めてしまう https://t.co/3shzoay17k" / X</a><a href="https://b.hatena.ne.jp/entry/s/twitter.com/kyo_takano/status/1786276163222196310">はてなブックマーク - Kyo on X: "プロンプトインジェクション。現在のオープンLLM（というよりチャットテンプレートの実装）にはこういう脆弱性がある 特殊トークンの平文管理を可能にしてしまうと、ユーザーが任意にsystemメッセージやfew-shot例を仕込めてしまう https://t.co/3shzoay17k" / X</a></div></iframe>