https://b.hatena.ne.jp/entry/s/role-confusion.github.io/ ICML 2026 Charles Ye, Jasmine Cui, Dylan Hadfield-Menell Extended writeup (June 2026) A Theory of Prompt Injection (and why you should study roles) This is a blog-style writeup of the paper. We sho... https://b.hatena.ne.jp/aku_su1/20260708#bookmark-4789160957102191394 2026-07-08T12:11:38Z https://b.hatena.ne.jp/uokada/20260706#bookmark-4789160957102191394 2026-07-06T09:16:24Z あとで読む https://b.hatena.ne.jp/sentoh/20260706#bookmark-4789160957102191394 2026-07-06T06:22:27Z https://b.hatena.ne.jp/oxon-data/20260706#bookmark-4789160957102191394 2026-07-06T05:20:31Z あとで読む https://b.hatena.ne.jp/mkusaka/20260706#bookmark-4789160957102191394 LLMはroleタグでなく文章スタイルで役割を誤認し、CoT Forgeryで攻撃成功率約60%に上げる理論を解説。 2026-07-06T02:28:56Z AI要約 プロンプト注入 Security 論文 解説 arXiv https://b.hatena.ne.jp/shun9167/20260625#bookmark-4789160957102191394 2026-06-25T08:33:42Z https://b.hatena.ne.jp/misshiki/20260625#bookmark-4789160957102191394 プロンプトインジェクションを「role confusion」として説明する研究。LLMはrole tagだけでなく文体でも役割を誤認し、偽の推論や「User:」付き命令を高権限に扱う。 2026-06-24T15:31:17Z 人工知能 自然言語処理 セキュリティ https://b.hatena.ne.jp/barlog/20260623#bookmark-4789160957102191394 2026-06-23T01:47:13Z