Claude がテキストに電子透かしを入れ始めたので、LLM ウォーターマーキングの仕組みを調べた

この例では、確率2位の dog が、たまたま高い乱数 r = 0.95 を引いたおかげで勝っています。とはいえ p_i が大きいほど指数 1/p_i が小さく r_i^{1/p_i} は 1 に近づくので、基本的には確率の高い候補ほど勝ちやすい競争です。そして、この選び方でトークン i が勝つ確率は元の p_i に厳密に一致することが、Gumbel-Max トリックとして知られる古典的な性質から従います。乱数でくじ引きする代わりに「乱数を使った決定的な最大値選び」をしているだけなので、外から観察できる振る舞いは通常のサンプリングと区別がつかないわけです。 では、分布が同じなのにどうやって検出するのでしょうか。着眼点は、透かし入りテキストの各単語が「高い r_i を引いたから勝った」勝者の集まりだという点です。 人間が書いた文章に同じ計算を適用すると、各単語に割り当たる r は書き手と無関係

[sabro]

電子透かしを確認することで、AIの学習データにAI生成物が混入するのを防げそうだから、AI企業にとってはむしろ入れたかったんじゃないか

[Unite]

"鍵を埋め込むことによりテキストの品質が下がるはず" 俺もそう思ってるが、そもそも品質とはなんぞやなんだよな　ただでさえ日本語はベンチが当てにならんのに／全体の意味が同じだろうと語彙変えたら雰囲気変わるで

[napsucks]

てっきりUTF8のゼロ幅スペースや古典的な句読点の位置でも使うのかと思ったら、もっと根本的な部分に埋め込んでた。

[kihee]

論文などのある程度長さのある文章なら高い確率で検出できそうだけど、SNSで書かれるような短い文章では無理そう。文体を真似させたエッセイなんかでも厳しそうだなぁ……

[hogetax]

直感としてはハーネスと複数LLM利用が邪魔する気がするなぁ...

[secseek]

人間が書いたのに誤検出されるとかがありそうですねぇ

[dollarss]

日本語ではかなり難しそうだが…それができるなら凄いよな。

[r-west]

モデルがベストとして出すはずの結果に別の尺度の歪みを埋め込むのだから、品質が下がるのはやはり必定で、それをどう影響を抑えて埋め込むかの話ね

[dltlt]

人間の書き方の癖も「偏り」だし、書きたい内容（意味）が秘密鍵由来の「当たり領域」に偶々入ってしまうこともあるだろうから、擬陽性かなり出そうに思う。

[urtz]

すごい。そんなことが可能なのか。でも透かし除去オープンモデルが必ず出てくる。

[zakana70]

まじか

[taruhachi]

縦読みでしょ。知ってる。

[Kesin]

この技術が発展した先に1ビット以上の情報を埋め込めるとなると暗号と同様に使えることになるのかな

[kiririmode]

課題「品質を落とさず埋め込めない」は、「確率分布を保ったまま、サンプリング用乱数だけを秘密鍵で制御する」形で解決。「意味を保ったまま文章を書き換えられると消える」という問題は、透かしの担体を「意味」へ

[outalaw]

面白かったし文献もまとめられており参考になる

[siitakke]

長文は論文などお堅いのが多いから英語で出力させて、それを翻訳させたら透かしとか何の意味も無いのよね

[enjoymoon2]

レポートや論文にAI使ったらバレるのが加速するのかしら？ いたちごっこになりそうではあるが。

[escape_artist]

新聞に犯行予告をするシリアルキラーを文章のクセで追い詰めるやつっぽい

[mag4n]

まーたトークン消費しそうなことを。

[harumomo2006]

選択肢を制限してる時点で劣化してると思うんだけど違うの？

[Helfard]

それ、むっちゃ重要。って3回くらい入ったりするんか？

[star_123]

全然人を豊かにしてくれなさそうな技術だな

[everybodyelse]

暗号化すればいけるんか？

[oktnzm]

DSSS的な何か

[rgfx]

embeddingの話だ

[misshiki]

Claudeが生成文への電子透かし導入へ。単語選択の統計的な「癖」で検出し、品質を変えない方式も実用化。一方、言い換え・翻訳には弱く、検出されても「Claudeが著者」の証明にはならない。

[bxmcr]

私も無理なのでは、と思っていました💦技術の進歩の早さ！

[defiant]

この記事をおすすめしました

[toyoshi]

マルチバイト文字なら普通に埋め込めそうだけどそういう技術もあるのだろうか。半角英数がなくなる日も来るかも。

[kuippa]

それって膠着語でもできるんだろうか？ 日本語みたいに語彙で揺らすには助詞ぐらいでしかマークできない気がするが。てっきりUnicodeの不可視文字でやるのかとおもってた。

[altar]

“透かしを埋め込む場所をトークンから 意味空間（embedding space） へ移すというアプローチ” 分子系統解析が形質ベース分類学を過去の物にしたような、従来の言語学とは全く別の工学的なパラダイム凄いなあといった印象

[stabucky]

新しい情報はほとんどなかった。

[Falky]

ふ〜むなにもわからない

[spray_donuts_3co]

今でさえ、AI出力の文章に「なんとなく」癖を読み取ってるわけで、これからもその不自然さ、違和感は残るということだね。ありがたい話だ。

[shoh8]

えー、すごい。表面上のテキストには現れないトークンを保持できるって、虐殺器官（著:伊藤計劃）もうすぐじゃん。

[rogertroutman]

電子透かしを実装していない翻訳サービスで他言語に翻訳して元に戻せば剥がせそうな気がする。しかし透かしが単語の選択じゃなくて文脈に練り込まれてたらだめか

[hoge_hoge_123]

こういったテキストの癖を脱色する手法が出てきそうだけど