AIが書いたテキストに“電子透かし”を入れる技術 人に見えない形式で埋め込み 米国チームが開発

Web上の合成データ（AIが生成するテキストや画像など）の急増は、今後のデータセット作成の取り組みを複雑にしている。合成データは人間のコンテンツよりも劣ることが多く、モデル学習の前に検出し、除外しなければならないからである。 電子透かしとは、テキスト中の隠れたパターンのことで、人間には知覚できないが、アルゴリズム的には合成テキストであることを識別可能にする。この研究では、合成テキストを短いトークン（25トークン程度）から検出可能にする効率的な電子透かしを提案する。 トークンを、1個前のトークンのハッシュ値を元にして、グリーントークンとレッドトークンに分ける。生成したテキストではグリーントークンの割合が高くなるように設定する。グリーントークンとレッドトークンの割合を分析することで、電子透かしが埋め込まれているかを判定する。 電子透かしは、言語モデルのAPIにアクセスしなくても、アルゴリズムで

[masadream]

「電子透かしとは、テキスト中の隠れたパターンのことで、人間には知覚できないが、アルゴリズム的には合成テキストであることを識別可能にする」

[deep_one]

???

[misshiki]

“大規模言語モデル（LLM）が出力するテキストに対して電子透かし（ウォ―ターマーク）を入れるフレームワークを提案した研究報告”

[maxk1]

内緒で縦読みを仕込むとか

[ustar]

これ気になる

[quwachy]

申し訳ないけど以前からある

[cinefuk]

コピペの際に前後を入れ替えたり、用語を置換したりでは回避できないのかな「電子透かしとは、テキスト中の隠れたパターンのことで、人間には知覚できないが、アルゴリズム的には合成テキストであることを識別可能」

[Seamless]

生成AIが作成した文章に人には見えない電子透かし(ウォ―ターマーク)を注入する手法。緑のマーカーが多いとAIが生成と判断。添付画像では一番下がAIが生成。中央が人が作成。

[suzukiMY]

https://arxiv.org/abs/2301.10226 『合成テキストを短いトークン（25トークン程度）から検出可能にする効率的な電子透かしを提案する。』