Claude文章で「AI製」バレる? コピペでも残る電子透かしにネット反発 - 日本経済新聞

【シリコンバレー=山田遼太郎】米新興アンソロピックが人工知能（AI）「クロード」が生成した文章をAI製だと判別できるようにすると発表した。AI編集の証拠を残す「電子透かし」と呼ぶ手法だが、AIをどう使ったのか正確に検知するのは難しく、一部のユーザーの反発を招いている。8月以降に世界で導入、EUの規制に対応アンソロピックは10日、8月以降に提供するクロードの新モデルが書く文章に、AI製を意味す

[mak_in]

タイピングを代行する職業、タイピストの仕事が復活するかもね。 https://note.com/solisolidon/n/n05e5c0edb296

[Adeptus]

例えば接続詞の「そして」と「さらに」は入れ替えても意味が変わらない。片方を0、もう一方を1とすればそこにデジタルな透かしを埋め込める。

[sgo2]

雑に言えばAI臭い文章をわざと書く技術なので、アナログコピーだろうが残る。分かり易い例としては句読点をパターン的に追加/削除するとか。

[tpircs]

反発ってそんなにあるんだっけ。そして電子透かしは日本語レベルで例えると微妙。コンピュータだから文字コードのbit配列の傾向で可能なわけで表面的にはわからんくらいと思ったほうがいい。

[bopperjp]

Gemini の生成文章にはすでに Synth ID Text が入ってるですけど。。

[taguch1]

ローカルLLMで再構成すれば透かしをほぼ消去・無効化できるので透かしがあればAI製は証明できるけど、透かしがないことでAI製じゃないことは証明できない。

[hateokami]

透かし入れられようが写経すればよくね。AIに求めているのはアウトプットそのものの質ではなく、思考の整理と過程の時間短縮だけ。ボトルネックになるのは意思決定者であることに違いはない。

[ikihaji_kun]

AI製は他のツールを使うのと同じと言ってた連中がAIポン出しとAI使って推敲したのは違うと"お気持ち"を表明してるのは滑稽。大事なのは過程じゃなくて結果って言ってたよね君ら

[BigWhiteDog]

手を抜いてるんだから手を抜いてるってマークつけても別にええやろ？

[tsu_nyan]

仕様が出てた。秘密鍵+直前トークン列→疑似乱数、次の候補を選択、繰り返し、で秘密鍵持ち検出器(非LLM)だけが認識できる統計的相関が出来る。たぶん判定には秘密鍵持ち鯖への送信が必要。LLMロンダで割と壊せそう

[zg90]

「利用者からは「自分で考えた文章を校正しただけでAI製にされてしまう」などと、困惑の声が上がっています」私は自分で考えて自分で校正した人が偉いと思ってるよ

[nori__3]

同義語の出現率から判定するとしても、AI文章判定ツールが公開されるなら、同義語変換ツールができてAI判定されなくなるまで回すだけのような気もするな…

[miyabisun]

Herdr(API)やtmux(send-key)で、総合通信の仕方を調査させてSKILLSで固めておいて、Claude上で壁打ちして、結果を他エージェントに共有したりレビュワーに徹すれば普通に使い続けられる。そこまでして使う程の話かは知らん。

[strawberryhunter]

EUはマジで何がしたいんだ。

[georgew]

検知手法についてはClaudeが公開するんじゃなかったっけ？

[ytRino]

反発なんて聞いたことがないが全文を見てないので謎のまま

[elsheep]

AI製でも、人がちゃんとレビューして何度も書き直した文章と、適当なプロンプトで一発生成でできた文章で、生成した本人も読んでない文章を区別したい。

[colonoe]

無料部分には反発の理由が書いてないが、思いつくのは冤罪対策が不安とか、透かしを入れることによる品質の低下とかかな

[beed]

"例えば接続詞の「そして」と「さらに」は入れ替えても意味が変わらない。"/同じ意味だと思ってる人がそんなに多いの？意味違うよね？

[namisk]

“人間が読むと自然な文章になっているが、システムに読み込ませると検出できる統計的な特徴を入れる”“「透かしの検出はコンテンツにクロードが関わった可能性の手がかりではあるが、完全な裏付けにはならない」”

[rogertroutman]

反発？　歓迎ムードのような感じがするけど…

[arapro]

「チャッピー、このClaude製テキストから電子透かしを削除して」「ロンダリングですね、かしこまりました」

[netafull]

さらに透かしを学習して何がオリジナルなのか分からなくなるってことはないのかしら “AI編集の証拠を残す「電子透かし」と呼ぶ手法”

[n2sz]

他社AIでも透かし入ってるらしいけど同じような技術を使ってると傾向が被っちゃうことはないのかな

[knitcapmann]

別に構わん。むしろ支持する。

[beerbeerkun]

メタデータではなく文章本体に埋め込むとなると確率的な判定にしかならないと思うがかなり長い文章じゃないと厳しくないか

[shira0211tama]

この前の仕組み解説記事掘り下げて調べたが、秘密鍵由来の透かしでカバーできるのは良くも悪くもポン出し未推敲、ある程度の長文で、段落や文節をコピペで前後させただけでも崩れるそうな。逆に写経は意味ない。

[superimo454]

コピペでもダメってすごい。どうやるんだろうか。純粋にその技術が気になる。

[slkby]

反発する意味が分からん

[keidge]

テキストに対するウォーターマーキング技術の解説が、アルゴリズムそのもので面白かった。

[b9rantan8]

まさに透かしっ屁。

[umi-be]

Claudeで作った文章をGeminiで直せばいいじゃん

[gogoniandgogoni]

テキストについてもAIでつくったことがわかるようになしないといけないことをEU法は求めてるのかあ。結構大変そう。ばれたくない人はAI検知回避文章ジェネレーターみたいなのを通す感じになるのか？

[opaopachang]

AI叩き騒動が無限に拡大しそうだな。今のAIの評価が定まっていない時期にこれをやるのはかなり怖いね。どうなるのか