中国が画像生成AIの画像に「AI生成マークの表示」を義務化＆AIユーザーも実名登録制へ

近年、Stable DiffusionやMidjourneyなどの画像生成AIの開発が急速に進んでおり、誰でも手軽にAIによるコンテンツ生成を実行できる環境が整いつつあります。そんな中、中国政府が画像やムービーを生成できるAIについて「ユーザーの実名登録」や「AIによって生成された旨の表示」を義務付ける規則を発表しました。 国家互联网信息办公室等三部门发布《互联网信息服务深度合成管理规定》-中共中央网络安全和信息化委员会办公室 http://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm China bans deepfakes created without permission or for evil • The Register https://www.theregister.com/2022/12/12/china_deep_syn

[jt_noSke]

AIで生成されたものであると明示するのはえぇアイデアだとも思うがなぁ、「コンテンツ生成AIの提供者は、ユーザーの身元情報を確認し、コンテンツ管理を強化する必要がある」この辺がなんか嫌だなぁ

[onigiri-chan]

プーさんの画像は人力で描かないとな…

[tana_bata]

"一方で、ERNIE-ViLGでは「天安門事件」や「革命」といった中国政府にとって都合の悪いワードがブロックされていることも判明しており" さすがやなー

[myr]

A.I.で作った画像のファンアートをさらにA.I.が取り込んで、それをレタッチした画像のコラージュ、みたいなものにはなんて表示すりゃええんですか

[runeharst]

反政府の種となるサブカル民を徹底監視するスタイルはさすがディストピア政策

[timetrain]

マーク付与は一つの案としてわかる気がするが、身元確認で反共封じを狙うあたり、一石二鳥か三鳥も狙ってるな

[shaokuz]

俺もおでこにAI生成マーク貼り付けて生活するか

[kotaponx]

プーさんや六四天安門を描くAIが怖いんだろうなぁと思ったり。

[ikebukuro3]

その一方でそんなのガン無視のAIも出てくるはず。中国ってそういう国だろ

[ET777]

ディープフェイク警戒なんだろうけど、”一部にAI機能を使った”ってタイプの作品がこれから出てくるだろうから線引きどうするのだろう

[synonymous]

金の卵を潰すのが得意なCCP

[diveintounlimit]

“ERNIE-ViLGでは「天安門事件」や「革命」といった中国政府にとって都合の悪いワードがブロックされていることも判明”

[misshiki]

“中国政府が画像やムービーを生成できるAIについて「ユーザーの実名登録」や「AIによって生成された旨の表示」を義務付ける規則を発表”

[harumomo2006]

中国が率先して規制するくらいだから別の意味で警戒してるよね

[yuu-yuiken]

AI「私が生産者です（笑顔）」

[mos-tantan]

AI嫌いの絵師達がこの対応を絶賛しているのが醜すぎる。表現の自由と喚きながらあいつらの人権意識も表現に対する姿勢も中国共産党レベル

[studycalnu0220]

中国のような権威主義体制の方がトップダウンで決定が早いから、分断ばかりの民主主義の先進諸国よりこれからは伸びる！って意見が多いけど、ゼロコロナとかこういう規制を見るとやっぱりそう思えないんだよな。

[ryunosinfx]

監視社会、ここに極まれり。AIパワーで反乱起こされたら太刀打ち出来ない可能性を考慮してか。情報統制でかろうじて体制維持できてる状況からするとAIで情報統制が崩壊したら目も当てられないかもしれないね。

[maguro1111]

中国に差をつけられるポイントが増えるのは良いこと

[gameloser]

実際に問題は起こしても、画像に「AI生成マーク」を貼れば解決だね。マークのない画像や動画を拡散した人を逮捕すれば良いので。

[anigoka]

技術は最先端なのにしょうもな　ベンチがアホな国は大変やなぁ（極音速ブーメラン

[tg30yen]

AI生成コンテンツであるかどうかが判別できない以上、破ってもバレないほとんど意味のないルールだと思うけど。 >AI生成コンテンツであることを示すマークを改ざんしてはならない

[wdnsdy]

リアルなデモ画像とか、あの人のコラ画像とかを作られたら困るからか

[manaten]

AI生成マークを消すAIが生まれそう

[NEXTAltair]

ささやかな抵抗としてERNIE-ViLGモデル流出させてくんないかな?

[number917]

すげえ、斜め上から中国らしさ炸裂だ

[tackman]

こんなレベルで国家が介入するの… “The bureaucracy is expanding to meet the needs of the expanding bureaucracy.” を連想した

[asrog]

中国は怖いだろうねえ。

[catsnail]

一部だけの場合はどうするんだろう。食品みたいにAI部分が何%以上かで線引きする？

[for-my-internet-demo]

スピード感

[MarvinParnroid]

ゲーム業界への規制と同じ匂いがするね。

[q-Anomaly]

うーん、フェイクニュースは怖いからなぁ・・・／日本人は2次元イラスト描かせてるけど、英語圏の人はオバマさんやトランプさんのネタ写真作らせてるから・・・

[toaruR]

虚構より虚構(ノ∀`)

[eru01]

AI Ethicsに配慮のふりしてるけど、単に検閲の邪魔になるからだろｗ　本音言えよｗ

[strawberryhunter]

よくわからない。Computer Generated Imageの中のAI Generated Imageなわけだが、境界線はどこにあるのだろうか。「人間の顔やリアルなシーンを生成する際」であれば、中国人はとりあえず写真には全部つけとけばいいかもしれない。

[taguch1]

トレーサビリティみたいなの欲しいけど学習元が大量にあったらhashチェーンみたいなのは破綻する？

[laislanopira]

中国の人みんなピクシブに来てるよな

[akiramaz]

プーさんの絵を描いてAIマークつけときゃよいのかな？

[mopx]

“AIによって生成されたことを示すマークを目立つように表示する必要がある”うわあ、Photoshopで加工した画像も、明示するんですか？AI使ってますよ！？