AIはどこまで無断で学習できるのか。～文化庁の生成AI論点整理(ガイドラインの素案)を読んで - フジイユウジ::ドットネット

今日、文化庁は生成AIと著作権保護についてのガイドラインとなる素案を提示しました。(2023/12/20時点。その後の状況については追記をお読みください。) 生成AIでなにが合法でどんなとき違法になるべきか、クリエイターや開発者、ビジネス系のひとなどが議論していますが、多くの生成AI周辺にいる人たち全員に関係あるガイドラインがいままさに検討されているわけです。 朝日新聞ではこう報じています。 文化庁は20日、文化審議会著作権分科会の法制度小委員会に、生成AI（人工知能）によるコンテンツの無断学習は、著作権法で著作権者の許諾が不要とされる「非享受目的」にあたらない場合があるとする「AIと著作権に関する考え方」の素案を示した。生成AIが記事や画像データなどを無断で利用する「ただ乗り」（フリーライド）に懸念の声が上がる中、現行法を厳格に解釈し、歯止めをかけたい考えだ。 朝日新聞デジタルより引用

[fujii_yuji]

書いた。6時間くらい文化庁AI文書(えーあいもんじょ)を読んでしまった。

[Shin-Fedor]

目次から気になったところだけ読もうと思ったが、読みやすいので全文読んでしまった。感謝。やはり日本の公的機関のAIに対する取り組みは結構信用できるなという印象。金融庁が頑張って新NISAを実現したのを思い出した

[cvtbgspuda]

AIは勝手に何も生成しない。生成した人が責任を負いなさい。

[yuma_0211]

ずーっと、この辺の認識だったんだけど、この認識で「反AIはキ◯ガイ、ラッダイト！」みたいな言われ方するからな。はてブにも多いけどまともに会話できないから困るんだよ。学習無罪でなんでもいいわけではない

[chibatp9]

依拠性の解釈一つとっても、人間と同じとはいかないのは明白だった。にもかかわらず「人間と同じ」で話を終わらせようとしていた連中のアテにならなさよ。

[xqu]

文化庁の立場は非常にニュートラルだと思う。はてブだとAIイラスト関連で特に的外れなブコメが目立つよね。テクノロジーに対する権威主義的な盲信がありそう。 / ここのブコメにすらしょうもない冷笑系が湧いてるなあ

[keshimini]

「実質的にパクリ同然でもAIならやりたい放題」みたいなのは許さないという意思を感じられるのは好印象。//ラディカルでアナーキー的なAI自由論者の多いはてなだと不満の声も多くなりそうだが果たして。

[mohno]

現実の人物とかディズニーのキャラとか児童ポルノとか「これダメだろ」というモノが出力されてるのに「AI出力なら著作権も肖像権も規制なく利用できる」わけがないし、現行法で規制できないなら規制法が必要でしょ。

[sds-page]

最初の最初から言われてたことから大して動いてないが具体的な事例が出てきて改めて確認された感じ。違法な物を狙って生成しようとする人間の意志がどれだけ介在してるかが重要

[srng]

はてなでは反発が～ってのは本当に読んで言ってるのか。条文は変わらず絵柄が保護されないのも変わらず、現状でも眉を顰めるような特定の狙いをもったI2IやLoRAはアウトになり得るっていう、順当で穏当な話に見えるが

[splaut]

一説によると特定のクリエイターの作風の模倣について本質的特徴があると評価できる場合、と言うのは飽くまで出力物が作風に留まらず学習した作品の模倣にまでなった場合の話らしい。

[nekomask]

よくわからん。特に何も変わりないように思える

[hom_functor]

「AI についての議論が、人がAIを使わずに行う創作活動についての考え方と矛盾しないように留意」とはっきり書いてた先月の資料から基本は変わらず、コーナーケースを整理して安心してAI使えるようにしようという流れ

[Sei]

気になる。あとで文化庁のも読もう。

[avictors]

学習規制のような開発規制は、知に対する規制と考え、設けるべきでない。開発者による不正使用は、スクレイピングの事実などによってしか取り締まれず、防げない。従って、無許可の学習・開発の規制には実益がない。

[LunarCamel]

“目的”

[dltlt]

ユーザが学習対象データの中身を知らないで生成させた出力を権利者から咎められた場合、開示させるべき相手がアレで日本の裁判所の命令が届かない／応じないパターンが頻発すれば、依拠性の推定で必ず負ける気が。

[iksmpic]

わざと他人の絵に似せるな、海賊版の学習は止められない、学習されたくなければ鍵かけろて感じかな／AI絵を作ったりAIを使う行為を自体否定するのではなく、AI絵で他人に似せるなマネするなと訴えるのが妥当かと思う

[pmint]

学習でも生成でもなかった。引用の通り「利用」と「複製」の問題。難しい文書を読むよりも、身近な例を考えるといい。自分も無断無料で学習してるでしょ。/ はてなーは文章読めないから、妄想で知識を補うしかない。

[yarumato]

“たとえば、特定イラストレーターと同じ絵柄だけを出力するモデルやLoRAの学習をすると、法第30条の４は適用されないから学習利用できない場合が出てくる”

[haseshout]

RAGというのですね！あの枠。 “LLMチャットAI、検索エンジンなどのRAG(検索拡張生成)“

[n2sz]

意図的に似せるようにしなければ概ねOKって感じかな。まあこれも法律レイヤの話であって、お気持ちレイヤだとまた違ってくるんだろうが。

[colonoe]

「クリエイターをおちょくってた悪のAI開発者は恐怖に震えながら夜を過ごすことになるのかもしれませんね！」とか書かれると真面目に読む気が無くなるんだけど

[NAPORIN]

“このガイドラインは、1月中旬くらいまで検討された上でパブリックコメントを募集、その後に文化審議会著作権分科会で報告される予定です。”他の知財法・肖像権・表現規制と総括的「加害的公表防止法」がほしい

[rgfx]

おもしれー

[hate_flag]

つか、「どのデータを学習素材に使ったか開示しろ。俺の絵入ってねえだろうな？」って場合もあるからやっぱ学習データの開示を求める権利はないとダメなんじゃないか

[ya--mada]

フジイユウジ

[rogertroutman]

人間と当然に同じこともあれば当然に違うこともある。「これは人間だってそうよね」「これはＡＩならではの論点よね」と思いながら読みました。

[vjaPj]

ルールを守らない国は使い放題。日本はきっちりルールを守って出遅れる。学習元のデータがビッグデータだと権利違反が存在しない事を証明するのは不可能。そもそも学習元を保管するリソースが大きな負担になると思う

[SATTON]

初手から括弧の位置が変だったり日本語がおかしかったり、読みやすいとか言うとる奴は何処読んだんやろ？/ブコメは相変わらず「学習」と「出力」を一緒くたにしとるな。

[puhu208n]

先行する議論も実情も踏まえ広く一般の文化や利益や人権を保護する方向に舵を切り、かつ既存のルールの解釈明確化で対応してて官僚の人々ってスゲーって思った。素人がやると恣意的な概念定義を乱発して死ぬから。

[Gim]

個人的見解としては、学習はおっけー、生成は制限する。だけど、どうせその内、将棋AIみたいに、人間では勝てなくなるから、学習に抵抗するのは日本国にとって害しかないと思う。

[jhonyy]

AIってこれからどうなっていくんだろうね･･･。

[catan_coton]

特段強烈な規制が入る訳でも無さそうで、普通に使う分には何も気にしなくて良さそうだな

[beginnerchang]

日本のルールが守れない人は日本に居なくてよろしい

[gcyn]

『学習の時点で権利者にお金払うようにできないか』は「ビットコインが見た夢」的なとこある気がします。；『何が課題なのかを知って、パブコメ書こうぜ』；データを束にして売る人の存在が透明化されない議論で。

[mmaka2787]

こういう規制は誰が何を守るために行うのか(誰の利益になるのか)を理解して議論する必要がある。周り回って自分たちの首を絞めることになったら悲劇的な喜劇にしかならない。

[etah]

この文章で学習元が納得してくれるなら本当によかった、みんなHappy!!文化庁GJ

[shira0211tama]

具体的に向き合ってる感は出てきたけど結局NGに踏み込んでも物量に対応する権利者側の不利は変わらず、やったもん勝ちな状況は変わらない感。画像自体に学習禁止を埋め込む技術があればこの案でもまだ分かるが…