「“毒入り音楽”でAIに学習させない」――人には聞こえないノイズを音声にこっそり入れ訓練不能にする技術（生成AIクローズアップ） | テクノエッジ TechnoEdge
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、人には聞こえないノイズを音楽に埋め込み、その音声をAIモデルが学習できないようにする防御フレームワークを提案した論文「HarmonyCloak: Making Music Unlearnable for Generative AI」に注目します。 ▲攻撃者がクリエイターがオンラインに投稿した音楽をスクレイピングして、音楽生成AIをトレーニングするモデルの図解 生成AIは膨大な音楽データベースから学習を行うため、著作権で保護された素材を意図せず侵害するリスクが高まっており
イラストの依頼でAIイラストを出されて「こんな感じで描いてくれ」と
イラストレーターなんだが、客にAIイラストを出されて「こんなテイストでお願いします」と言われた。 仮にもプロのイラストレーターに対して、AIイラストの真似をしろと？ ブチ切れたんだが、反論してきやがった。 そもそもAIイラスト技術というのは、膨大なデータベースからAIが学習をして、命令に沿ったイラストを出力するものだ。 それはもちろん数多の絵師たちの創作物を無断で剽窃しているわけで、それが問題なのは分かっている。 商用利用に使ったのなら権利侵害になるのはわかるが、今回はイラストの方向性を具体的に指示するために用便的に使ったわけで、金銭の授受が発生したわけでもない。そこになんの問題があるの？ むしろ使い方としては正しい。 そもそも、イラストの世界では具体的にキャラ名を挙げて、これに似た感じに描いてくださいというのは日常的に行われているよね？ その対象が「特定のイラストレーターの特定のキャラク
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「“毒入り音楽”でAIに学習させない」――人には聞こえないノイズを音声にこっそり入れ訓練不能にする技術（生成AIクローズアップ） 1枚目の写真・画像 | テクノエッジ TechnoEdge
宿題もリポートも生成ＡＩが作った「正解」丸写し、教諭は嘆く「これじゃ無料の代行業者だ」
