「AIグラビア」で“非実在”の概念が塗り替わる？　論点を整理する：小寺信良のIT大作戦（3/3 ページ） 表現規制はあり得る？ 実在しないキャラクターゆえに、ポーズや衣装、あるいは表現されたものに対して、被写体から文句が出る事はない。つまりどのような扱いをされても実在しないので、虐待やセクハラなどで訴えられる可能性はない。だがそれを表現として受け入れられるかどうかは、また別の問題である。 2010年、東京都青少年健全育成条例において、実際には存在しない、表現上だけの「非実在青少年」を規定し、これを掲載する図書類の販売を制限する改正案が議論されたことがある。児童ポルノ規制は、実在する児童への性的虐待及び搾取を防止するのが本来の趣旨だが、「絵に描かれた児童も保護しよう」というわけである。 当時の騒動を知らない人からすれば全く意味が分からないかもしれないが、当時は相当大真面目にこの改正が行なわれ

セルシスは9月20日、イラスト作成ソフト「CLIP STUDIO PAINT」（クリスタ）の非公式プラグインやソースコードに関する声明を発表し、非公式プラグインの配布などを一切認めない方針を示した。セルシスは「プラグインSDK規約では、当社サービス以外でのプラグインを利用する目的での不特定多数への配布は認めていない」と表明している。 同日午前10時ごろ、X上であるユーザーが「画像生成AIを使ったクリスタ用プラグインを開発している人がいる」という投稿をしており、注目を集めていた。その書き込みによると、このプラグインはすでにGitHubで公開済みであったため、セルシスにこの件をメールで報告したという。 この投稿に対して、クリスタ利用者とみられるユーザーを中心に賛同する声が殺到。「クリスタの方針に反する機能を勝手に導入するから営業妨害になるのでは」「自分もセルシスにメールした」などの声の他、利益

AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も：この頃、セキュリティ界隈で 大学進学を楽しみにしていた17歳の男子高校生は、米オハイオ州の自宅で2022年11月に自らの命を絶った。同年7月には、やはり17歳の男子高校生がサウスカロライナ州の自宅で自分を撃って自殺した。2人とも、わいせつ写真や動画を暴露すると脅して金銭などを要求する性的恐喝「セクストーション」の被害者だった。 AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになった今、そうした恐喝の手口がますます悪質化している。SNSなどに掲載された無害な写真や動画を合成してディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行しているとして、米連邦捜査局（FBI）が注意を呼びかけた。 誰にも相談できず、脅迫が続く セクストーションの犯罪は、加害者がSNSなどで被害者に

自分の声やフリーの声素材、著作権フリーの楽曲などで作るのならば問題はない。関係者を悩ませているのは、声優や歌手などの声を勝手に使った“無断AIカバー”だ。 人気歌手や声優の声を無断でAIに学習させ、無関係な歌を歌わせたり、セリフを言わせたりする無断AIカバーは、アニメファンなどが好きなキャラの声で勝手に制作し、動画SNSなどで人気を集めている。 声そのものが商品である声優にとって、無断AIカバーが作られるのは深刻な問題だ。「早急に何とかしたいと思っているのですが……」。声優の甲斐田裕子さん（アニメ業界の立て直し・発展を目指す有志団体「日本アニメフィルム文化連盟（NAFCA）」理事）は、対策の難しさに頭を抱える。 声を守ることに特化した法律がないことや、作品の関係者が多岐にわたること、関係者の間でも意見が割れていることなどが、問題を複雑にしている。 声優が自らの声でAI音声を作り、新たなビジ

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」は、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告である。 この攻撃は「Nightshade」と名付けられ、約200枚の細工画像をモデルの学習データに紛れ込ませるだけで、特定の単語に関連する画像生成を高確率で操作できてしまう。 攻撃者は特定の単

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google Researchや米MIT CSAILに所属する研究者らが開発した論文「Learning Vision from Models Rivals Learning Vision from Data」は、合成画像と合成キャプションから視覚表現を学習するアプローチを提案した研究報告である。「SynCLR」と呼ばれ、実データを使用せずに、最先端の視覚表現学習手法と同等の視覚表現を学習できる。 表現学習は、生データ（多くの場合ラベルなし）から情報を抽出し整理するプロセスである。現在の最も優れた視覚表現学習手法は、大規模な実データセットに

イラスト作成アプリ「アイビスペイント」を提供するアイビス（愛知県名古屋市）は1月10日、生成AIを使ったアイビスペイントの新機能を取り下げると発表した。9日に追加した、生成AIでイラストの手本を表示できる「AIお手本機能」を削除する。リリース後の反響を受けた対応という。 AIお手本機能は、ユーザーが描いた線などを基にした画像を別のウィンドウ上に生成するもの。同社の有料制会員サービスの加入者、もしくは買い切り版アプリの購入者に提供しており、当初は「生成されたお手本画像を参考にしながらイラストや漫画を描くことができるので便利」と紹介していた。しかし、機能を利用した一部のユーザーから「使ってみたら、他の企業のキャラクターが表示された」などの報告が上がっていた。 ユーザーの声を受け、アイビスは10日に「新しいお絵描き体験をご提供するべく、同機能の開発・リリースを行ってきた。しかし、リリース後のユー

日本赤十字社（日赤）は8月24日、「関東大震災100年プロジェクト」の一部として計画していた、生成AIを使った企画展示とWebサイトへの掲載を取りやめると発表した。「本来の意図が伝わらず一部で誤解を招いた」としている。 取りやめるのは、東京都支部が企画した「100年前の100人の“新”証言　～データとAIで紐解く、あの日に起きたこと。」。東京都支部の1階エントランスの壁に飾られている、関東大震災当時の赤十字の救護活動を伝える絵に描かれた避難民たちをモチーフにした。 ChatGPTをベースとするLLMに当時の文献60万字以上の情報を読み込ませ、震災発生当日に起こったことを被災者が語るショートストーリーを作成した。100人のうち20人については人物画像もAIで生成した。 しかし企画内容が報じられると、SNSを中心に「証言を生成はない」「AIねつ造」「冒涜では？」など批判的な声が多く上がった。中

6月21日公開の、「AIに権利侵害されたらどこに苦情を言う？　『デジタル庁』が最多　日本芸能従事者協会調べ」という記事が話題になっている。日本芸能従事者協会がクリエイターを対象に調査し、2万6891件の回答を得たかなり大掛かりなレポートで、全文は公式サイトで読める。苦情の持って行き先の最多が「デジタル庁」となっていることからも、この問題の混乱が見て取れる。 アンケート前段はすでに記事になっているのでそちらをご覧いただければいいと思うが、アンケート調査のメインは、Q7の「ご自身の作品等で実際にAIに使われた事例があれば教えてください」という事例集だ。回答は2612件寄せられ、そのうち584件が掲載されている。 被害の具体例も多いが、自身の活用例も含まれるほか、「自分は被害に合ってないが～」と同業者の例を報告する例も多数含まれている。いずれにしても、今のクリエイティブ業界とAIの問題を把握する

生成AIの社会実装を推進する一般社団法人「生成AI活用普及協会」は5月22日、資格試験「生成AIパスポート」を開発していることを発表した。生成AIに関する知識やスキルを可視化する試験という。同日に開設した同団体の公式Webサイトで明かした。 開発中の生成AIパスポート試験では、生成AIに関する基礎知識や簡易的な活用スキルの可視化を目指す。AIを使ったコンテンツ生成の方法や事例、企業に求められるコンプライアンス、注意点などを問うという。企業・団体向け試験と、個人向け試験を作成する予定。試験の実施時期などは未定。 生成AI活用普及協会は5月に立ち上がった団体。生成AIを社会で活用していくために、スキルの習得・可視化を推進することが目的という。公式Webサイトでは「生成AI活用スキルの可視化は、企業における適正な人事評価に役立ち、会社員のキャリア形成や学生の就職活動などの一助になると考えている。