タグ

AIとtroubleに関するmyrmecoleonのブックマーク (8)

  • 画像生成AIで簡単にニセモノが作れるようになった結果作者が二次創作禁止を発表せざるを得ない事態に

    樋口紀信@疫神のカルテ全3巻 @susujinkou 《読者の皆様へ》【二次創作禁止のお知らせ】 LoRAの話題から離れている間は全く平気なのですが、この話題になるとかなり辛いです。 申し訳ありませんが、『樋口紀信LoRA』を使われる可能性から、ファンアートを含めた自著の二次創作を一切禁止します。(続) 樋口紀信@疫神のカルテ全3巻 @susujinkou あのLoRAで自著のキャラを描かれるのも、その他の画像生成AI二次創作されるのも、それらと手描きの区別をつけなければならないのも、今は無理です。 耐性が付き次第、また解禁します…!! ホントすみません!! リンク となりのヤングジャンプ [第1話] 疫神のカルテ - 樋口紀信 | となりのヤングジャンプ 「疫神症候群」それは超常能力を発現し、やがて死に至る病。 発症原因は一切不明。対症療法以外の治療法は無し。ある日突然、家族が、友人

    画像生成AIで簡単にニセモノが作れるようになった結果作者が二次創作禁止を発表せざるを得ない事態に
    myrmecoleon
    myrmecoleon 2024/03/21
    本当に作者本人の絵を使っていないとしたら、LoRA作者が模倣した絵(つまりここでいう二次創作)を元にLoRAを作ったのかな。もちろん不可能ではない。二次創作者のラインを逸脱した凶行だなとしみじみ。
  • AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE

    Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIChatGPTが活躍していたり、世界的なコンサル企業が「社員の50%は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。 [2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget https://doi.org/10.48550/

    AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
    myrmecoleon
    myrmecoleon 2023/06/14
    これがあるので、AI生成に反対してそれを避けるコミュニティが存在することは、結果的にAI生成にとって有益にも働くというパラドックスがある。
  • お詫びとご説明|Nya6y|pixivFANBOX

    はい。この度はご迷惑をおかけしました。 概要です ・しずくちゃんは当に自動だったのか ・事の経緯(時系列) 以下、ご説明になります。 しずくちゃん ・Twitter規約の範囲内で自動です。よってVtuberの自動アカウントの中で最も高い自動化率を実現しています。詳細は(こちら)をご覧ください。どこかでも申し上げま...

    お詫びとご説明|Nya6y|pixivFANBOX
  • 安倍氏AI音声を突如公開→削除 「東大AI研」倫理上の問題は | 毎日新聞

    天国から皆様の素晴らしい活躍と我が国の発展を見られることを楽しみにしております――。銃撃事件で亡くなったはずの安倍晋三元首相が、そう語っているような音声が突如、インターネット上にアップされた。肉声をAI人工知能)で再現したとするもので、公開は賛否両論が渦巻く国葬の2日前。制作したという「東京大学AI研究会」(東大AI研)と名乗る団体の実体ははっきりしない。誰が何のために。【金森崇之】 自民議員がシェアやツイート 9月25日、「AI安倍晋三元総理からのご挨拶」などと題した1~2分程度の音声数が動画投稿サイト「ユーチューブ」に公開された。いずれも、生前の写真とともに安倍元首相が有権者や若者に向けて語りかける構成だ。投稿者とする東大AI研は特設サイトで、安倍元首相の声を「優しくも、力強さを秘めた」と評し、AI技術で「よみがえらせた」と記した。 「東京大学人工知能研究会が総力を挙げて私の声を再

    安倍氏AI音声を突如公開→削除 「東大AI研」倫理上の問題は | 毎日新聞
  • 文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明

    人工知能を研究している非営利団体OpenAIが開発した言語モデル「GPT-3」を使用して、何者かが海外掲示板のRedditに1週間近く投稿を続けていたことが分かりました。GPT-3による投稿は、最終的に開発者の手によって停止されましたが、発覚するまでの間GPT-3は誰にも気付かれることなく、Redditユーザーと言葉を交わしていたと報じられています。 kmeme: GPT-3 Bot Posed as a Human on AskReddit for a Week https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html Someone let a GPT-3 bot loose on Redditit didn’t end well https://thenextweb.com/neural

    文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明
  • 人間の命を救うはずだったAIが政治と無知によって無視されてしまった話|Kan

    優れた料理人はお客さんが育てると言うことばがあります。料理べるお客さんが、それがほんとにうまいかどうかわからないと、料理人のレベルも上がらないということです。 実はAIにもそれと同じような面があります。 AIがわからない人にAIを渡しても、AIの真価は発揮できないということです。 今回は、汚染された水道管を発見することができるAI機械学習による予測モデル)をせっかく開発したにもかかわらず、結局使われなくなってしまい、そのせいで問題の水道管が今でも取り替えられず、多くの人の命が危険にさらされていると言う、アメリカのミシガン州のフリントという町で起こった話を紹介したいと思います。 以下、要約。 --- How a Feel-Good AI Story Went Wrong in Flint - Link アメリカのミシガン州にフリントという、かつてはアメリカの自動車産業の繁栄とともに栄え

    人間の命を救うはずだったAIが政治と無知によって無視されてしまった話|Kan
    myrmecoleon
    myrmecoleon 2019/03/28
    “AIがわからない人にAIを渡しても、AIの真価は発揮できない”サトラレがいかに有能でも人類はサトラレの発想が理解できないエピソード思い出した。
  • アマゾンのスピーカーが夫婦の会話を録音、勝手に他人に送信

    サンフランシスコ(CNNMoney) 米アマゾンのスマートスピーカーに内蔵されている音声アシスタントの「アレクサ」が、米オレゴン州に住む夫婦の会話を知らないうちに録音し、その内容を夫の勤務先の従業員に送信してしまう出来事があった。 オレゴン州ポートランドに住む夫婦は、自宅でアマゾンのスマートスピーカー「エコー」を使っていた。は地元放送局KIRO7の取材に応じ、自宅のスピーカーについて、夫と冗談で「間違いなく私たちの話を聞いている」と話していたことを明らかにした。 事態が発覚したのは2週間ほど前。夫の勤務先の従業員から電話があり、夫婦の会話を録音した不審な音声ファイルが送られてきたと告げられた。 電話の相手は、「すぐにアレクサ装置の電源を抜いた方がいい」「あなた方はハッキングされている」と夫婦に忠告したという。 録音されていたのは、夫婦がフローリングについて話していた会話だった。女性はアマ

    アマゾンのスピーカーが夫婦の会話を録音、勝手に他人に送信
  • 中国マイクロソフトの人工知能「微軟小冰」がボーカロイドに喧嘩を売って炎上中 - 中国アニメブログ ちゃにめ!

    Androidの方はここをクリック バージョンアップも重ねてボカロPも小冰に歌わせはじめたりと評価もまずまずで、新しい技術の歌姫が誕生したと好意的に受け入れられてはいたようですが、どうも好評で調子をぶっこき始めてしまったようで小冰の運営がこんな増長発言をしてしまったようです。 ▼問題の小冰公式告知 来自:weibo @小冰 小冰に歌唱を学習させるための歌手を募集している告知なのですが、この煽り文句がなかなか過激で挑発的です。 「传统虚拟歌手的時代已成过去,我是新的未来」 かつてのバーチャルシンガーの時代は過ぎ去りました、私が新しい未来です 「虚拟歌手的调教技巧将不再具有价值」 バーチャルシンガーの調教技術にもはや価値は無い 未来というのはミクともかけているような感じもしますね。 まあ、とりあえずあからさまにボーカロイドを軽視し、技術を磨いてきたボカロPを煽っていく小冰のこの告知には当然の

    中国マイクロソフトの人工知能「微軟小冰」がボーカロイドに喧嘩を売って炎上中 - 中国アニメブログ ちゃにめ!
  • 1