3秒の音声があれば本人そっくりの声で日本語・英語・中国語合成できる「VALL-E X」はやはり脅威。MSが非公開にした技術のOSS版を試して実感した（CloseBox） | テクノエッジ TechnoEdge

わずか3秒の元音声から本人そっくりな音声合成が可能な技術「VALL-E X」が誰でも使える形で公開されました。オープンソース版で、ローカルマシンからWebUIで利用できます。さっそくインストールして使ってみました。 以前、ディープラーニングベースの音声・歌声合成ソフトであるDiff-SVC、リアルタイム処理が可能なAIボイチェンRVCを紹介したとき、自分は記事タイトルに「驚異の」という形容詞を付けました。それでも学習には数十分の本人による音声データが必要で、そこまでのデータを用意するのは容易ではありません。それに対してVALL-E Xでは元データが3秒あれば本人に似た声を生成できるのです。

[hobbiel55]

これは録音してたと称して偽の証拠を作り放題だな。本物の音声との判別ツールが必要。

[su_rusumi]

もうすぐ本人の声も映像も精密に再現できるようになる。こうして「現実と仮想の違いがわからなくなる」が現実になる。

[FUKAMACHI]

本当にパンドラの筺というか。特殊詐欺やってる連中、大喜びとしか。

[WildWideWeb]

英語や中国語の標準話者の声だけ自分の物に差し替えできたら究極の学習モデルが提示されるわけで発音練習のやる気爆上がりだろうな、と昔夢想していた。世界を性善説で考えては生きていけない2023年の厳しさ。

[yujimi-daifuku-2222]

本人の発言、と称したスクープも信用ならない時代が来てしまったのだなと。/政治的に対立する者同士が捏造の誘惑に抗えるかというと、見通しは明るくなさそうだ。

[hogeaegxa]

パワハラの証拠とかで音声はもう使い物にならないだろうし、証拠無しで有罪にできるセクハラと違ってこれからは逆に泣き寝入りになるのかな

[by-king]

3秒間音の出し方を学習しただけに過ぎないんだから規制する必要はないでしょ、という論が成り立つ

[babi1234567890]

恐ろしいほど悪用されそう😰

[hisawooo]

写真も録音も信用できない時代だ

[htnmiki]

声を勝手に録音されないためのポータブルジャミング機器みたいなのが流行るんだろうか

[kei_1010]

ガッカリ

[soitan]

そんなに凄いのかと思ってウキウキで動画を確認したら全然で解散……

[nt46]

まあ個人的には、初めて使ってみたいAI？が来たな、って感じだが。

[vegnpomn]

とりあえず芸人の4秒ほどの音声読ませて殺害予告とか誹謗中傷を作ってみたけど、意味があるセリフとなるとアクセントとかが微妙で、今のところは悪用も限定されそうだ。今のところは

[mkotatsu]

いずれは、と考えて対抗技術作ったり法整備したりする余裕はありそうだな

[Byucky]

偽造が不能な最高音質とか最高画質とかに価値が出てきそうだ。それらは得てしてハイコストだから、弱者泣き寝入りの構造でかなりよろしくない

[bigchu]

学習ははやい

[blackphone9]

そのうち声とか容姿みたいな自分たらしめる物を保護する権利みたいなのができるのかなぁ｡自分に類似したものが勝手に生成されるのは気持ちよくない(お気持ちですよ)【前コメ消して書き直し】

[zakunubo]

録音を警戒して他人とは喋られなくなる時代が来るのか

[pekee-nuee-nuee]

電話、本当に死ぬかもしれない……

[p_funny]

耐タンパ性の高い証明書付き書ききりメディア使えば映像や音声が裁判で証拠能力失うなんて事はまずないよ。別にAI使わなくたって映像音声の改竄なんてとっくにできるからね

[konnie]

こういった、犯罪に使われると摘発が難しくなる系の技術はすべて利用する側に対しての免許性にするなどの対策を講じるべき。確実にこれで騙される人が増えるのは目に見えているわけなので。

[Yagokoro]

悪用しか出来ねえような技術だな

[misshiki]

“わずか3秒の元音声から本人そっくりな音声合成が可能な技術「VALL-E X」が誰でも使える形で公開されました。オープンソース版で、ローカルマシンからWebUIで利用できます。”

[lavandin]

前にジョジョの日本人声優の声を英語に変換したやつがバズってたけど、英語だからかさっぱり似てると思えなくてポカーンだった…。これはもっと向上してるのかな？

[kotoripiyopiyo]

ai

[hide_nico]

“学習元の音声データが中国語、英語、日本語のいずれであっても、それぞれのネイティブ発音だけでなく、英語訛りの日本語、中国語訛りの英語、といった表現が可能になります。”

[kobito19]

知らない電話番号には出ない、知らない人とは会話しない。これを破るのはパスワード使いまわしと同じ罪

[hearthewindsing]

声優、ナレーションの仕事が激減するな。声の良さが問われなくなる。この技術でAIと会話するのは避けられない世界。

[hevohevo]

来ちゃったか。OSSで出ることで機能はあっという間に向上・・・してしまうなぁ。裁判で録音データを証拠として使えなくなる時代が来るのね。あと、Youtuber関連の炎上でこれをネタとして使われそうな予感がしている。

[byod]

死者の人形遊びが捗りますね。そして はてブが感動すると、、

[Nean]

“パンドラの匣、完全に開いてしまった感ありますね。”／まんまぢゃ使途は限られるけれど、録音ファイル＋電話経由ならばいろいろ悪さをするヒトが喜びそうな。無料だしぃ。

[onekosama_2021]

まさに脅威。凄すぎる！

[will_in_hiki]

Vtuberの月ノ美兎がRVCで動画作ってたな　【ドッキリ】変声機で自分の悪評バラまいてみたhttps://www.youtube.com/watch?v=aOqwCQignwA　月ノ美兎の演技力でカバーしてるとこあるけど

[RXRHsZcJ6xnGXZR8TEZA6hAxzRd3mkD]

まー使い物になるのに15年はかかるかなって地点。声がガラガラなのと抑揚がないのと。

[ucue]

捏造の悪用もできるとともに、証拠も無効にできてしまう。裁判で写真の証拠能力を否定されたことなかったっけ。

[julajp]

画像生成AIと併せたりで、気合い入った二次創作できちゃうな～。コンテンツホルダーは、二次利用について、色々検討声明出さないとだろうな～。

[j1nsuke]

ドンドン肉体の価値が上がっていくな

[Cru]

会社に損害与えてしまったみたいな設定で話してる時に演算時間による長い沈黙はむしろ効果的だったりしないか。あとは短い受け答えを別に何通りか用意すれば…

[puruhime]

なりすましできるからヤバいってコメント多いけど、ユーザお手製TTSならCOEIROINKやCoeFontでやろうと思えばやれる事なのよね。 危惧する内容が周回遅れしてる方がヤバいと思うよ