人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール 合成音声に使われないために保護

音声合成技術の進歩は顕著であるが、人間や機械を欺くために悪用されることもある。これはディープフェイクと呼ばれ、例えば、詐欺師たちがCEOの声を合成して部下に連絡して大金を振り込ませた事件も起きている。影響力のある人物の声を合成して誤情報やヘイトスピーチを生成し、社会に広範な悪影響を及ぼす可能性もある。法整備も追い付いていない。 （関連記事：「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか？ NTT社会情報研究所が調査） この脅威に対処するため、研究チームは「AntiFake」と呼ばれる新しい防御ツールを開発。このツールは従来のディープフェイクを後から検出する方法と異なり、被害者の声として合成されること自体を未然に防ぐ。 被害者が音声データを外部（SNSやWebサイトなど）に公開する前に、録音した音声信号に最適化されたノイズ（敵対的摂動）を適用する。これにより、人間の耳には正し

[InvisibleStar]

どうせ悪党はこのガードを掻い潜るツールを作るだろうし、これからはYouTubeや音声SNS等でうかつに自分の声をさらしては駄目な時代になるんだろうな。講義動画をネットで全世界公開してる大学とかも考え直すことになる

[pwatermark]

ふむ、じゃあこのガードを突破するためのコードをCode Llamaに書いてもらうかね

[misshiki]

“自分の声が音声合成されないための防御ツールを提案した研究報告である。このツールで処理した音声は、攻撃者が音声合成ツールの入力に使用しても、被害者とは異なる音声が出力され、悪用ができなくなる。”

[hinonono]

読み込めないとか、AIには無音に聞こえるならまだ分からんでもない。別の音を混ぜ込もうとするなよ

[ghostbass]

CCCDだな。

[tGsQqV]

CCCDを思い出したりした。

[Seamless]

WebサイトやSNS等に公開する前に録音音声に敵対的摂動を注入。人の耳には正しく聞こえるがAIモデルには異なる音声として認識される。保護率95％以上。コードやデモあり。