読唇術で音声入力 スマホで口パクを自撮りし音声に変換「LipType」

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 米カリフォルニア大学マーセド校の研究チームが開発した「LipType」は、音のない口パク映像を音声に変換する、深層学習を用いた読唇システムだ。スマートフォンのインカメラで口パクを自撮りして、話者の唇の動きを読み取る。 音声認識は、周囲が騒がしい場合には信頼性が低く、図書館や電車内などではプライバシーやセキュリティが損なわれる。声が出せない障害のある人はそもそも音声認識が使えない。 解決策としては、口パクのような無声発話による音声入力が挙げられる。無声発話時に動く顎の動きを捉えて音声に変換するものや、無声発話時に顎の下に設置したセンサーから皮膚が変動する顎運動と舌筋の運動を計測し音声に変換す

[misshiki]

“既存の深層学習読唇モデル「LipNet」を最適化して速度と精度を向上させ、照明条件が悪い状況でも処理が行える修復モデルを開発し組み合わせた。”

[kohkuma]

“米カリフォルニア大学マーセド校の研究チームが開発した「LipType」は、音のない口パク映像を音声に変換する、深層学習を用いた読唇システムだ。スマートフォンのインカメラで口パクを自撮りして、話者の唇の動き…

[John_Kawanishi]

2001年から早20年、いまだ木星には辿りつていないがComputerはHAL9000に追いついてきたか

[versatile]

これはいい。

[uiahi]

HAL9000じゃん

[Seamless]

唇の動きだけの音声なし映像をスマートフォンのインカメラで自撮りし深層学習で分類、意図した音声に変換する。照明条件が悪くても補正する前ステップ導入。訓練用データセット2万1635本,テスト用7140本。