天空の城を出現させる深層学習技術 動画内の空を入れ替える「Castle in the Sky」

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 米ミシガン大学の研究員が開発した「Castle in the Sky」は、映像に記録した空を別のものに置き換える、深層学習を用いた合成法だ。従来の手法では動画撮影時にスマートフォン搭載のモーションセンサーが必要だったが、今回のアプローチでは画像情報のみ使う。 撮影後の映像編集に使えるだけでなく、ARとしてリアルタイム表示できる。

[Seamless]

寄稿：映像内の空だけをリアルに変換。ARとしてリアルタイム表示も。推定したカメラの動きに基づき、色合いや光加減を全体的に調整し合成。雷が落ちた時だけ反射するなど動的な変化にも対応。