大学の実験で必要になって実装したのでメモしておきます。 Convolutional LSTM の説明 名前で完全にネタバレしてる感が否めないですが、Convolutional LSTM とは、LSTM の結合を全結合から畳み込みに変更したものです。 例えば画像を RNN に食わすときに、位置情報が失われないので便利です。 動画の次フレームの予測や天気予報などに使えます。 具体的には、以下のような構造になっています。 x は要素ごとの掛け算、 * は畳み込みを表します。 通常の LSTM との差分を赤で書きました。といっても、一部の掛け算が畳み込みになっているだけですが。 peephole の部分だけ要素ごとの掛け算になっていることに注意してください。 実装 Convolutinoal LSTM と、それをビルディングブロックとして使って画像予測のネットワークを実装しました。 github.
![Convolutional LSTM - ジョイジョイジョイ](https://cdn-ak-scissors.b.st-hatena.com/image/square/7a7dde4fa8b4979bdcc1fd2d222a2c844d4f3ea3/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fj%2Fjoisino%2F20171027%2F20171027151517.png)