【E資格】 深層学習day3 - Qiita

#初めに 本記事はJDLAのE資格の認定プログラム「ラビット・チャレンジ」における深層学習day3のレポート記事です。この記事では以下の内容について、そのモデルの概念から確認し、数式・実装を含めてまとめていきます。 再帰型ニューラルネットワークの概念 LSTM(Long Short Term Memory) GRU 双方向RNN Seq2Seq Word2Vec Attention Mechanism #再帰型ニューラルネットワークの概念 ##Recurrent Neural Network(RNN) 再帰型ニューラルネットワーク（Recurrent Neural Network：RNN）は、時系列データの扱いを得意とするニューラルネットワークです。時系列データとは、ある要素が順番に $$ x_{1}, x_{2}, x_{3}, \ldots, x_{T} $$ のように並んでいるデータ