1. RNNLM (再帰型ニューラル言語モデル)の概要 再帰型ニューラル言語モデル (Recurrent Neural Language Model, RNLM) (もしくは RNN言語モデル(RNNLM)とも呼ぶ) [Mikolov et al., 2010] は,再帰型ニューラルネットワーク(RNN)に学習した予測モデルから,直前の数個の単語を入力として,次の1単語を予測する「RNNを用いた言語モデル」である. この記事では,RNNLMについて,簡潔に要点だけを紹介する(3節).また,その前に準備として,前身であるニューラル言語モデル [Bengio et al. 2003] についての基礎知識を紹介する(2節). 再帰型ニューラル言語モデルは,RNNの再帰構造のおかげで,可変長のテキストをモデリングできるようになったのが旧来の言語モデルとの大きな違いである.可変長に対応できるので,旧