RNN/LSTMを使った言語モデルをTensorFlowで実装してみる - 今日も窓辺でプログラムはじめに 以前、TensorFlowのBasicRNNCellを使用して文字レベルの言語モデルを実装しました シンプルなRNNで文字レベルの言語モデルをTensorFlowで実装してみる - 今日も窓辺でプログラム 今回は、前回のコードを少しだけいじって、単語レベルの言語モデルを実装します。また、RNNのセルも、単純なものからLSTMに切り替えてみます。 目次 はじめに 目次 今回やること 作りたい言語モデル ニューラルネットの構成 使用するコーパス 実装 コード全体 コーパスから辞書を作る モデルの定義 学習を回す部分 学習させてみる 辞書の作成 学習の実行 問題点 関連記事 今回やること 今回やることは、前回の記事の知識を前提とします。前回の記事をまだ読んでいない方は、先にそちらに目を通していただけるとこの記事が読みやすいかもしれません。 作りたい言語モデル 単語の列 というコンテキス
