はじめに 前回、前々回とSVM、ニューラルネットワークを使ったLivedoor Newsコーパス文書分類器を作成してきた。 今回からは、いよいよディープラーニングを使った文書分類器を作成してみたいと思う。ディープラーニングの中でも、畳み込みニューラルネットワーク (Convolutional Neural Networks: CNN) を使って、実装を行っていきたい。CNNと言うと、画像分類を思い浮かべる人が多いかと思われるが、最近はCNNを使った自然言語処理に関する研究も盛んになってきている。 まずは、文書分類に対してどのようにCNNを適用するのかを見ていきたい。 尚、CNN自体の説明は、ここでは行わない。 全体像 今回作成するモデルの全体像は、(いくらか省略はしているが)以下の図のようになる。 Livedoor Corpusの各文書をインプットに、畳み込み層(Convolution L
![ディープラーニングで文書分類(1) | developer's blog](https://cdn-ak-scissors.b.st-hatena.com/image/square/0f6d90b502f5a9d8b491a26750e036c10b4e0c2c/height=288;version=1;width=512/http%3A%2F%2Fresola.ai%2Fdev%2Fwp-content%2Fuploads%2F2016%2F07%2FPresentation-Materials-2.png)