Character-level Convolutional Neural Networkについて調べてみた - きのこる庭

元論文 Character-level Convolutional Networks for Text Classification ( arxiv ) 概要 One-Hot表現に変換した入力値をEmbeddingした後、6層のConvolution(+Max Pooling)→平滑化して3層からなる全結合層(出力層は問題に応じて適宜変える)という流れ。 カーネル数やパラメータ数は論文中に記載されているので割愛。 特徴 ざっくり論文を読んでみた所、以下のような感じであることがわかった。 ・ データセットが大きい( 1000000以上 )場合に有効。データセットが小さい場合は、やはり古典的ながらn-gram+TFIDFが全般的に良い精度を出している。 ・ アルファベットの大文字・小文字の区別に関しては、大きなデータセットでは区別しない方が良い結果だが、小さなデータセットに関しては区別した方が