word2vec, fasttextの差と実践的な使い方 目次 Fasttextとword2vecの差を調査する 実際にあそんでみよう Fasttext, word2vecで行っているディープラーニングでの応用例 具体的な応用例として、単語のバズ検知を設計して、正しく動くことを確認したので、紹介する Appendix (発表用の資料も掲載いたします,小さくて見づらいので、直リンはこちら) 原理の表面的な説明 Skip gramではある特定の単語の前後の単語の出現確率を測定することでベクトル化する 図1. ある目的の単語から、周辺の単語の確率を計算してベクトル化する Word2vecとfasttextではこれを実装したもの ただし、fasttextにはsubwordという仕組みが入っている 図2. softmaxで共起確率を計算する あそんでみよう 2017年2~3月のTwitterのデータ
![word2vec, fasttextの差と実践的な使い方 - にほんごのれんしゅう](https://cdn-ak-scissors.b.st-hatena.com/image/square/d8faa935d60b857053154b4cd5d256689e6cc7c9/height=288;version=1;width=512/https%3A%2F%2Fcloud.githubusercontent.com%2Fassets%2F4949982%2F24543247%2Fdeba1758-1639-11e7-9f89-fc832bc4c347.png)