Factorization Machinesを今更読みました - EchizenBlog-Drei前から気になっていたのですが、読んでいなかった Factorization Machines [S. Rendle, 2010] を読みました。 論点が明確で非常に読みやすい論文でした。それだけでなく手法自体もシンプルかつ効果的で極めて良いように思いました。私が好きなタイプの手法で、もっとはやく読んでおけばよかったという気持ちです。 提案から6年経っているので、もしかしたら今はもっと良い方法があるかもしれないのですが、自分の頭を整理する意味でもメモを書いておきます。 概要 Factorization Machines (以下FM) は、組み合わせ特徴量を扱う教師あり学習のモデルです。 特徴量ごとに 次元ベクトルの重みを持たせて、組み合わせ特徴量の重みを という内積で表現することで、組み合わせ特徴量の疎になりやすいという問題を解決しています。 学習はSGDなどのオンライン学習が利用でき、1回
