Word2Vecをより高精度で32倍軽量にする手法をPairsのデータで試しました

はじめに初めまして、こんにちは。BIチームの小林です。 日頃Fortniteやスプラトゥーンに精力的に打ち込んでいます。 弊社のBIチームでは、様々な数字の分析や機械学習を用いての提案を業務としています。 同様に機械学習を扱うAIチームという部隊もエウレカには存在していて、AIチームは、BIチームより機械学習主体の技術ドリブンで動いています。我々BIチームとAIチームでは、分野的に被る部分も多いため、共同で勉強会(定期的にarXivなどに上がっている最新の論文の輪読会)を行っています。 本記事では、前回の輪読会で私がチョイスしたword2bitsというword2vecを量子化して行列要素のサイズを減らす技術について書かれた論文( Maximilian Lam. Word2Bits — Quantized Word Vectors https://arxiv.org/abs/1803.056

[RabbitBit]

Word2Bits。覚えておきたい。

[t_f_m]

あとで

[hiromichinomata]

Pairsランキング上位ユーザーの趣味ベクトル: 男女ともお酒、読書、映画あたり。クラスタ数4だとディズニーはマンガ、ゲームと同じお一人様クラスタなのか...

[fcicq]

word2bits

[knok]

words2bits