概要 以前t-SNEの説明記事を書きましたが,t-SNE-CUDAなるパッケージが出ていました. 名前の通りt-SNEをCUDAで高速化するものですが,HPML2018(High Performance Machine Learning 2018 Workshop)で発表されました. 論文 スライド 単にGPU実装がんばりました,だけではなくアルゴリズム上の工夫もしていて, SGDの更新式を物理の知見を用いてAttractive ForcesとRepulsive Forcesの項に分けた上で, 以下の各ステップの計算をCUDAで高速化しているようです. $P_{ij}$の計算 $P_{ij}$と$Q_{ij}$の積 Attractive forcesの計算 Repulsive forcesにおけるBarnes-Hut treeの構築 Replusive forcesのtree走査 低次元空