概要 以前t-SNEの説明記事を書きましたが,t-SNE-CUDAなるパッケージが出ていました. 名前の通りt-SNEをCUDAで高速化するものですが,HPML2018(High Performance Machine Learning 2018 Workshop)で発表されました. 論文 スライド 単にGPU実装がんばりました,だけではなくアルゴリズム上の工夫もしていて, SGDの更新式を物理の知見を用いてAttractive ForcesとRepulsive Forcesの項に分けた上で, 以下の各ステップの計算をCUDAで高速化しているようです. $P_{ij}$の計算 $P_{ij}$と$Q_{ij}$の積 Attractive forcesの計算 Repulsive forcesにおけるBarnes-Hut treeの構築 Replusive forcesのtree走査 低次元空
![t-SNE-CUDAで大規模データの超速次元圧縮&可視化 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/35e623e366edd7c2365148c4138626a475bc7045/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9dC1TTkUtQ1VEQSVFMyU4MSVBNyVFNSVBNCVBNyVFOCVBNiU4RiVFNiVBOCVBMSVFMyU4MyU4NyVFMyU4MyVCQyVFMyU4MiVCRiVFMyU4MSVBRSVFOCVCNiU4NSVFOSU4MCU5RiVFNiVBQyVBMSVFNSU4NSU4MyVFNSU5QyVBNyVFNyVCOCVBRSUyNiVFNSU4RiVBRiVFOCVBNiU5NiVFNSU4QyU5NiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1jbGlwPWVsbGlwc2lzJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9NWQxYTM2NjFiM2ZhOWVjMzQ5MzRhMjc5MjFiNDUzOTk%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwc3RmYXRlJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1lYjg2M2FiZGVhZjlkNjQ1MGY3OTU2Yzg3OTI0ODEyYw%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D6af391ecf707b67b9bd06b82e97f7791)