これなに? 広告分野での機械学習システムをpythonとScalaで開発している長谷川といいます。 Web広告では一日に膨大な量のリクエストを受けるとともに、その特徴量の種類も非常に豊富なため、どうしても使用メモリ量や実行時間がボトルネックになることが多々あります。 そのため、塵も積もればの精神で、日々細かい改善を繰り返しながら、パフォーマンスを改善しているのですが、その際にscipy.sparseの性質を利用することで、実行時間とメモリ使用量を改善できたことがあったので、その経験を元にしていくつか例を紹介します。 scipy.sparseとは? ざっくりいうと、疎である行列のメモリの持ち方を効率化するためのモジュールです。持ち方は、行いたい処理の性質に応じて、行指向のcsr形式や列指向csc形式など、多々あるのですが、今回はcoo形式(座標形式)の性質を利用して、処理を効率化します。 C
![SciPyの疎行列を利用して、膨大な量のデータ前処理を加速させる - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/5b1c5cdeed8499f93307587ff811e86efca44e2b/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-7940cd1c8db80a7ec40711d90f43539e.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9U2NpUHklRTMlODElQUUlRTclOTYlOEUlRTglQTElOEMlRTUlODglOTclRTMlODIlOTIlRTUlODglQTklRTclOTQlQTglRTMlODElOTclRTMlODElQTYlRTMlODAlODElRTglODYlQTglRTUlQTQlQTclRTMlODElQUElRTklODclOEYlRTMlODElQUUlRTMlODMlODclRTMlODMlQkMlRTMlODIlQkYlRTUlODklOEQlRTUlODclQTYlRTclOTAlODYlRTMlODIlOTIlRTUlOEElQTAlRTklODAlOUYlRTMlODElOTUlRTMlODElOUIlRTMlODIlOEImdHh0LWFsaWduPWxlZnQlMkN0b3AmdHh0LWNvbG9yPSUyMzNBM0MzQyZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZzPWZjNzdlNzhiN2YwMTAxMzcwZjQzYjhlMzRhYjQ4N2Jl%26mark-x%3D120%26mark-y%3D96%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9OTcyJnR4dD0lNDBIYXNlODM4OCZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9MzA5ZjQzNTFiY2JmYWVhMGFkZTEzMzhkNGViMWYwNTY%26blend-x%3D120%26blend-y%3D445%26blend-mode%3Dnormal%26txt64%3DaW4gVW5pcG9z5qCq5byP5Lya56S-%26txt-width%3D972%26txt-clip%3Dend%252Cellipsis%26txt-color%3D%25233A3C3C%26txt-font%3DHiragino%2520Sans%2520W6%26txt-size%3D36%26txt-x%3D134%26txt-y%3D546%26s%3D38a2489c2b1c88e615a0ac674b4fab76)