こんにちは。アドバンストテクノロジー部のR&Dチーム所属岩原です。 今回はKerasで複数のGPUを使う方法を書きたいと思います。 Keras 2.0.9から簡単に複数GPUを使用した高速化が可能に。 Keras2.0.9からtraining_utilsというモジュールにmulti_gpu_modelという関数が追加されました。 コレを使うと、学習を複数のGPUで行わせることが可能になります。 inputをGPUの数だけ分割することによって、並列化を実現しているようです。 keras/training_utils.py at master · keras-team/keras では、実際に試してみましょう。 環境 AWS EC2(p2.8xlarge) -> GPU8本 Deep Learning Base AMI (Ubuntu) Version 2.0 (ami-041db87c) -
![Kerasで複数のGPUを使い、学習を高速化してみた - WonderPlanet Developers’ Blog](https://cdn-ak-scissors.b.st-hatena.com/image/square/0c9ff947a24a8e1480f41d7b36f3cbe3eb467704/height=288;version=1;width=512/https%3A%2F%2Fdevelopers.wonderpla.net%2Fwp-content%2Fuploads%2F2019%2F10%2F0hLkRr9l_400x400.jpg)