本記事はChainerやTensorFlowでGPUを使うと毎回結果が変わる理由と対策 (まとめ)の詳細編であり、Chainerについて具体的な対策について検証します。 関連Issues(Chainer) 検証環境 Chainer v1.20.0 Python 3.5.2 CUDA 8.0 cuDNN 5.1 NVIDIA Tesla/GeForce いろいろ まずは乱数種の指定 GPUの演算誤差だけでなく乱数を用いていることも演算結果が安定しない原因です。 そこで乱数種を指定して発生する乱数を固定します。 乱数種の指定対象 Chainerの場合、下記の3種類の乱数に配慮する必要があります。 Python NumPy CuPy CuPyはPFN社謹製のGPU対応版NumPyと考えればよいでしょう。 参考実装 def set_random_seed(seed): # set Python r
![ChainerでGPUを使うと毎回結果が変わる理由と対策 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/8216882470640589eb7c0060f23dc87f3b0f2d4c/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Q2hhaW5lciVFMyU4MSVBN0dQVSVFMyU4MiU5MiVFNCVCRCVCRiVFMyU4MSU4NiVFMyU4MSVBOCVFNiVBRiU4RSVFNSU5QiU5RSVFNyVCNSU5MCVFNiU5RSU5QyVFMyU4MSU4QyVFNSVBNCU4OSVFMyU4MiU4RiVFMyU4MiU4QiVFNyU5MCU4NiVFNyU5NCVCMSVFMyU4MSVBOCVFNSVBRiVCRSVFNyVBRCU5NiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnM9MzQ0NWQ0NDA2YTVjNmZlMjkyODhkNmE5ZDUzMzU2OTQ%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBUb2t5b01pY2tleSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YjgxN2U3MjU3NWUzY2VhMGRlMWE1ZDZmMmRjNjhlZmE%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3Db001e20aa232e14cbe7a4be1dd6bf6f6)