ChainerやTensorFlowでGPUを使うと毎回結果が変わる理由と対策 (まとめ) - Qiita

テクノロジーカテゴリーの変更を依頼記事元:

qiita.com/TokyoMickey

30users がブックマークコメント

コメント

2

記事へのコメント2件

注目コメント
新着コメント

Untouchable GPUでの演算は内部で計算の実行される順序が不定、そして「演算順序が異なれば演算誤差の程度が異なるケースが発生します」ということだそう

2017/02/14 リンク

civitaspo http://ift.tt/2jnx1oe

2017/01/27 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

ChainerやTensorFlowでGPUを使うと毎回結果が変わる理由と対策 (まとめ) - Qiita

##結論から ChainerやTensorFlowなどの機械学習(特にDeepLearning)フレームワークでGPUを使うと、誤差程... ##結論から ChainerやTensorFlowなどの機械学習(特にDeepLearning)フレームワークでGPUを使うと、誤差程度ではあるものの演算結果が毎回変わってしまいます。(非決定的な演算) 「乱数使ってるから当たり前でしょ」って話ではなく、乱数種を指定してもGPU内部での演算順序が非決定的であるためGPU演算の結果は安定しません。浮動小数点演算なので誤差が出るのは当然だが、その誤差が安定しない(非決定的)なのが気になるところです。 Chainerでは環境変数(CHAINER_CUDNN)の指定またはConvolution2Dなどへのパラメータ追加で本事象を回避可能。 TensorFlowについてはGoogle社曰く「EigenライブラリまたはcuDNNの仕様によるとのこと」であり現状では対応策無し。(詳細は次の記事に記載のIssuesを参照のこと) 尚、Caffeでも同様の

ブックマークしたユーザー

citrusunshiu2017/02/18
korinchan2017/02/17
Untouchable2017/02/14
swordheart2017/01/30
codeout2017/01/29
sucrose2017/01/28
habarhaba2017/01/28
manboubird2017/01/28
dai_hi_saru2017/01/27
nurse2017/01/27
civitaspo2017/01/27
ryshinoz2017/01/27
TokyoIncidents2017/01/27
sonots2017/01/27
kuenishi2017/01/27
itbook2017/01/27
yukimori_7262017/01/26
Hiro_Matsuno2017/01/24

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

いま人気の記事 - 企業メディア

企業メディアをもっと読む

設定を変更しましたx