各オプティマイザのパラメータを調整すれば、もっと良い結果が得られるかもしれません。 今回の結果から、10エポック目のモデルで一番良いのはSGDのdecayとmomentumをそれぞれ1e-4と0.9に設定したもので、エラーは0.84%でした。 Decayを1e-4に設定したAdadeltaとAdamaxがその次に良く、エラーは0.88%でした。 エポックごとのValidation errorの変化を下図に示します。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 6
![Kerasのオプティマイザの比較](https://cdn-ak-scissors.b.st-hatena.com/image/square/3dd323ff8f27c43b6420d111e19425d6d54b0d12/height=288;version=1;width=512/https%3A%2F%2F4.bp.blogspot.com%2F-EwnNE2Q0rJc%2FWbPy4-R0apI%2FAAAAAAAAAIM%2F46w6RC7qUF4OWSb1D41_79JTcyHny5gZACLcBGAs%2Fw1200-h630-p-k-no-nu%2Fcomp-val-error.png)