[Kaggle Tokyo Meetup #6](https://connpass.com/event/132935/) での LT 資料です。短いのでタイトル詐欺感ありますがお許しください。 内容的には学習率って大事だよねと言うお気持ちが全て。 【追記】 p.16 の 「Adam 固定でうまく行く人々もいる」について、流石に scheduling はしてるのではないかと(現地で)コメントを頂きました。"固定"はあくまで optimizer の話であって、scheduling なしの Adam はそこまで有能ではないとのこと。 これは僕の経験とも一致しています。