Lunch.cookpad開始のおしらせ - クックパッド開発者ブログ
こんにちは。クックパッド・イベント事務局です。 クックパッドではこの度、エンジニア同士がオフラインでカジュアルにお話する場を不定期で開催することにいたしました。これを Lunch.cookpad と名付け、エンジニアとして活躍する＆これから活躍していきたいと思う皆さんにとって有意義な情報交換の場にしていきたいと思っています。 Lunch.cookpadは毎回1時間で、開催日は都度決定します。クックパッドから参加するエンジニアは1名で、毎回2名の方をお招きしてご希望のテーマに沿った話をする予定です。 早速ですが、第1回を8/19 (火) に開催いたします！ 【第1回 Lunch.cookpad / 開催概要】 日時：8/19 (火) 12:00- 場所：クックパッド白金台オフィス 参加するエンジニア：村田賢太 (@mrkn) 北海道出身。CRuby のコミッタとして bigdecimal の
AdaGradが12倍速くなる魔法
AdaGradは学習率を自動調整してくれる勾配法の亜種で、いろんな人が絶賛しています。 勾配を足し込む時に、各次元ごとに今までの勾配の2乗和をとっておいて、その平方根で割ってあげるだけと、恐ろしくシンプルです。 Adaptive Subgradient Methods for Online Learning and Stochastic Optimization John Duchi, Elad Hazan, Yoram Singer. JMLR 2011. 丁度、 @echizen_tm さんがブログを書いてました。 AdaGrad+RDAを実装しました。 通常のSGDなどは学習率をだんだん減衰させながら勾配を足していくわけですが、どの様に減衰させるかという問題にいつも頭を悩ませます。 AdaGradでは最初の学習率こそ外から与えますが、減衰のさせ方や減衰率といったハイパーパラメータから
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
