ディープラーニングのハイパーパラメータ自動調整の概要 - HELLO CYBERNETICS

はじめに ハイパーパラメータ自動調整の概要 学習という関数 グリッドサーチ 関数近似器（ガウス過程）による方法 メタヒューリスティック最適化 強化学習 まとめ ライブラリ はじめに ディープラーニングのハイパーパラメータ調整がとんでもなく退屈なことは周知の事実（？）です。一度学習を回すとその経過が気になってログを眺めてしまう人も多いのではないでしょうか。どうも望みがなさそうならさっさと次の値を試したいという思いもあることでしょう。そして、なるべく数を打ちながら良さげなハイパーパラメータの範囲を早く絞り込みたいと思うのではないでしょうか。 こういうこと自体を上手く自動化するような試みが欲しくなります。古典的な方法ではグリッドサーチで、とにかく考えうるパターン全部試してやれ！というものがあります。しかしこの方法はディープラーニングのように一回の学習に時間が掛かる場合には有効ではありません。 今

[yuaoki]

それNeural Network Consoleのデフォルトでできるが

[psfactory]

ディープラーニングのハイパーパラメータ自動調整の概要 - HELLO CYBERNETICS

[wrss]

ディープラーニングのハイパーパラメーターを決めるためのディープラーニングのハイパーパラメーターを決めるための……

[bonotake]

納得感ある

[karaage]

どれも果てしない計算資源が必要になりそう。強化学習の問題に帰着するというのはなるほど感