タグ

2018年2月10日のブックマーク (2件)

  • ディープラーニングのハイパーパラメータ自動調整の概要 - HELLO CYBERNETICS

    はじめに ハイパーパラメータ自動調整の概要 学習という関数 グリッドサーチ 関数近似器(ガウス過程)による方法 メタヒューリスティック最適化 強化学習 まとめ ライブラリ はじめに ディープラーニングのハイパーパラメータ調整がとんでもなく退屈なことは周知の事実(?)です。一度学習を回すとその経過が気になってログを眺めてしまう人も多いのではないでしょうか。どうも望みがなさそうならさっさと次の値を試したいという思いもあることでしょう。そして、なるべく数を打ちながら良さげなハイパーパラメータの範囲を早く絞り込みたいと思うのではないでしょうか。 こういうこと自体を上手く自動化するような試みが欲しくなります。古典的な方法ではグリッドサーチで、とにかく考えうるパターン全部試してやれ!というものがあります。しかしこの方法はディープラーニングのように一回の学習に時間が掛かる場合には有効ではありません。 今

    ディープラーニングのハイパーパラメータ自動調整の概要 - HELLO CYBERNETICS
  • LDA(Latent Dirichlet Allocation)について調べたので自分なりにまとめる - 隣のデスク覗く言語さん

    はじめに 内容 文献調査 何ができるの? だから〜…それができると何ができるの? LDAの利点は? LDAの欠点は? LDAの評価基準 LDAどんなもんじゃい まとめ 今後 はじめに 普段はUnityのことばかりですが,分析系にも高い関心があるので,備忘録がてら記事にしてみました. トピックモデル分析の内,LDAについてまとめていこうと思います. 自分の意見や使ってみた印象も混じっているので悪しからず.引用元は明記しているはず…です. LDAは文書集合から,主たる話題を半自動的に推定することができるテキストマイニング手法です. 内容 文献調査 大元の文献はこちらです. http://www.jmlr.org/papers/volume3/blei03a/blei03a.pdf David M. Blei, Andrew Y. Ng, Michael I. Jordan, "Latent D

    LDA(Latent Dirichlet Allocation)について調べたので自分なりにまとめる - 隣のデスク覗く言語さん