タグ

ブックマーク / conditional.github.io (4)

  • Posterior Regularization と Unified Expectation Maximizationについて - a lonely miner

    桜がとってもきれいですね.すずかけ台は8分咲きといったところです.ところで,仲間で行っている小規模な勉強会で “Unified Expectation Maximization” Samdani et al, NAACL2012 を紹介してきたので,資料をslideshareにあげておきました. Unified Expectation Maximization from koji_matsuda Unified EMというと,じゃっかん大風呂敷な感じのタイトルですが,キーとなるアイデアはとても単純で,EMアルゴリズムのE-Stepで最小化するKLダイバージェンスにちょっと細工を入れることで,Hard-EMとふつうのEMの中間くらいの性質を持ったアルゴリズムになりますよ.というお話です.Deterministic Annealing EMの逆バージョンみたいな雰囲気(実際,DAEMもこの枠組

  • 距離計量学習とカーネル学習について - a lonely miner

    こんにちは.英語が書けなくて悩んでいる今日このごろです. 先月に引き続き,仲間内で行っている小さな勉強会にて論文紹介をしてまいりました. “Information-Theoretic Metric Learning” V. Davis et al, ICML 2007 (Best Paper) ちょっと古めの論文ですが,あまり踏み込んだことのない分野なので,名著っぽいものから確実におさえていくスタンスで. 発表スライドは以下においておきます.最後のスライドにいろいろ文献リンクしておいたので,ご興味をもって頂けましたら是非そちらも当たってみてください. Information-Theoretic Metric Learning from koji_matsuda 距離計量学習(以下単に距離学習)とは何ぞや,というのは小町さんの日記をご参照いただけると良いと思うのですが, ざっくり言うと,「分

  • Deep Learning : Bengio先生のおすすめレシピ - a lonely miner

    先日,身内の勉強会(&ラボの勉強会)で,Deep Learningについてお話してきました.これまで興味がなさそうだったのに何故急に?というのはおいておいて. 紹介したのは,Deep Learningの第一人者のひとり, Yoshua Bengio先生自身が執筆された,以下の論文. Yoshua Bengio, Practical recommendations for gradient-based training of deep architectures, arXiv:1206.5533v2, 2012 どうやら書籍の草稿のようで,Bengio先生の長年の研究で得られたさまざまなノウハウ(最近の手法まで)がぎっしり詰め込まれています.すごい. 以前から気にはなりつつも,ちょっと分量が多い(30ページくらいある)ので,なかなか手を出すことができなかったのですが,ようやくヤル気が出てきた

    mooz
    mooz 2013/10/24
    パラメタ探索でグリッドサーチするよりランダムサンプリングしたほうが性能出る
  • Programming by Exampleに対する機械学習からのアプローチ(あるいは,「重い」処理を機械学習で「軽く」する,という視点)について - a lonely miner

    およそひと月ぶりに,仲間内で行っている小さな勉強会で論文紹介をしてまいりました.ICML2013の予稿がちょっとづつ出てきているので,日はその中から一. “A Machine Learning Framework for Programming by Example” Aditya Menon et al, ICML 2013 A Machine Learning Framework for Programming by Example from koji_matsuda 機械学習を使って,Programming by Example(PbE)をしようという論文です.PbEというのは私も初耳だったのですが,ざっくり言うと,人間が「例」を与えることで,その例をうまく再現するようなプログラムを自動的に生成する,というタスクのようです. それを部分的に実現している(らしい)のが,Excel2

  • 1