タグ

ブックマーク / ibisforest.org (4)

  • 自然勾配 - 機械学習の「朱鷺の杜Wiki」

    自然勾配 (natural gradient)† 幾何的に自然な計量で勾配を計算しましょうという話でかっちりした定義があるわけではなく文脈によって微妙に使い分けられている. 統計多様体での最適化では自然な計量がFisher情報行列で,それは漸近的にはヘシアンのマイナスに一致するので,ニュートン法と等価になる. ニュートン法なので特異点の付近ではジャンプが大きくなってプラトーが避けられるという話もあるが効果の程はいかほどだろうか. また独立成分分析などで用いられる直交行列上の最適化では,リー群の構造から導かれる計量を使うと,逆行列の計算がなくなるところがおいしい. --あかほ ↑

    nfunato
    nfunato 2016/06/04
    "自然勾配学習法"
  • 朱鷺の社 - 機械学習の「朱鷺の杜Wiki」

    アルゴリズム・手法† 魔神ラーニング:最強の機械学習アルゴリズム.しかし,宇宙の全てを予測できるほど強力であり,全宇宙の生命体にとって脅威とみなされため,情報の海の深淵に封印されたと伝えられる パブロフ連鎖モンテカルロ:条件反射で行動する人たちの連鎖で,状況がウダウダになること 蝉-supervised lerning:教師信号を人間ではなく,蝉が与える機械学習の枠組み SMアルゴリズム:SステップとMステップを交互に繰り返すアルゴリズム.SステップとMステップが何であるかを記すには,この余白はせますぎる. バックプロパゲーション:伝言ゲームにおいて,最後の人から逆方向に「元々はどういう言葉だったの?」と伝言することで誤りを修正するアルゴリズム. ドープ・ラーニング:いけない情報を使っているので,異様に予測性能がいいが,後でその反動で全く予測ができなくなる. ビープ・ラーニング:学習中にず

  • python - 機械学習の「朱鷺の杜Wiki」

    python一般† python.org:公式サイト Wiki Package Index iOS用Python環境 Computable Python for iOS Python Math PyPad Pythonista 英語資料 Python Course:Python のいろいろなトピックについての講義を集めたサイト Python Quick Reference @ Richard Gruet (旧版 日語訳) Google's Python Class OLamp.com -- Python Dev Center:O'Reillyのpython関連ニュース Python Miro Community:チュートリアル講演ビデオのポータル Wikipedia:Python_(programming_language) Python tools that everyone shou

  • python/numpy - 機械学習の「朱鷺の杜Wiki」

    パッケージ† pip や easy_install によるインストールの前に多くの外部ライブラリやfortranコンパイラなどが必要になるので,numpy等の科学技術計算パッケージをインストールするには以下のようなパッケージを一般には利用する: 商用(サポートなしなら無料でも利用できる) Anaconda:無料版でもIntel MKLが使える Enthought Canopy フリー Unofficial Windows Binaries for Python Extension Packages (個人ベースの管理で非公式版) ↑ その他† pyvideo.org:PyCon, SciPy, PyData などの講演ビデオリンク集 100 numpy exercises:練習問題 Pythonidae:Python関連のライブラリのリンク集 SciPy Central:SciPy 関連コ

  • 1