タグ

2012年11月9日のブックマーク (3件)

  • 節操の無いクソイナゴ野郎なのでdeep learningで使われるautoencoder実装した - 糞糞糞ネット弁慶

    身内でdeep learningの勉強会をやったらできそうだったので実装した. 読んだのは大体ここらへん. NEURAL NETS FOR VISION(CVPR2012 tutorial) CS294A Lecture notes Sparse autoencoder ImageNet Classification with Deep Convolutional Neural Networks autoencoder autoencoderはunsupervised feature learningの一種.Convolutional Neural Netとは違って,最後の判別器の予測誤差をback propagationさせる,という事はせずある種特徴抽出で完結させている. autoencoderを一言でまとめると,「次元削減を繰り返すNeural Netを多段に繋げて特徴抽出を行う手法

  • CRF の前向き・後ろ向きアルゴリズム - アスペ日記

    今回は、CRF の前向き・後ろ向きアルゴリズムについて。 可変次数 CRF のアルゴリズムとの対比のために書いておく。 前向き・後ろ向きアルゴリズムは、1 次の CRF で使われる*1。 高次に応用する方法も考えられないこともないが、計算量が次数に対して指数的に増加するため、あまり現実的ではない。 1 次の CRF で使う素性関数は、文脈に関する特徴と 長さ 1 または 2 のラベル列を組み合わせたもの。長さ 1 のものは状態素性、2 のものは遷移素性と呼ぶこともある。 例として前回と同じものを使う。 文は "time flies like" という三つの単語で、可能なラベルは N, V, A の 3 つ。 素性関数は、次の 5 つ。 文脈にかかわらず、今の位置でラベルが "N" の時に 1 になるもの。重みは 2。 文脈にかかわらず、今の位置でラベルが "V" の時に 1 になるもの。重

    CRF の前向き・後ろ向きアルゴリズム - アスペ日記
  • 「データ解析のための統計モデリング入門」読書ノート 7章 無限混合分布の生成過程をアニメーションにした - Wolfeyes Bioinformatics beta

    まとめ:「データ解析のための統計モデリング入門」読書ノート 前回:「データ解析のための統計モデリング入門」読書ノート 7章 GLMMとGLMを比較する 一言で言うと 「データ解析のための統計モデリング入門」P.157 図7.8とP.158 図7.9の分布を混ぜる過程をアニメーションにした.無限混合分布に関して手元の資料であまり情報が無かったことがあり,検算のためにと計算したときに作ったものだが,意外とうまく作れたんじゃないかと思う. GLMMの最尤推定と積分 個体差を考慮に入れた今回のGLMMでは,尤度を以下の式のように積分をしてを消す. これはすなわち,とを混ぜあわせた無限混合分布となっている. アニメーション作成過程 今回は,P.157 図7.8とP.158 図7.9の2つの図をアニメーションとして表現してみた.それぞれの実験のパラメータは以下の通り. 二項分布と正規分布 ポアソン分布

    harapon1012
    harapon1012 2012/11/09
    たのしそう