有用な確率不等式のまとめ - Counterfactualを知りたい
はじめに 機械学習に関連する諸分野では何かしらの統計量（期待判別誤差やリグレットなど）を上から評価したい場面が多くあります. そのような場面で大活躍するのが確率不等式と呼ばれる不等式の数々です. 今後本ブログでもこれらの不等式を多用することが予想されるため, 一度まとめておきます. いくつかの不等式は証明もします. 証明は, MLPシリーズの『統計的学習理論』のAppendix Aを参考に, 自分なりに行間を埋めてみました. 目次 はじめに 目次 Jensen's inequality Markov's inequality / Chebyshev's inequality Hoeffding's inequality McDiarmid's inequality さいごに 参考 Jensen's inequality まず, 凸関数の定義を確認します. 凸関数: 関数が, 任意の と任意
Domain Adversarial Neural Networksの解説 - Counterfactualを知りたい
はじめに 最近自分の研究分野との親和性が高いこともあり, Unsupervised Domain Adaptation (教師なしドメイン適応)の理論を勉強しています. その理論を応用した手法に, Domain Adversarial Neural Networks (DANN) というものがあり自分でも動かしてみました. 目次 Unsupervised Domain Adaptationとは H-divergenceを用いた汎化誤差上界 Domain Adversarial Neural Networks 簡易実験 さいごに Unsupervised Domain Adaptationとは まずUnsupervised Domain Adaptation (UDA) を定式化します. 入力空間を, 出力空間をとします. ここで, あるdomain とは, 入力の分布とlabeling f
因果推論で推薦システムを問い直す（学習アルゴリズム編） - Counterfactualを知りたい
はじめに 以前, こちらに本記事の評価指標編を書きました. 今回は, 同様の問題が推薦アルゴリズムの学習時にも発生し得ることを指摘し, その解決方法について議論します. 評価指標編を読んでいただいている方は, 重複する内容も多いのですんなり読んでいただけると思います. 目次 はじめに 目次 Toy Example 推薦アルゴリズムの定式化 Naive Lossに存在するBias UnbiasedなLossの構築 Propensity Matrix Factorization 簡易実験 実験設定 実験結果 さいごに 参考 Toy Example 問題のイメージを持っていただくために, 評価指標編と同様の例を載せておきます. 今, Horror Lovers・Romance Loversというユーザー属性とHorror・Rommance・Dramaという3つのジャンルのみが存在するシンプルな映
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
