2022年9月23日のブックマーク (3件)

  • 雑記: Schur 補行列と Sherman-Morrison-Woodbury の公式とカルマンフィルタとガウス過程回帰の整理 - クッキーの日記

    公式の証明はありません(参考文献の1つ目に詳しいのでそちらをご参照ください)。何か問題点がありましたらご指摘いただけますと幸いです。 参考文献Sherman-Morrison-Woodburyの公式 (Schur補行列) - いんふらけいようじょのえにっきパターン認識と機械学習 上 (ベイズ理論による統計的予測) | C.M. ビショップ, 元田 浩, 栗田 多喜夫, 樋口 知之, 松 裕治, 村田 昇 | | 通販 | Amazon(82~85ページ) パターン認識と機械学習 下 (ベイズ理論による統計的予測) | C.M. ビショップ, 元田 浩, 栗田 多喜夫, 樋口 知之, 松 裕治, 村田 昇 | | 通販 | Amazon(17~19ページ)(2018-12-15 追記)先にこの記事は何なのかというと、カルマンフィルタとガウス過程回帰は、どちらも観測にノイズがのっていた

    雑記: Schur 補行列と Sherman-Morrison-Woodbury の公式とカルマンフィルタとガウス過程回帰の整理 - クッキーの日記
    disassembler
    disassembler 2022/09/23
    すごい記事。
  • 雑記: 分散共分散行列のベイズ更新の話 - クッキーの日記

    2021-02-02 絵を追加しました。いろいろな場面(カルマンフィルタ、ガウス過程回帰など、直接観測できない何かの分布をその線形変換の観測からベイズ更新する場面)で以下の問が出てくると思います。 は確率ベクトルでその事前分布は平均 で分散共分散行列が の多変量正規分布です。 も確率ベクトルで です。 は行列です。 は平均 で分散共分散行列が の多変量正規分布にしたがうノイズで とは独立です。 いまある が観測されました。この の下での(=事後分布の) の分散共分散行列はどうなりますか?普通はベイズの定理で の確率密度関数を考えると思います。方法1.ベイズの定理で の確率密度関数をかく より の事後分散共分散行列は である。 こうすると観測前は精度行列(分散共分散行列の逆行列で、多変量正規分布の密度関数の式で確率ベクトルに挟まれているやつ)が だったのが観測後は になっていて、精度が大きく

    雑記: 分散共分散行列のベイズ更新の話 - クッキーの日記
    disassembler
    disassembler 2022/09/23
    この記事の凄さ
  • 周辺化と周辺分布 — 同時分布から個別変数の確率を取り出す数学的操作 | 機械学習と情報技術

    表の中央の4セル × 3行 = 6つの値が同時分布 $p(x, y)$、右端の列が $p(x) = \sum_y p(x,y)$ の周辺、下端の行が $p(y) = \sum_x p(x,y)$ の周辺です。これがまさに「表の余白に現れる確率」 = 周辺確率。すべての値を足し上げると全確率 1.0 になることも確認できます。 ここで重要な注意点があります。周辺分布だけを見ても、変数間の依存関係はわかりません。たとえば $p(\text{Instagram}) = 0.35$、$p(\text{女}) = 0.60$ という事実から「女性のうち Instagram ユーザの割合」を逆算することはできません。それを計算するには条件付き確率 $$ p(\text{Instagram} \mid \text{女}) = \frac{p(\text{Instagram}, \text{女})}{p(

    周辺化と周辺分布 — 同時分布から個別変数の確率を取り出す数学的操作 | 機械学習と情報技術
    disassembler
    disassembler 2022/09/23
    地味に役立つ。忘れがちだけど。確率変数における周辺化や周辺分布について