はじめに データの前提 分散最大化（KL展開） 取り出したい成分について 問題の定式化 問題を解く 元々の多次元信号 次元削減後の信号 寄与率 各成分が無相関になるような射影先を選ぶ 5次元の観測データ 無相関化したデータ 確率的主成分分析（最尤推定） 定式化 解法 ベイズ主成分分析（MAP推定） 補足：事前分布は任意性を持つ ベイズ学習の基本 MAP推定 主成分分析のMAP推定コード（TensorFlow Probability） インポートとデータの準備 モデル 最適化ループ 学習されたモデルからのデータの生成 はじめに PCAは色々と勉強になるので、今回ここでザッとまとめておこうと思います。実はこれまでにも何度も取り上げていて、 www.hellocybernetics.tech www.hellocybernetics.tech 等などあるのですが、その場でその場で場当たり的に比較

今回は十分統計量について説明します。 ※本記事は2021/2/1に全面的に加筆修正を行いました。 統計学における主なテーマの一つとして、データを表現する可測空間 上の確率分布の族  の中からデータに最も適合した分布を選び出す、というものがあります。以下、この行為を単に分布を推定すると呼びます。 分布の推定においては、データから得られた情報 の全てを使う訳ではなく、その中の一部だけを利用することが一般的です。例えば実際の応用の場面では生データ そのものではなく、標本平均や標本分散などの、いわゆる統計量 に加工して推定に利用します。 そこで推定に利用する の部分 -加法族を としましょう。このとき が については沢山の情報を持っているのに、 については殆ど情報を持っていなかった、となると推定に の情報を利用することの妥当性に疑問が生じます。そこで が任意の に対して公平であること、別の言い方を

「十分統計量」、よく聞くけどいまいちよくわからない用語ですよね。 Wikipedia によれば、次のような場合、その統計量は十分統計量らしいです。（定義ではなくざっくりとした意味です） no other statistic that can be calculated from the same sample provides any additional information as to the value of the parameter パラメトリックな分布において、得られたサンプルからパラメータの値を推定する際に最も役立つ統計量といったところでしょうか。 （「そんなの知ってるよ！」って人にとって以下は価値のない内容です） 十分統計量について調べたことのある人なら日本語版の Wikipedia の説明を読んだことがあると思いますが、僕の理解力だと学生の頃読んでも今読んでも意味不明で