最小記述長 - Wikipedia
最小記述長（さいしょうきじゅつちょう、英: minimum description length, MDL）は、情報理論に基づくモデル選択基準である。 モデル選択とは、データに照らして何らかの意味で最適なモデル族（確率分布の集合）を検討する過程を指す。 MDLは、1978年、Jorma Rissanen により導入された。MDLでは、データをモデルを用いて圧縮・送信する際の符号長の最小化を考える。これはノイズを含むデータから意味のある規則性を抽出することにあたる。 最小記述長原理に基づくモデル選択指標としてNormalized Maximum Likelihood (NML)と、その罰則項を漸近展開して得られるFisher Information Approximation (FIA)がある。 MDLは (AICと違い) 離散データを扱う情報理論に基盤を置いているので、連続値データに対し使
放送大学 - REDIRECT
当サイトは移転しました。10秒後に以下のURLにリダイレクトします。 自動でリダイレクトされない場合、以下のリンクから移動してください。 https://info.ouj.ac.jp/~suuri/_webTohkei/ キャンパスネットワークホームページは教務情報システム(システムWAKABA)に統合されました。 上記に伴い「www.campus.ouj.ac.jp」ドメイン上の各サイトは「info.ouj.ac.jp」に移行されました。 2019 The Open University of Japan
AIC (赤池の情報量規準)とカイ2乗分布: 数遊び日記
AIC (Akaike's Information Criterion, 赤池の情報量規準) は線形回帰の分析をするときによく用いる。(線形回帰は、多重回帰とも重回帰とも呼び、単回帰の場合も含む。線形近似と言っても誤解はあまり無いかもしれない。) このAICは、統計学の教科書の最後当たりによく現れる。使い道としては次の様になる。 「予測したい変数(以下、予測変数)があって、その予測に使いたい説明変数の候補がいくつもある時に、説明に使う変数(説明変数)の個数を増やせば、見かけ上、予測精度は当然上がるかのように見える。けれども、意味の無い変数(たとえば、ただのランダムな変数)を付け加えても見かけ上誤差が小さくなるだけで、その変数も使った予測式を使って新たな予測に使おうとすると、誤差が結局大きくなってしまう(この現象をオーバーフィッティング(過剰適合)と言う。だから、どの説明変数を(うまく選びす
データセット一覧 : DoDStat@d
DoDStat@d データ指向統計データベース Data oriented Database of Statistics based on Analysis Scenario/Story
【読書感想】統計学が最強の学問である ☆☆☆☆☆ - 琥珀色の戯言
統計学が最強の学問である 作者: 西内啓出版社/メーカー: ダイヤモンド社発売日: 2013/01/24メディア: 単行本（ソフトカバー）購入: 11人 クリック: 209回この商品を含むブログ (127件) を見る 統計学が最強の学問である 作者: 西内啓出版社/メーカー: ダイヤモンド社発売日: 2013/01/28メディア: Kindle版購入: 9人 クリック: 25回この商品を含むブログ (26件) を見る あえて断言しよう。あらゆる学問のなかで統計学が最強の学問であると。 どんな権威やロジックも吹き飛ばして正解を導き出す統計学の影響は、現代社会で強まる一方である。 「ビッグデータ」などの言葉が流行ることもそうした状況の現れだが、はたしてどれだけの人が、その本当の魅力とパワフルさを知っているだろうか。 本書では最新の事例と研究結果をもとに、基礎知識を押さえたうえで統計学の主要6分
相関と因果について考える：統計的因果推論、その(不)可能性の中心
ベイズ統計学の基礎概念からW理論まで概論的に紹介するスライドです．数理・計算科学チュートリアル実践のチュートリアル資料です．引用しているipynbは * http://nhayashi.main.jp/codes/BayesStatAbstIntro.zip * https://github.com/chijan-nh/BayesStatAbstIntro を参照ください． 以下，エラッタ． * 52 of 80：KL(q||p)≠KL(q||p)ではなくKL(q||p)≠KL(p||q). * 67 of 80：2ν=E[V_n]ではなくE[V_n] → 2ν (n→∞). * 70 of 80：AICの第2項は d/2n ではなく d/n. * 76 of 80：βH(w)ではなくβ log P(X^n|w) + log φ(w). - レプリカ交換MCと異なり、逆温度を尤度にのみ乗す
はてなブログ | 無料ブログを作成しよう
思いは言葉に。 はてなブログは、あなたの思いや考えを残したり、 さまざまな人が綴った多様な価値観に触れたりできる場所です。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
