『ベイズ統計の理論と方法』の行間を読む I - ill-identified diary
概要渡辺澄夫の『ベイズ統計の理論と方法』 (以下, 渡辺本) は, 私のように統計学は多少知ってるものの, 統計力学を知らない人間にとっては, 「自由エネルギー」だの「分配関数」だのが何を意図して定義された統計量 (物理量?) なのかよくわからず, はじめは数式を目で追うことしかできなかった. 加えて, 渡辺本は, 実務に役に立つテクニックなどといった趣旨の本ではなく, 統計学的なモデリングや機械学習*1の理論を統一的に説明することを目的としている. そのため, 統計モデルを抽象的に一般化してその性質を説明する一方で, 混合分布モデルとか, ニューラルネットとか具体的な手法についての言及は控えめであることも, 人によっては理解が進まない原因になっていそうである. しかし, 難解であっても, 渡辺本に書かれている内容は非常に価値がある. 例えば, 以前私が [教材] 今更だが, ベイズ統計と
KL情報量を概念的に理解する - PlayGround
KL情報量(カルバック・ライブラー・ダイバージェンス)は、確率分布どうしの距離的な尺度で、次元削減とか機械学習とかいろんなところでとってもよく出てきます。が、使うときはその意味はあまり考慮する必要はないので、今回はあえてそこを考えます。 情報量 まず、情報量について考えます。情報量というのは、情報の価値の指標です。情報の価値は、その情報が発生する確率に依存します。起こるのが珍しいほど良い情報ということです。 例えば、「宝くじが当たった」という情報は情報量が高く、「地球がまわった」という情報は情報量が低い、というようになっています。まあ、確かにレアなものほど嬉しい気はしますよね。こういったように情報量という指標をシャノンさんが定めました。具体的には次式のように表現します。 は単調増加の関数で、確率の逆数をとっているので、はが小さいほど大きくなるような量として設計されていることがわかります。こ
The state of HTTP in 2022
This post is also available in 简体中文, 繁體中文, 日本語, 한국어, Deutsch, Français, Español and Português. At over thirty years old, HTTP is still the foundation of the web and one of the Internet’s most popular protocols—not just for browsing, watching videos and listening to music, but also for apps, machine-to-machine communication, and even as a basis for building other protocols, forming what some refer
Colabo不正会計疑惑住民監査請求の結果がどれほど異例であったか
こんにちは、音喜多駿（日本維新の会 参議院議員 / 東京都選出）です。 本日、仁藤夢乃氏が代表を務めるcolaboと不正会計疑惑を巡って対峙している暇空茜氏が、東京都に提出した住民監査請求の結果の一部を公開し、大きな話題になっています。 Colabo問題、東京都監査委が「本件精算には不当が認められる」（SAKISIRU） Colaboの不正会計疑惑について行った住民監査請求の結果全文です ざっくりまとめ ２月２８日までに ・遡って調べろ、不正があったら返金とかさせろ ・区分守らせろ ・こんなクソ報告書で通すな ・按分しろ ・他に流用すんな ・宿泊、給食費に上限つけろ ・ちゃんと指導しろ pic.twitter.com/lNW80SbO2G — 暇空茜 (@himasoraakane) December 29, 2022 監査請求の詳細については当事者である暇空茜氏の発信をご参照いただくとし
防衛費をいきなり2倍にした時に起きること
「いきなり防衛費2倍」に防衛省OBとか身内からも疑念が出ているが、ここではめんどくせえので防衛力増強するのがいいかどうかは触れないでおく。 しかし過大な予算を付けられた省庁が何をするかの経験は共有されているのに全然言及されていないのがとても気になる。 過大な予算の問題は消化できないこと予算が余った省庁はどうするかと言うと「予算を消化する」。 一見トートロジーだが、要するに余らせないために必要のないことやモノに金をぶっこむって事だ。或いは設備投資などを前倒しにする。 前者の代表はコロナ補助金で作ったイカの銅像が有名で、後者の代表は年度末の道路工事だ。 そうして予算を消化しておかないとその部署は来年度の予算が減らされる。 「イカの銅像」みたいなことが何で起きるかというと、前例が無いからだ。やる事が例年決まっているなら予算が余った時は追加発注すればいいし前倒しにすればいい。 でも前例が無い、若し
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://twitter.com/yorinobu2/status/1608771920404844544