はじめに 親愛なる皆様、今日も元気にベイズってますでしょうか? ベイズ推定ってわりと直感的で、バンディット問題なんかと相性よく私も実務で使いはじめているのですが、いつでも悩みどころになるのが事前分布の設計だと思います。 とりあえず無情報事前分布と呼ばれるもの使っておこうとか、経験上このくらいの期待値と分散っぽいからエイっと決めちゃおうとか、みんなわりとそんなノリかなという気がしているのですが、職人芸は不安になりますよね。 では依って立つ理論はないのかというと、WAICという情報量規準を考案された渡辺先生の定理が光を照らしてくれるので、そのまま引用します。 定理 : 「(自然な条件を満たす)任意の統計モデルと任意の事前分布について,ベイズ推測の汎化誤差と自由エネルギーはあるシンプルな数学的法則に従っている」 ... 与えられた「統計モデル+事前分布」の良さ悪さは定量的に計算できる ... (
![ベータ分布でベイズ推定するときの事前分布パラメータ評価 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/35b1aea381db587b524db646f41532b3dbff1f88/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-f625e957b80c4bd8dd47b724be996090.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUUzJTgzJTk5JUUzJTgzJUJDJUUzJTgyJUJGJUU1JTg4JTg2JUU1JUI4JTgzJUUzJTgxJUE3JUUzJTgzJTk5JUUzJTgyJUE0JUUzJTgyJUJBJUU2JThFJUE4JUU1JUFFJTlBJUUzJTgxJTk5JUUzJTgyJThCJUUzJTgxJUE4JUUzJTgxJThEJUUzJTgxJUFFJUU0JUJBJThCJUU1JTg5JThEJUU1JTg4JTg2JUU1JUI4JTgzJUUzJTgzJTkxJUUzJTgzJUE5JUUzJTgzJUExJUUzJTgzJUJDJUUzJTgyJUJGJUU4JUE5JTk1JUU0JUJFJUExJnR4dC1jb2xvcj0lMjMzQTNDM0MmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LWNsaXA9ZWxsaXBzaXMmdHh0LWFsaWduPWxlZnQlMkNtaWRkbGUmcz00ZTdhY2QxMzQ3MmJlOWEwMjU1Mjc0NmMzZDA0NTFiZg%26mark-x%3D142%26mark-y%3D151%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwcGl5bzcmdHh0LWNvbG9yPSUyMzNBM0MzQyZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWNkZmVlODgyYWJmMGQ0OGQxODZiZDk0N2UzOTIzODY5%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D71d54555950a02a7ebc3def7de2e0422)