Stanを使ってNUTSを実装する | Sunny side up!
この記事は、Stan advent calendar 2018の7日目の記事です。 Stan、すばらしいソフトですね。今日はStanがいかに素晴らしいかを語る記事です。StanにはNUTSというアルゴリズムが搭載されいているのはご存知だと思いますが、今回の記事は、 Stanを使ってRにNUTSを実装する という話です。「ちょっと何言ってるかわかんない」、とか言わない。 さて、NUTSはマルコフ連鎖モンテカルロ法（MCMC)の手法の一つ、ハミルトニアンモンテカルロ法（HMC）を発展させたものだ、というのは聞いた人も多いと思います。そこで、MCMCやHMCについて簡単に説明したあと、Stanが搭載しているアルゴリズムについて解説していきます。 なお、数式とかは使わず、全部日本語で説明していきます。数式で詳しいものはいくらでもあるので、そちらをご参考ください。たとえばこちら。 ◆マルコフ連鎖モン
無料で読める統計学・機械学習周辺のチュートリアル論文や講義ノート10本 - Qiita
はじめに 千葉大学/Nospareの米倉です．今回は，統計学・機械学習周辺で，僕が良いと思ったチュートリアル/サーベイ論文と講義ノートを簡単なコメント付きで紹介したいと思います．チュートリアル論文やサーベイ論文は，そのトピックの解説や教育面にフォーカスしていて，何か勉強したり，網羅的に把握するときに非常に便利だと個人的に思います．また公開されている講義ノートの中には非常に勉強になるものが多くあります．内容は僕が興味があるトピックに偏っています．またすべて無料で読めます．（教科書等の海賊版みたいなのは載せていません） 10本の紹介 Nickl "STATISTICAL THEORY" Nicklの統計学の講義ノートです．いわゆるM推定量の漸近的性質に加え，バーンスタイン・フォンミーゼズ定理等も証明付きで解説されており，上級レベルの数理統計学を学ぶのに重宝すると思います． Doucet and
ホーム
本講義の目的は計算統計・計算物理の諸手法（MCMCや変分ベイズ法を除く）について「漸化式」「前向き・後ろ向き」といった視点から２日間（午後のみ）で一気に俯瞰することにあります． 横断的に各話題の繋がりを考えることがテーマなので，個々の話題の説明は簡略になっており，どちらかというと，ある程度勉強された方向きだと思います．もとの講義（４日間）では前半の２日間はベイズ統計の入門を講義しましたが，それはここに含まれていません． 伊庭幸人 （統計数理研究所/総合研究大学院大学） 第１部ではマルコフ連鎖の話からはじめて，離散状態の隠れマルコフモデルでの和や期待値の計算，そして，それがいろいろな方向（連続状態，グラフィカルモデル，最適化，連続時間）へと一般化される様子を見ます． 講義で「後半」というのは，ここでは「前半」の２日間がカットされているためです．「後半」の２日間だけで，ほぼ閉じた内容になってい
Particle MCMC methods for parameter inference in state space models
Private content!This content has been marked as private by the uploader.
Predator-Prey Population Dynamics: the Lotka-Volterra model in Stan
Plot of the number of lynx and hare pelts (in thousands) collected by the Hudson’s Bay Company between 1900 and 1920. Plot of the number of pelts collected for lynx versus hares from 1900 to 1920. This plot is similar to that of the dynamics of a spring in phase space (i.e., position vs. momentum). The plot makes it clear that the spikes in the lynx population lag those in the hare population. Whe
【新書紹介】「Pythonで体験するベイズ推論 - PyMCによるMCMC入門 」 | DERiVE コンピュータビジョン ブログ
このサイトについて DERiVEはコンピュータビジョン、画像認識が専門のMasaki Hayashiがお送りしている、コンピュータビジョン(Computer Vision)を中心としたITエンジニア、研究向けのブログです。※「DERiVE メルマガ別館」は2015/9月で廃刊致しました、 Tweet この記事では、先日4月初めに森北出版から出版されました「Pythonで体験するベイズ推論 - PyMCによるMCMC入門 」をご紹介します。 森北出版による本書のHP : http://www.morikita.co.jp/books/book/3155 本書籍を出版社様から献本頂いたのと、いつもお世話になっている広島大学 玉木先生が翻訳した書籍であるということもあり、こちらにて本書を簡単にだけですがご紹介させていただきます。まだ、私もつぶさに本を読み込んだわけではないのと、そもそも私はベイズ
pythonでNUTSの実装 - やったことの説明
はじめに 前回 ハミルトニアンモンテカルロ法の実装をやった． 今回は No U-Turn Sampler (NUTS)の実装をやる． 論文を参考にした． コードはここにもある github.com NUTS ハミルトニアンモンテカルロ (HMC)はパラメータの勾配を利用して， 効率的にMCMCサンプリングを行うことができる手法だった． HMCの問題点は2つ． 更新ステップ数 を適切に指定しなければいけない． 更新の大きさ を適切に指定しなければいけない． NUTSは更新ステップ数を自動的に決定する手法である． 論文内でははdual-averaging (Nesterov 2009)を用いて決定するが，今回は決め打ちにする． 更新ステップ数L ハミルトニアンモンテカルロでは,正規分布によって発生させた運動量を与えて， ステップの間，点を動かす． 予め決められたステップの間，点を動かすので，例
Discontinuous Hamiltonian Monte Carlo for discrete parameters and discontinuous likelihoods
Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of di
MCMCサンプルの使い方 ～見る・決める・探す・発生させる～
広島ベイズ塾夏合宿で発表したStanコードの書き方中級編です。 回帰分析から，一般化線形モデル，欠損値のあるモデル，潜在変数があるモデル，ゼロ過剰分布，混合分布モデルを扱いました。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://hermes-ir.lib.hit-u.ac.jp/hermes/ir/re/22309/keizaikenkyu06201066.pdf
Nagai_SLMC大阪大学
Sign-Problem-Free Fermionic Quantum Monte Carlo: Developments and Applications
量子モンテカルロ法の負符号問題 - 物理とか
Massively parallel MCMC with JAX - /dev/null
Non-Reversible Parallel Tempering: a Scalable Highly Parallel MCMC Scheme
Irreversible Langevin MCMC on Lie Groups
GitHub - lacerbi/vbmc: Variational Bayesian Monte Carlo (VBMC) algorithm for posterior and model inference in MATLAB (old location)
The BayesianTools R package with general-purpose MCMC and SMC samplers for Bayesian statistics
Monte Carlo methods for massively parallel computers
Lefschetz-thimble path integral and its physical application