はじめに Machine Learning Advent Calendar 2012の2日目を担当させていただく@yag_aysです.機械学習ガチ勢の皆様に囲まれて非常にガクブル((((;゜Д゜)))しておりますが,少しでも何か皆さんの印象に残るような記事を書ければと思います. 今回の内容 今回は「パターン認識と機械学習」11章で紹介されているサンプリング法・MCMCの中でも,ギブスサンプリングについて取り上げたいと思います.1日目のnaoya_tさんがメトロポリス・ヘイスティング法について書かれており,偶然にも続き物のような形になりました.ギブスサンプリングは,メトロポリス・ヘイスティング法というおおまかな枠組みの中の特殊なケースです.とは言うものの,実際のアルゴリズムは外見上かなり違ったものになるので,メトロポリス・ヘイスティング法をあまり知らないという人でもこの記事は問題なく読むこと
![PRML 11章 二変量正規分布からのギブスサンプリング - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/db11a0b5b32291de873f9e5fb4ebfa3e29542dc7/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-7940cd1c8db80a7ec40711d90f43539e.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9UFJNTCUyMDExJUU3JUFCJUEwJTIwJUU0JUJBJThDJUU1JUE0JTg5JUU5JTg3JThGJUU2JUFEJUEzJUU4JUE2JThGJUU1JTg4JTg2JUU1JUI4JTgzJUUzJTgxJThCJUUzJTgyJTg5JUUzJTgxJUFFJUUzJTgyJUFFJUUzJTgzJTk2JUUzJTgyJUI5JUUzJTgyJUI1JUUzJTgzJUIzJUUzJTgzJTk3JUUzJTgzJUFBJUUzJTgzJUIzJUUzJTgyJUIwJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnR4dC1jb2xvcj0lMjMzQTNDM0MmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmcz1iNjA0NmU5MDc5NjRlZDIyMTM1MDMwYTNmOWU3YTgzOA%26mark-x%3D120%26mark-y%3D96%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9OTcyJnR4dD0lNDB5YWdheXMmdHh0LWNvbG9yPSUyMzNBM0MzQyZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTdhZWQ5NjZiNWRhOGRkMWFlNmI4MmIxMTQ4ZTI0NjMx%26blend-x%3D120%26blend-y%3D500%26blend-mode%3Dnormal%26s%3D0eb2002c15917f2971893cdb7ee8b5f6)