この講義資料は,著者のホームページhttp://hosho.ees.hokudai.ac.jp/~kubo/ce/EesLecture2008.htmlからダウンロードできます。
はじめに Machine Learning Advent Calendar 2013の15日目を担当する@yag_aysです.専門はバイオインフォマティクスという計算機を使って生物学をする分野で,生モノではなく遺伝子の文字列相手に格闘している大学院生です.今回は初心者の人を対象に,なるべく数式を使わずにEMアルゴリズムについて解説してみたいと思います. EMアルゴリズムは,SVMやニューラルネットワークといった華々しい機械学習の手法の一つではなく,機械学習の中で使われる尤度最大化という一部分を担当するアルゴリズムです.そのため多くの人にとってEMアルゴリズムは,それ単体を使ってみたりだとか独自に改良をしたりするような対象ではないでしょう.でも,EMアルゴリズムなんて仰々しい名前が付けられているだけあって,いざ自分の仕事に組み込む場合には中身を理解していないと「なぜEMアルゴリズムを使ったの
社内で「機械学習とパターン認識」(PRML) の読書会をやっているのだけど、計算がやっぱり難しいようでみんな苦戦中。 そんなこんなで、光成さん(@herumi さん)が PRML の数式を手抜き無しで解説するアンチョコ(虎の巻 / PRML教科書ガイド)をマメに作ってくれている。*1 PRML のための数学(PDF) 内容は PRML の2章から4章と、9章、PRMLでもっとも計算が難しいと評判の10章を対象としている。 たとえば2章のアンチョコでは、2章の中で必要とされる解析や線形代数の道具(積分の変数変換、行列の各種操作)を一通り取り上げた後、ガウス分布の最尤推定における平均や分散による偏微分という、おそらく多くの人がつまづくのだろう計算がきちんと説明されている。 また3章のアンチョコでは、Woodbury の公式やヘッセ行列を解説しつつ、エビデンス関数などを導出しているし、4章になる
赤池弘次氏が「応用数理」という学術誌に書かれた三本の論文へのリンクと、一部引用、筆者の覚書をつけ加えました。以下に挙げたものだけではなく、はっとするような磨かかれた言葉がたくさん書かれています。また、統計学を学びはじめてしばらくしてその意味が心に染み込んでくるようになってきました。 統計的思考と応用数理 ー 前提となるモデル化の技 1999 年 9 巻 1 号 p. 66-68 https://doi.org/10.11540/bjsiam.9.1_66 応用と言う以上、そこには数理の外に実在する対象の存在が前提される。対象についての適切なモデル化がなくては、数理の適用は不可能である。このモデル化には対象についての体感的な深い理解に基づく「技」が求められる。モデル化の技との結び付きが無くては、応用数理の展開はありえない。 ここで言われる「適切なモデル」の適切さを予測の観点で測る指標のひとつ
その他の論文・解説記事等(和文) 2011 金谷健一,確率統計を学ぶにあたって (.pdf), 岡山大学工学部講義資料, 2011年10月10日. 金谷健一,グループ紹介:岡山大学工学部情報系学科 金谷研究室 (.pdf), 画像電子学会誌, Vol. 40, No. 4 (2011-7),pp. 713--714. 2010 金谷健一,情報工学科の近況 (.pdf), 岡山大学工学部同窓会報,第21号, 2010年10月30日, pp. 6-7. 2009 金谷健一,視覚情報の数理, (著者原稿.pdf), 広中平祐(編), 「現代数理科学事典」, 第2版, 丸善, 2009年12月, 第10章 認知と学習, 第2節 パターン情報の数理, 第1項, pp. 1062-1068. 菅谷保之,金谷健一,[講座] 画像の三次元理解のための最適化計算[IV・完] −発展と動向− (著者原
Back to book Making the most of your data with Bayes This page will give you the means for performing simple Bayesian analyses. For a tutorial on using Bayes factors see: Dienes, Z. (2014). Using Bayes to get the most out of non-significant results. Frontiers in Psychology, 5: 781. doi: 10.3389/fpsyg.2014.00781 For advice on specifying your “prior” (i.e. model of H1): Dienes, Z. (2019). How do I k
集合知プログラミング を読んでいたら、K-means 法(K平均法)の説明が出てきました。K-means 法はクラスタリングを行うための定番のアルゴリズムらしいです。存在は知っていたんだけどいまいちピンときていなかったので、動作を理解するためにサンプルを作ってみました。クリックすると1ステップずつ動かすことができます。クラスタの数や点の数を変更して、RESET を押すと好きなパラメータで試すことができます。こうやって1ステップずつ確認しながら動かしてみると、意外に単純な仕組みなのが実感できました。K-means 法とはK平均法 - Wikipedia に詳しく書いてあるけど、もうすこしザックリと書くとこんなイメージになります。各点にランダムにクラスタを割り当てるクラスタの重心を計算する。点のクラスタを、一番近い重心のクラスタに変更する変化がなければ終了。変化がある限りは 2. に戻る。これ
RjpWiki はオープンソースの統計解析システム R に関する情報交換を目的とした Wiki ですRjpWiki はオープンソースの統計解析システム 《R》 に関する情報交換を目的とした Wiki です † どなたでも自由にページを追加・編集できます. (初めて投稿・既存記事への追加・修正を行なう方はこのページ末の注意*1を御覧下さい) ページへのファイル添付については、画像ファイルのみパスワードなしで可能としてあります(ページ上部「画像添付」より)。その他のファイルの添付はパスワードを入力することで可能です(ページ上部「ファイル添付」より)。現在のパスワードは, Rでの round(qt(0.2,df=8),3) の実行結果です。 スパム書き込みに対処するため、書き込み系の処理に対してパスワードを設けました。ユーザ名の欄には,Rで round(qt(0.2,df=8),3) を実行
Signal Detection Theory Tutorial Goals of this tutorial: Every day we have to make decisions about uncertain events like, 'Is that my phone ringing or one on the television?', or, 'Is the person talking to me telling the truth?' In this tutorial, you will learn about the Signal Detection Theory (SDT) model of how people make decisions about uncertain events. This tutorial explains the theory behin
統計的学習によるピアノ演奏模写モデル usapi (うさぴ) / Universal Statistical Automated Pianist Impersonator What’s usapi ? usapiは、ピアニストのような表情豊かな演奏を計算機で生成するための数理モデルです。統計的学習理論のひとつであるガウシアンプロセスを用い、演奏データの特徴を学習して演奏模写を行います。 このシステムでは入力を楽譜情報、出力を演奏情報として、入力と出力がペアになった学習データをもとにガウシアンプロセスが自動的に表情付けを学習します。 usapiの特徴 ガウシアンプロセスは、表情付けを行うべき入力楽譜情報が与えられると、入力楽譜情報間の距離を測る関数をもとに各学習データの入力楽譜情報との近さを測り、その近さに応じて自動的に学習データの出力を重みづけすることで、与えられた入力楽譜情
2013年10月31日00:15 カテゴリ書評/画評/品評Value 2.0 21世紀の市民に必要な力 - 書評 - 不透明な時代を見抜く「統計思考力」 出た、出た。やっと出た。 不透明な時代を見抜く「統計思考力」 神永正博 2009.04.08 初出 2013.10.31 文庫版発行につき改訂 この本を、待っていた。 こんな本を、ではなくこの本を。 そして、この国は待っている。 この本を最大限活用してくれることを。 本書「不透明な時代を見抜く「統計思考力」」は、「学力低下は錯覚である」をあざやかに証明してみせた著者が、その証明力を読者に分け与えるべく著した一冊。 目次(原著) - Discover - 書籍紹介 はじめに 第1章 基礎編 データを見る それ、ほんとう? まず元データに当たる習慣をつけよう! 1 生データを入手する それホント?まずは生データに当たれ! 数学が出来る=年収が
「補正」が必要なのは、モデル化が不充分である証拠より (pooneilの脳科学論文コメント) 怪しいところをwebで確認したりせずに書いた。もうしらない。厳しくせずに、褒めて伸ばしてほしい。 こう書いてあると、ちょっと絡みづらいな。だからコメントに行かずここでやることにします。それにどっちかというと自分の意見をclarifyする触媒として使わせてもらうという意味もあるのでここでやる方が適切かと。(出所を明示すれば引用は自由です。) んでずっと放置してたんだけど、この「補正」という発想がポイント(ガン、って書こうと思ったけど、これっていまどきpolitically incorrectですかね)なんではないかと思ったんです。つまり、「補正」が必要なのは、モデル化が不充分である証拠。 というような問題意識を感じているようです。 んで、翻って、おなじような解決法が「ニューロンの発火の解析関連での情
今回は、前回の日記の補足。 前回の統計学の面白さはどこにあるか - hiroyukikojimaの日記で松原望先生の本 入門ベイズ統計―意思決定の理論と発展 作者: 松原望出版社/メーカー: 東京図書発売日: 2008/06メディア: 単行本購入: 107人 クリック: 2,061回この商品を含むブログ (46件) を見るを紹介した。そのときは、この本を手にしていなかったので、早速注文した。そして今、手に入って、ぱらぱらと眺めてみた。そう、予想通り、これは名著『統計的決定』放送大学に大幅加筆をしたものだった。というわけで、紹介してしまった手前、責任をもってもうちょっとフォローしなければ、と思ってこれを書いている。 この本は確かに名著である。その理由をいくつか挙げてみよう。まず挙げるべきは、 ベイズ推定の哲学的背景について包み隠さず正面から書いている という点である。前回も書いたが、ベイズ推
以下の文書は一学生が医学を学ぶにあたって知識を整理するために作成していたものであり、医学を学ぶ他の学生への便宜を目的として公開しています。それらは疾患や治療に関する最新で正確な情報を提供する目的で作成されたものではありません。
ぶんさんぶんせき 分散分析 analysis of variance にまつわるノート。 入門者向けではなく,統計学にユーザとして接する院生向けです。 これまでに相談を受けた内容から集めました。多分に誤記の可能性があるので,発見次第ビシビシご指摘ください。 (ただ,厳密には誤りだと認識しつつ,説明の平易さのためにあえて大まかな記述をしている部分もあります。) since 2003-04-06 updated on 2011-05-02 このノートでは,同じ意味でも様々な語を使っていることがあるので,その対応を挙げておきます。 統計基礎用語集(英和編)を参考に。 factor → 要因,因子 design → デザイン,計画 component → 成分,構成要素,コンポーネント parameter → 母数,パラメタ analysis → 分析,解析 model → モデル,模型 cont
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く