Zinniaの多クラス分類法 - 射撃しつつ前転 改
ZinniaというSVMベースの新しい手書き文字認識エンジンがリリースされたので、早速ソースコードを少し読んでみた。 文字認識というのは、機械学習では多クラス分類という問題に分類される。しかもクラス数が認識したい文字数（数千文字程度だろう）分だけ存在するという、なかなか計算量的に厳しい問題である。二値分類器を使って多値分類器を構成する方法にはone vs rest, one vs one, その他にもいろいろあるらしいが、その中のどれを使っているのかというところに興味があった。Webによると、50〜100文字/秒の認識速度と書いてあったので、コードを読む前の予測としては、one vs oneかなーと思っていた。（速度的にはone vs oneの方がone vs restより速い。） しかし、そんな予想を裏切り、recognizer.cppの148行めあたりからには以下のようなコードが書いて
OLL: オンライン機械学習ライブラリをリリースしました。 - DO++
様々なオンライン学習手法をサポートしたライブラリ「OLL (Online-Learning Library)」をリリースしました。 プロジェクトページ 日本語詳細ページ 学習、推定を行なう単体プログラムと、C++ライブラリからなります。（C++ライブラリ解説はまだ）。 New BSDライセンス上で自由に使えます。使った場合は感想や苦情などいただけると幸いです。 オンライン学習とは、一つずつ訓練データを見てパラメータを更新していく手法で、訓練データをまとめて見てから学習するバッチ学習（SVMs, 最大エントロピー法）と比べて非常に効率良く学習を行なうことができます。それでいながらSVMs, やMEsに匹敵する精度が出ます。 学習するデータの性質にもよりますが、例えば、英語の文書分類タスクで、15000訓練例、130万種類の素性の訓練データに対する学習が1秒未満で終わります（SVMsだと実装に
DO++: 教師あり学習の比較
ICML2006に興味深い論文がありました。 "An Empirical Comparison of Supervised Learning Algorithm", Rich Caruana caruana and Alexandru Niculescu-Mizil [link] 90年代初め以降、数多くの画期的な教師あり学習が提案されてきましたが、どれがいいかを包括的に比較したことはあまりありませんでした （文書分類などでは、SVMとAda-boosting 強いねということだったのですが Sebastiani@ACM Survey 2002） 決着をつけようじゃないかということで、11の問題に対してハイパーパラメータも完璧にチューニングして、いろいろな分類器を比較しているみたいです。比較内容は精度や再現率やクロスエントロピーなど様々で、確率を直接出さないやつはsigmoid関数など単調
Research | Nakagawa Lab.
中川研究室の研究テーマは、統計的機械学習の理論とアルゴリズム、および自然言語処理およびそのWWWへの応用です。特に、統計的自然言語処理の理論、ベイズ統計に基づく機械学習の理論と学習アルゴリズム、およびWWWに見られる半構造化文書からの情報抽出および情報ナビゲーションシステムなどを研究しています。以下に詳細を記します。 統計的機械学習 統計的機械学習とは、観測されたデータから統計的手法を用い新たな知識を導出することである。 統計的機械学習についての教科書的な内容はこちらを参照してほしい。 統計的機械学習には種々の分類がある。主要なものを説明しよう。 教師あり学習と教師なし学習 教師あり学習(supervised learning)では、観測データと、そのデータの意味が与えられる。例えば、文書分類問題であれば、観測された文書とその文書の属するカテゴリー（スポーツ、芸能、など）の対のデータ集
Mindset | Yahoo! Research
Thank you for your interest in Mindset. The demo for Mindset is no longer available, but we're always working on new and interesting research projects to get your feedback on. Check out Sandbox to learn about the experiments and demos we're currently running. Keep checking back to research.yahoo.com for the latest news, events and projects from Yahoo! Research.
音大生なら聴いておきたい１００曲
2004年度から国立音大１年生に課すことになった必聴曲リスト 「当然知っているべき」という曲と 「こういうのも聴いておいてほしい」という曲が混じっています >> 音楽概論A >> HOME 今日の社会では英語が国際共通語としての地位をほぼ確立しています（それが良いことかどうかはともかく、現実問題として）。同じように、音楽の世界では、西洋近代のいわゆるクラシック音楽で使われる用語や概念が、そのままポピュラー音楽でも用いられたり、非西洋の音楽を理解するための補助手段として用いられたりします。クラシックの用語や概念は、音楽における事実上の国際共通語なのです。どんな分野であれ、音楽の専門家を目指そうとするのなら、クラシック音楽についての知識を確実なものにしておくことは有益であり、必要不可欠である、とさえいえます。 「音楽基礎教養」科目として置かれている「西洋音楽史概説」や「音楽概論」は、そう
Matthew J. Beal - Thesis: Matthew J. Beal, Variational Algorithms for Approximate Bayesian Inference
*Hyperlinks across sections, equations and citations (which back-reference to the text) are only functional in the whole pdf version, within an enabled viewer like Adobe Acrobat Reader. Abstract The Bayesian framework for machine learning allows for the incorporation of prior knowledge in a coherent way, avoids overfitting problems, and provides a principled basis for selecting between alternative
隠れマルコフモデルのためのEMアルゴリズム 正田 備也 平成 19 年 10 月 4 日 隠れマルコフモデル (hidden markov model) について，EM アルゴリズムを用いた最尤推定をどのように行うか，自 分用の
隠れマルコフモデルのためのEMアルゴリズム 正田 備也 平成 19 年 10 月 4 日 隠れマルコフモデル (hidden markov model) について，EM アルゴリズムを用いた最尤推定をどのように行うか，自 分用の研究メモとしてまとめてみました．以下の内容は，Beal, M.J. (2003) Variational Algorithms for Approximate Bayesian Inference. PhD. Thesis, Gatsby Computational Neuroscience Unit, University College London. の 3.2 節のほぼ翻訳ですが，かなり説明を補足してあります．ただし，記号は変えてあります． 1 隠れマルコフモデルの定式化 隠れマルコフモデルは，観察データの列 y1:T をモデル化するために用いる．なお，各
机上の空論:[メモ] サポートベクターマシン(SVM)
サポートベクターマシン(以下 SVM) とは ・ニューラルネットワークの一種 ・教師ありクラスタリング SVM の基本的な考え方 ・元々2クラスの線形分離手法として提案される ・単層パーセプトロンに似ているが、SVM はマージン最大化という手法をとっているのがポイント。 ・マージン最大化とは、超平面と学習データの隙間となるマージンをなるべく大きく取ろうというもの。 (ここでいう超平面とは、2つのクラスにぶった切る平面のこと) ・ちなみに超平面と、ちょうどマージンの分だけ離れている学習データをサポートベクトルという。 ・このマージン最大化という考えを取り入れることによって、テストデータの識別精度を高めている。 SVM の発展 ・線形分離不可能な問題への対応 - ソフトマージン(学習データが多少マージンにくい込んだり、反するクラスの空間にくい込んだりしても許す)で対応
Haar状特徴に基づくブースト分類器のカスケードを利用する高速物体検知
Haar状特徴に基づくブースト分類器のカスケードを利用する高速物体検知 Rapid Object Detection With A Cascade of Boosted Classifiers Based on Haar-like Features はじめに このドキュメントでは高速物体検知のためのブースト分類器のカスケード の訓練と使いかたについて説明します． 過完備Haar状特徴の集合は，シンプルな個体分類器のための基底を提供します． 対象物検知の例としては，顔，目および鼻の検知やロゴ検知などがあります． ロゴ検知には，対象物のサンプル画像を注意深く多数収集する必要がないため， このドキュメントでロゴ検知を物体検知の例として取り上げ，説明します． ここでは，サンプル画像を注意深く多数収集する代わりに，1つの原画像から 対象物の多数のサンプル画像を生成するユーティ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Amazon.co.jp: リストマニア
http://www.ar.sanken.osaka-u.ac.jp/papers/motoda/jsai97-moto.pdf
http://www.yama.info.waseda.ac.jp/~john/wiki/wiki.cgi?page=K-NN%CB%A1
ニューラルネットワーク入門
本文
画像認識技術 1.4.6 画像識別
Microsoft PowerPoint - S1-導入.ppt
応用音響学資料：HMM(隠れマルコフモデル) とは何か 嵯峨山 茂樹 東京大学大学院情報理工学研究科システム情報学専攻 / 工学部計数工学科 sagayama@hil.t.u-tokyo.ac.jp 概要: 隠れマルコフモデル (H