タグ

ブックマーク / ibisforest.org (5)

  • 醜いアヒルの子の定理 - 機械学習の「朱鷺の杜Wiki」

    醜いアヒルの子の定理 (ugly duckling theorem)† 醜いアヒルの子を含む \(n\)匹のアヒルがいるとする. このとき,醜いアヒルの子と普通のアヒルの子の類似性は,任意の二匹の普通のアヒルの子の間の類似性と同じになるという定理. \(n\)匹のアヒルの子を区別するために,\(K=\log(n)\)個の二値の特徴量を使う. これらの特徴量を使ってできるルールは,各アヒルについて含む・含まないが独立にありうるが,どのアヒルも含まないルールは除外するので,全部で \(N=2^n-1\)個存在. これら \(N\)個のルールのうち,醜いアヒルの子とある普通のアヒルの子のどちらも含むようなルールは \(2^{n-2}\)個. 一方,任意の二匹の普通のアヒルの子を同時に含むルールはやはり \(2^{n-2}\)個. 二匹のアヒルの類似性を,これらを共通に真にするルールの数で評価する

  • von Mises-Fisher分布 - 機械学習の「朱鷺の杜Wiki」

    von Mises-Fisher分布 (von Mises-Fisher distribution)† von Mises-Fisher分布は,\(\|\mathbf{\mu}\|=1\) なる \(d\)次元ベクトル \(\mathbf{\mu}\) と \(\sigma\gt0\) をパラメータとし,次の確率密度分布をもつ \[f(\mathbf{x};\mathbf{\mu},\sigma)=\frac{\sigma^{d/2-1}}{(2\pi)^{d/2}I_{d/2-1}(\sigma)}\exp(\sigma\mathbf{\mu}^\top\mathbf{x})\] ただし,\(I_j(x)\) は第1種変形Bessel関数. 超球上の正規分布ともいえる分布.von Mises分布の多次元版.\(\mathbf{\mu}\) が最頻値になる. -- しましま ↑

  • 凸二次計画 - 機械学習の「朱鷺の杜Wiki」

    凸二次計画 (convex quadratic programming)† 次の凸二次計画問題の解法のこと. 凸二次計画問題 目的関数:\(\min\; \frac{1}{2}\mathbf{x}^\top Q\mathbf{x}+\mathbf{c}^\top\mathbf{x}\) 制約条件:\(A\mathbf{x}=\mathbf{b}\),\(C\mathbf{x}\ge \mathbf{d}\) ただし,入力ベクトル \(\mathbf{x}=[x_1,x_2,\ldots,x_N]^\top\),\(Q\) は N×N の正定値行列,\(A\) と \(C\) はM×N行列,\(\mathbf{c}\) はN次のベクトル.\(\mathbf{d}\) と \(\mathbf{b}\) はM次のベクトル. 一般の非線形最適化問題では大域最適解を求めるのが難しい. しかし,この凸

  • k-medoids法 - 機械学習の「朱鷺の杜Wiki」

    k-medoids法 (k-medoids method)† k-means法と類似した分割最適化クラスタリング型の手法. k-means法は任意のベクトルの間の非類似度が計算できないと適用できないが,k-medoids法は分類する任意のデータ対の非類似度が,非類似度行列の形で与えられていれば適用可能. k-means法との具体的な相違点は次の二つ. クラスタはセントロイドではなくmedoidで代表される. medoidとは,クラスタ内のデータ点で,その点以外のクラスタ内の点でまでの非類似度の総和が最小になる点.クラスタを \(X_i=\{x\}\),データ間の非類似度を \(d(x,y)\) で表すとき,medoidは次式 \[\arg\min_{x\in X_i}\sum_{y\in (X_i-\{x\})} d(x,y)\] k-means法は,クラスタを代表するセントロイドとクラス

  • 数式の表示 - 機械学習の「朱鷺の杜Wiki」

    数式の表示† 朱鷺の杜Wikiでは,数式の表示に MathJax を利用しています. 特に閲覧側で設定をしなくても数式をみることは可能です. ですが,フォントをインストールしておくと,表示が高速で,きれいになります. サーバ側の負担も減るので,よくこのサイトを利用される方は是非ともインストールして下さい. ↑ 設定† 数式表示中に数式の上でコンテキストメニューを使うと設定ができます. サーバのフォントを使うwebfont,画像表示,SVG (Scalable Vector Graphics),ローカルのフォントなどが選べます. これらの表示はデフォルトの描画 HTML-CSS モードで使われます. もう一つ,MathML も使えますが,HTML-CSSモードの方が安定していて,表示もきれいなようです. さらに詳しい使い方は MathJax Documentation をごらんください. ↑

  • 1