以下の制約付き最適化問題を考えましょう。 \begin{align*} \text{Minimize } f(x):= \sum_{i\in \mathcal{I}} f^{(i)} (x) \text{ subject to } x\in C := \bigcap_{i\in \mathcal{I}} C^{(i)}. \end{align*} ただし、$H$はHilbert空間、$f^{(i)} \colon H \to \mathbb{R}$ $(i\in \mathcal{I}:= \{1,2,\ldots,I\})$は目的関数、 $C^{(i)}$ $(\subset H)$ $(i\in \mathcal{I})$ は$C \neq \emptyset$を満たす凸制約集合とします。$C^{(i)}$については、単純な形状の場合(例えば、閉球、半空間)や単純な形状ではない場合(例
1. はじめに Noise-Contrastive Estimation(NCE)とは、分配関数を陽に書き下せるものの数値積分が困難な場合や、MCMCではものすごく時間がかかる場合に対処するパラメータ推定方法の事です。物理で言えば1次元Ising Modelは転送行列を使って紙と鉛筆で計算できますが、2次元以上は解析解がありません(2次元で外場が無い場合は出来るそうです)。そこで、従来はMCMC等が用いられていましたが、異なる方法論としてNCEが提唱されました([M.U.Gutmann, etc]の論文中では画像処理)。 自然言語処理ではsoft-max関数で確率を計算する際よく用いられますが、NCEではその分母を直接計算するのではなく、分母をパラメータとして扱うため、モデルパラメータ + 分母が求めるパラメータとなります。有名な応用として[A.Mnih, etc]が挙げられます。 MCM
ここでは,数理最適化パッケージ Nuorium Optimizer の開発を行っている(株)NTT データ数理システム 数理計画部のメンバーが普段使っている数理計画に関する用語(専門的な用語から日常的な用語まで)を紹介します. 用語の説明については,大雑把なものから厳密なものまでありますが,多分に編集者の主観が入っていること,あらかじめご了承ください.また,内容については一切の責任を負うものではありません. 新着用語一覧 PySIMPLE 強化学習 量子コンピュータ 改修用語一覧 単体法 標準形 索引 0-9 A-E F-J K-O P-T U-Z あ行 か行 さ行 た行 な行 は行 ま行 や行 ら行 わ行 全用語
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く