タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

正則化に関するyasufのブックマーク (2)

  • 逆問題 - Wikipedia

    逆問題(ぎゃくもんだい、英: inverse problem)とは、数学・物理学の一分野であり、入力(原因)から出力(結果、観測)を求める問題を順問題(じゅんもんだい、英: direct problem)と呼び、その逆に出力から入力を推定する問題や入出力の関係性を推定する問題を逆問題と呼ぶ。 逆関数の問題であると解釈すると、紀元前から扱われている問題である。しかし歴史的には物理において順問題と逆問題は今の使われ方とは異なっていた。例えばニュートンの時代では物体の動きからその作用する力を導くことが順問題だとされ、作用する力から物体の軌道を導くことが逆問題だとされていた。順問題と逆問題の定義は実際曖昧で、時代や学問分野によって異なることが多い。一般的には1820年代にニールス・アーベルがヤコビの逆問題を研究したのが、逆問題の最初の研究とされる。アーベルは方程式の解の公式の研究でも有名だが、方程

  • 正則化 - 機械学習の「朱鷺の杜Wiki」

    正則化 (regularization)† データ \(D\) が与えられたときの経験損失 \(L_{\mathrm{emp}}(f,D)\) だけを最適化する関数 \(f\) を求めても,過適合などのため汎化誤差は最小にならない.よってこの最適化では,来の目的は達成できない.こうした状況を不良設定 (ill-posed)であるという. こうした場合には,平滑化などを行う罰則項 (penalty term) \(P(f)\) を用いて次のような問題にする: \[\min_f L_{\mathrm{emp}}(f,D)+\lambda P(f)\] こうした問題の書き換えを正則化 (regularization)という. \(f\) のパラメータを \(\mathbf{\theta}\) とするとき,\(P(f)\) としては次のようなものが代表的 L2ノルムの2乗(=2乗和)\({||\

  • 1