最尤推定 - 機械学習の「朱鷺の杜Wiki」最尤推定 (maximum likelihood estimation; MLE)† 訓練サンプル \(X=\{x_1,x_2,\ldots,x_N\}\) が独立同分布でサンプリングされたとする． このとき，データの発生源の確率分布を，確率モデル \(f(x;\theta)\) が近似するようにパラメータ \(\theta\) を推定する方法． まず次の尤度 (likelihood) (または，尤度関数 (likelihood function)) を考える． \[\mathcal{L}(X;\theta)=\prod_{i=1}^N f(x_i;\theta)\] これは訓練サンプルが生じる確率に相当． 最尤推定 (maximum likelihood estimation; MLE)，または最尤法 (maximum likelihood method) とは，この尤度を最大にする，す
