と,0.41であることがわかります。 このように,二項分布のような簡単な分布の場合,導関数を解析的に解けばパラメータを計算できる式を直接得ることができます。しかし,一般的な統計モデリングでは推定するべきパラメータが複数になり,分布の式ももっと複雑なので,簡単には解けません。 そこで,使うのが非線形方程式を解く方法です。手法はいろいろあって,ニュートン-ラフソン法(単にニュートン法ともよぶ),準ニュートン法,EMアルゴリズム,などなどです。今回は,一番わかり易いニュートン法で解いてみましょう。 ニュートン法の手続き ニュートン法は,詳しくはWikipediaを見てもらったらいいのですが,簡単にいえば一次導関数と二次導関数を使って,ちょっとずつパラメータを変えながら正解にたどり着く方法です。 ニュートン法の手順は, まず適当な(それなりに正解に近い)初期値を決める。 一次導関数,二次導関数に初