最適化とガウス・ニュートン法の導出について - Qiita

最適化について一般的なことを説明し、その中でも勾配降下法なども説明しつつ、ガウス・ニュートン法の導出について簡単に説明する。ガウス・ニュートン法によるモデルのパラメータ推定についても説明し、具体的な問題に適用した場合も実演する。 この記事を書いた動機 書籍やネット上で最適化についての資料はたくさんあるが、ガウス・ニュートン法についてもっと簡単に説明できないかと思ったため。 間違い等あれば指摘お願いいたします。 最適化とは 最適化とはいろいろな制約の中で、複数の選択肢から最適なものを選ぶことである。 最適化は様々な分野で用いられる。 企業の経営戦略:どの事業に投資すれば売り上げ、利益を最大化できるか？ 設計:強度があって軽い製品にするための材料はどうするべきか？ 生産計画:限られた時間とコストの中で、できるだけ多くの製品を作りたい 制御:システムが目的通りの挙動するように最適化する モデル化