パラメータ最適化 2手法（ランダムサーチ法 と 最急降下法）～特徴と活用～ - Qiita

パラメータの最適化 実測データとモデルとの比較を行うとき、モデルの関数に含まれるパラメータの最適化は必須です。 大学に通っていた頃、自分の手でパラメータをちょっとずつ変えて最適化をしている努力家がいました。ソフトウェアが専門でない学科においては多少仕方のない光景ですが、やはりこういうのはプログラミングで解決しましょう。 今回紹介する2手法 random search method (ランダムサーチ法) gradient descent method (最急降下法) そもそもどのように最適化するのか 最適化プログラムの構成 これを何万回と繰り返し、最適なパラメータへと更新し続けます。 評価の仕方 最も一般的なのは、最小自乗法です。 今回の私のプログラムにも採用しています。 誤差をそのままではなく2乗してから足すことで、実測とモデルの誤差を積算することができます。 random search