ラグランジュの未定乗数法
ラグランジュの未定乗数法 戻る SVMについての記事を読んでいて絶対に避けて通れないのが，ラグランジュの未定乗数法だ．なんたって，これを使うことで「サポートベクトル」の決定が可能になるんだから，これがわからなくっちゃ始まらない． ラグランジュの未定乗数法がどうやって導出されたか，っていうことはここでは説明しない．どのようなものか，だけを述べる． ラグランジュの未定乗数法の定義 個の変数を要素として持つ変数列に関して個の制約条件 が与えられていたとする． この制約条件の下で関数が極値をとるようなを求めたいとき，もうひとつの変数列を使って次のような関数を考える． この関数の極値条件 を満たす解の中にある．ここでをラグランジュの未定乗数という． 「難しくってわかんねーよ」という人，ちょっと待っておくれ．小難しい書き方に惑わされてはいけない．これはそんなに難しいものではないんだ
ＥＭＡＮの物理学・解析力学・ラグランジュの未定乗数法
となることが取敢えずの極値の条件である。 残念ながらこの条件から導かれる点 が極小か極大か、 ただの停留点か、あるいは鞍点であるかということは分からない。 鞍点というのは、例えば 2 変数関数をグラフにしたときの図形が 馬の鞍のようになる場合の話で、ある方向には極小であるがある方向には極大である、 という状況になる点である。 山の尾根沿いの道に例えてもいいかも知れない。 道の左右はどちらを向いても下り坂だが、前後は両方とも上り坂ということがある。 そういう点だ。 その他にも、現在点は水平だが、前には上り坂、後ろには下り坂という状況だってある。 上に書いた条件だけではそこまでの判定はできないが、 とりあえず、極値になりそうな候補をすべて導き出すことならば出来る。 条件付極値判定 ではこれに対して、二つほどの束縛条件が加わったらどうなるだろう。 これでは 、 、 はそれぞれ独立に、 自由には動
ラグランジェの未定乗数法 [物理のかぎしっぽ]
ラグランジェの未定乗数法というのは，「拘束条件がある関数」の極値を求める数学的テクニックです． とても重要な計算テクニックなので，ここで紹介します． この節では，最初にいきなり計算の仕方を紹介します． 計算だけを読んでも覚えにくいと思いますので，最後に例題も載せます． 例題をやりながらまた最初の説明に戻る，ということを何度か繰り返してみてください． 幾つか問題を解いてみれば，便利さを体感して頂けると思います． 一回なんとなく理解しておけば，忘れてしまっても， また使うときに「物理のかぎしっぽ」のページで復習すれば良いだけです． （※変数に付加的な条件式のことを，ここでは拘束条件と呼んでいます．） ここで , , が互いに独立ならば話は簡単で， 偏導関数 , , を連立して解けば良いだけですね． （ の右下に小さく とか とか書いてあるのは， を や で偏微分したという略記号です．慣れておく
ラグランジュの未定乗数法について
stomachman さんが一般論を書かれていますので， めちゃくちゃ易しい例題を蛇足につけましょう． 例題 x + y = a (1) の条件の下で f(x,y) = (x^2 + y^2)/2 (2) の極値を求めよ． (1)から y = a - x として(2)に代入すれば， x の２次関数ですから x = a/2 で極値をとるのはただちにわかります． ラグランジュ未定係数法でやるなら，stomachman さんの式にしたがって， f の代わりに g(x,y,λ) = (x^2 + y^2)/2 + λ(x+y-a) を考えます．λと掛け算になっている x + y - a が(1)の変形です． (1)から，λ(x+y-a) = 0 ですから，f の極値も g の極値も同じことです． ２変数関数の極値だと言うんだから， 偏微分して ∂g/∂x = x + λ =
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
