不等式制約におけるラグランジュの未定乗数法（KKT条件） - 機械学習に詳しくなりたいブログラグランジュの未定乗数法にて等式制約条件下における解の求め方を確認しました。今回は条件が不等式の場合を考えます。の条件においての最大値を求める問題です。 個の変数を持つ関数を考えるので引数はベクトルです。前提条件としては下に凸、は上に凸とします。（目的関数も制約条件も凸関数である問題を凸計画と呼びます） もしの中にの最大値があれば、この制約条件は無くても解には影響しません。これはラグランジュの式 において、とした場合に等しいです。要するにただのの最大値問題です。 の中に解がないのなら、各関数の凸の条件により領域の境界上に解が存在することになります。が下に凸、が上に凸ですから、境界上の解においては外向きのベクトルとなります。下図のようなイメージです。 凸の前提条件がないと、例えば領域内にの最大値がなくても、境界上の全ての値よりも大きい極大値が存在する場合が考えられます。するとこの考え方が成り
