【機械学習】カーネル密度推定を使った教師あり学習 その３ - Qiita

カーネル密度推定を使った教師あり学習 この記事は機械学習の初心者が書いています。 予めご了承ください。 1つ目の記事はこちら。 2つ目の記事はこちら。 この記事では、着想の背景を数式を用いて説明します。 確率密度と確率 カーネル密度推定はカーネル関数で確率密度関数を推定することでした。 それでは確率密度関数とは、一体なんだったでしょうか？ 確率密度関数は出やすさの分布を表しています。 事象Aについて、値xで確率密度が高いとは事象Aが起きたとき、そのときの値がxである確率が相対的に高いということです。 「事象A」を「ラベル0」と置き換えてみましょう。 「値xでは、ラベル0である確率密度が高い」とは「あるデータがラベル0だったとき、そのデータが値xである確率が相対的に高い」という意味になります。 ここで、確率密度≠確率であることに注意しなければいけません。 確率密度は「特定の事象に対する相対的