タグ

ブックマーク / qiita.com/g-k (2)

  • リッジ回帰(L2正則化)を理解して実装する - Qiita

    はじめに 重回帰分析の発展として正則化について勉強しました。 今回はリッジ回帰(L2正則化)についてまとめています。 参考 リッジ回帰(L2正則化)の理解に当たって下記を参考にさせていただきました。 機械学習のエッセンス 加藤公一(著) 出版社; SBクリエイティブ株式会社 正則化の種類と目的 L1正則化 L2正則化について リッジ回帰とラッソ回帰の理論と実装を初めから丁寧に リッジ回帰(L2正則化)概要 重回帰分析の復習 リッジ回帰は重回帰分析を行う際の損失関数に対して正則化項を付与したものになります。 重回帰分析は下記のような損失関数を最小化する重みを見つけることで、最適な回帰式を導きだします。 $$L = \sum_{n=1}^{n} (y_{n} -\hat{y}_{n} )^2$$ $y_{n}$は実測値 $\hat{y}_{n}$の予測値 ベクトルの形式で表現するとこのような感

    リッジ回帰(L2正則化)を理解して実装する - Qiita
  • 最尤法によるパラメータ推定の基礎を理解する(二項分布と正規分布のパラメータの最尤推定量の導出) - Qiita

    はじめに 記事は機械学習を勉強していると必ず出てくる、最尤法によるパラメータ推定がテーマです。尤度推定という概念が中々頭に定着せずに苦しんだのでこちらにまとめることにしました。理解に苦しんでいる人の助けになれば幸いです。 参考 最尤法によるパラメータ推定の基礎を理解するに当たって、下記を参考にいたしました。 自然科学の統計学 最尤法によるパラメータ推定の意味と具体例 最尤推定量とは?初めての人にもわかる解説 StatQuest: Maximum Likelihood For the Normal Distribution, step-by-step! 尤度とは何か 「尤度」は下記のように表現することができます。 ある前提条件に従って結果が出現する場合に、逆に観察結果からみて前提条件が「何々であった」と推測する尤もらしさ(もっともらしさ)を表す数値を、「何々」を変数とする関数として捉えたも

    最尤法によるパラメータ推定の基礎を理解する(二項分布と正規分布のパラメータの最尤推定量の導出) - Qiita
  • 1