サクサク読めて、アプリ限定の機能も多数！
トップへ戻る
プライムデーセール
pseudo-theory-of-everything.hatenablog.com
1 はじめに 最近、我々+数名でスパースモデリングという分野を勉強しています。詳細はまた別の記事にて紹介するにして、今回はスパースモデリングの前段階に当たる リッジ回帰(ridge regresion) に脚光を当てます1。 読者には釈迦に説法かもしれませんが、リッジ回帰は L2 正則化とも呼ばれ機械学習の中でも非常にスタンダードな概念の一つになっています。しかし専門的に正則化法を扱ってみて、案外知らなかったことを知れたのでまとめました。 まず、リッジ回帰での損失関数は以下のような式で記述されます。 \begin{align} E = (y - X \vec{w})^2 + \alpha \vec{w}^T \vec{w} \end{align} 上記の損失を最小化するように係数の重みベクトル \(\vec{w}\) を推定します。解析的には \(\vec{w}\) について微分をしたもの
1 イントロダクション 本記事を読む前に、本章を読んでください。書いていくごとに、とにかくボリュームが多くなりました。 本章では「グラフとは何か?」と「本記事で扱うこと・扱わないこと」をまとめています。非常にボリューミーなので、自身の必要な知識・不要な知識を取捨選択して読んでいただくことをお勧めします。 1.1 そもそもグラフ理論とは まず第一に、 グラフ理論は図示とは全く別のもの です。 恥ずかしながら、ある勉強会でグラフ理論のタイトルで話す登壇者の方がいて「より良い図示の方法をまとめたトークかなにかかな。」と思っていました(無事、話を聞いて「あぁ、そっちね。」となりました)。 本ブログの著者ふたりとも物理出身の門外漢故広い心で見守ってくれればと思います。 グラフ理論とは相互に関係し合うネットワークを数学的に扱う一学問です。 下記のようなシンプルなグラフネットワークの例を考えます。例えば
このページを最初にブックマークしてみませんか？
『pseudo-theory-of-everything.hatenablog.com』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
