はじめに 前回の記事で重回帰分析の導入をしてみたので、今回はその続きということで、2つ同時にやってみたいと思います。 ベクトルの微分公式については下記のブログが参考になります。 もしこの記事がお役に立てた時はQiitaのイイねボタンを押していただけると励みになります。 参考記事 「ベクトルで微分・行列で微分」公式まとめ 重回帰分析 リッジ回帰について考える際に、重回帰分析の理解はマストになるのでここでも見ていこうと思います。式変形については、前回の記事で詳しく導入したので少しだけ端折っていきます。 準備 説明変数$x_1, x_2, x_3, \cdots, x_m$を$\boldsymbol{x}$($x$のベクトル)とする 予測値を$\hat{y}$とする($\hat{y}$はスカラー) 回帰係数を$w_1, w_2, w_3, \cdots, w_m$を$\boldsymbol{w}
![リッジ回帰とラッソ回帰の理論と実装を初めから丁寧に - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/4cdccd945e740060bda980432a107cf2dd211ca7/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9JUUzJTgzJUFBJUUzJTgzJTgzJUUzJTgyJUI4JUU1JTlCJTlFJUU1JUI4JUIwJUUzJTgxJUE4JUUzJTgzJUE5JUUzJTgzJTgzJUUzJTgyJUJEJUU1JTlCJTlFJUU1JUI4JUIwJUUzJTgxJUFFJUU3JTkwJTg2JUU4JUFCJTk2JUUzJTgxJUE4JUU1JUFFJTlGJUU4JUEzJTg1JUUzJTgyJTkyJUU1JTg4JTlEJUUzJTgyJTgxJUUzJTgxJThCJUUzJTgyJTg5JUU0JUI4JTgxJUU1JUFGJUE3JUUzJTgxJUFCJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmcz1kZTIyZTM4MDc2MDY1MGE2ZTdhNTkzYTk4ZGYyODZhOA%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBUYWtheW9zaGlfTWFrYWJlJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz0wNzk2ZTU3YjBmOGUyMDc3ZjU1YWVjZDhlNDI1OWNlMA%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D19795fd363191f71375eed50a1301670)