局所線形回帰を完全に理解したい - Qiita

この記事は九工大古川研 Advent Calendar 2020 8日目の記事です． 本記事は古川研究室の学生が学習の一環として書いたものです． 内容が曖昧であったり表現が多少異なったりする場合があります． まえがき 局所線形回帰を完全に理解したい （「い」が大事）というモチベーションで 局所線形回帰について勉強してまとめました． サークルの後輩も読んでくれるとのことですので ちょっとクドいくらい丁寧に説明できたらと思っております。 今回は線形回帰の拡張として解説します． 問題設定 ${(x_i, y_i)}_{i=1}^{n}$ が与えられているとします．（$ x, y$ のペアの集合，$i = 1, \cdots, n$） ここで，$x$ は入力， $y$ は出力に相当するものです． 与えられた ${(x_i, y_i)}_{i=1}^{n}$ をもとに， 新規の入力 $x^{\ast