Haroperi.log最近ビッグデータ占い師の研究をしており、関数型言語Rと格闘しています。 LASSO回帰という便利な回帰があります。 Ridge回帰との主な違いとして、Ridgeは名詞、LASSOは略語*1です。 高次元空間ではL1-normが1となる点の集合が成す多面体の角っこがトゲトゲするので、二乗和誤差の等高線が軸上でぶつかりやすくなるため、パラメータの多くが0になります。 glmnetとlarsという2種類のパッケージがあるが、前者はなんかR3.0.3では使えなかった。 後者は正則化項の係数を交差検定で決定できるcv.larsなる関数がある。これで自動的に決定したい。 N <- 10 # N-fold cross validation cv.result <- cv.lars( ....., N ) で色々計算し、 lambda <- cv.result$index[which.min(cv.res
