プロでもよくある線形回帰モデルの間違い - Qiita

最近、データサイエンスが流行っていることもあり、線形回帰モデルについても解説記事を見かけることが多くなりました。情報にアクセスしやすくなったのはいいことだと思うんですが、ずっと以前から間違いや解説の不足が多い理論なので、私なりに解説を試みたいと思います。全体的にあまり厳密ではありませんが、線形回帰モデルを学びたての方には有益な記事になるかなと思います。 あと、私も勉強中の身なので、間違いがあったらご指摘いただけたら嬉しいです。 本題 さて、よくある間違いとは以下のような解説です。 線形性の仮定が満たされていないので、線形回帰モデルを使ってはいけない 残差が正規分布&等分散ではないので、線形回帰モデルを使ってはいけない 回帰係数に対するt検定の結果をもとに、p値が大きい説明変数を除外する 多重共線性があるとよくないので、変数間で相関が強い、もしくはVIF値が大きい変数を除外する AICが小さ

[ite]

流石に「AICが小さくなるように変数を選択する」「Lasso回帰で変数を選択する」を間違いと言い切るのはどうなんだ。

[misshiki]

“ずっと以前から間違いや解説の不足が多い理論なので、私なりに解説を試み”よくある間違い集。ブコメを読むと内容については気を付けた方がよさそう。

[deejayroka]

"「多重共線性 = 悪いもの」と捉え、考えなしに変数を除外するのは間違いです。交絡因子として必要なのかどうか、背後の関係を考えて慎重に意思決定する必要があります"

[igni3]

線形モデルと最小二乗は独立で、線形回帰を最小二乗以外の方法で解いて別の結果出すこともできる。モデルと解き方は違う。

[fuji_haruka]

因果推論で出てきたダイアグラムだ

[katz1955]

“心理学的研究における重回帰分析の適用に関わる諸問題”

[NOV1975]

この広告費と売上の分布って正規分布なの？

[sonots]

仮定が満たされてるかの判断が難しい