Null importances による特徴量選択 - Qiita

はじめに null importance を利用した特徴量選択について調べたのでその覚書です。何かおかしなとこがあればご指摘ください。 参考：Feature Selection with Null Importances 概要 特徴量選択をするときにノイズとなる特徴量を取り除き、本当に重要な特徴量を取り出すために行う。目的変数をランダムにシャッフルした訓練データを使って各特徴量の重要度をはかる。 手順 目的変数をシャッフルした訓練データでモデルを何度も訓練し、null importanceの分布を作成 オリジナルの訓練データでモデルを訓練し、各特徴量の重要度を取得 null importanceの分布に対する実際の重要度のスコアを計算 適当な閾値を定めて特徴量を選択 0. 準備 必要なライブラリのインポート import pandas as pd import numpy as np np