タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。
Python: Null Importance を使った特徴量選択について - CUBE SUGAR CONTAINER
今回は特徴量選択 (Feature Selection) の手法のひとつとして使われることのある Null Importance を試してみる。 Null Importance というのは、目的変数をシャッフルして意味がなくなった状態で学習させたモデルから得られる特徴量の重要度を指す。 では、それを使ってどのように特徴量選択をするかというと、シャッフルしなかったときの重要度との比率をスコアとして計算する。 もし、シャッフルしたときの重要度が元となった重要度よりも小さくなっていれば、スコアは大きくなって特徴量に意味があるとみなせる。 一方で、シャッフルしたときの重要度が元とさほど変わらなければ、スコアは小さくなってその特徴量は単なるノイズに近い存在と判断できる。 あとはスコアに一定の閾値を設けたり、上位 N 件を取り出すことで特徴量選択ができるようだ。 今回使った環境は次のとおり。 $ sw
先日公開した「IEEE-CIS Fraud Detection」コンペの解法*1の中で、Adversarial Validationの考え方を用いた特徴量選択について何回か質問がありました。 本記事では、Adversarial Validationの考え方を用いた特徴量選択を解説します。 Adversarial Validationとは いつ使う？ 解決策 Adversarial Validationを用いた特徴量選択 CPMPさんの「Microsoft Malware Prediction」の解法 具体的なやり方 おわりに Adversarial Validationとは 以前に書いた自分の記事*2から抜粋します。 いつ使う？ TrainデータとTestデータの分布が異なる場合 → Trainデータから適切にValidationデータを作成するのが難しい → Kaggleの場合、Loca
【入門者向け】特徴量選択の基本まとめ(scikit-learnときどきmlxtend) - Qiita
手法 1. Filter Method Filter Methodは統計的な手法(分散やχ二乗検定など)で特徴量の評価・選択をします。他の手法に比べると計算量が少なく、最初に足切りで実施するものだと考えています(経験浅いのであまり根拠なし)。 1.1. 低分散変数の削除 分散が低ければ、説明変数としての意味ないと考え特徴から削除する方法です。VarianceThreshold関数を使います。 今回の例では分散0としており、まったく変動していない特徴を対象とします。ベルヌーイ分布の分散であるp(1 − p)を使うのもありかと思います。 分散0はPandasのget_dummies関数でオプションdummy_naを使った時に出てしまいました。欠損値がある特徴があったため、get_dummies関数を使ったのですが、欠損値がない特徴量もNaNの列ができてしまい、すべて値が0で分散が0の列ができて
特徴量選択アルゴリズム HSIC Lasso とその周辺を調べた - nykergoto’s blog
先日、特徴量選択についてツイートしたところ Kaggle Master のアライさんに「HSIC Lassoはまさにぴったしなんではないでしょうか?」と教えていただきました。 お、となるとHSICLassoはまさにぴったしなんではないでしょうか？https://t.co/Ezigm9OriK— Hidehisa Arai (@kaggle_araisan) 2021年3月28日 HSIC Lasso は直前にあった統計学勉強会#2でのアライさんの発表資料でも取り上げられていたものです。 統計学勉強会は twitter から眺める程度で見ていたのですがとても盛り上がっていて楽しそうした。次回は是非参加したいと思っています🔥 connpass.com 統計学勉強会#2 from Hidehisa Arai www.slideshare.net 自分がこの分野に疎いのでただ使うだけじゃなくて中
特徴量の選択方法についてまとめてみました 特徴量の選択法の一つとして、単変量特徴量選択（univariate feature selection）という手法があり、scikit-learnのSelectKBestとSelectPercentileで実装が可能である。 Kaggle Grandmasterに学ぶ 機械学習 実践アプローチではこれら2つの手法を組み込んだラッパークラスが紹介されており、使ってみた。 # 単変量特徴量選択（univariate feature selection）のラッパークラスを作成 class UnivariateFeatureSelection: def __init__(self, n_features, problem_type, scoring): if problem_type == 'classification': valid_scoring =
@FukuharaYohei様が作成された上記記事のFilter Methodについて自分なりに調べてみました Filter Method Filter Methodは統計的な手法(分散やχ二乗検定など)で特徴量の評価・選択 他の手法に比べると計算量が少なく、最初に足切りで実施するものとのことです 機械学習では説明変数（特徴量）の選択が重要 機械学習（教師あり学習）を使用する際に 目的変数 と 説明変数（特徴量） が重要となります 私が、医療機器管理データベースを利用して医療データ予測のソースコードを研究用に作成している最中に 説明変数（特徴量）がのデータ数が莫大になり 予測に多くの時間がかかり、データ数が多く予想できないとエラーコードが出てしまったため 説明変数（特徴量）を削除しなければいけない状態となりました そこで@FukuharaYohei様の記事に出会い助けられたため内容を共有し
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Adversarial Validationを用いた特徴量選択 - u++の備忘録
scikit-learnで単変量特徴量選択をやってみた - Qiita
医療機器データでpythonの特徴量選択 分散とベルヌーイ分布について - Qiita
www.bbc.com
www.4gamer.net
tocotomo.hatenablog.com
ameblo.jp/yoshiochandayo0731
www.seplus.jp
search.app