Kaggleで世界11位になったデータ解析手法～Sansan高際睦起の模範コードに学ぶ｜ハイクラス転職・求人情報サイト AMBI（アンビ）
Kaggleで世界11位になったデータ解析手法～Sansan高際睦起の模範コードに学ぶ Kaggleの上位入賞者であるKaggle Grandmasterを獲得した、Sansan株式会社のデータサイエンティスト高際睦起さん。模範となるソースコードをもとに考え方や解析手法を教えていただきました。 「Porto Seguro’s Safe Driver Prediction」とは？ 【技法1】前処理 【技法2】特徴抽出 【技法3】予測モデルの作成 Kaggle初心者は何から始めるべき？ データサイエンティストを目指す若き人たちへ 世界中のデータサイエンティストたちが集まり、企業や研究者が投稿したデータに対する高精度なモデルを競い合うプラットフォーム・Kaggle。メンバーは100万人を超えており、良問の多さや参加者のレベルの高さゆえに、機械学習を学ぶ者にとって優れた研鑽（けんさん）の場となって
Kaggleのテクニック
Kaggleのあるコンテンストの優勝者が作ったモデルをケーススタディとして、kaggleテクニックを解説します。特にStackingを中心に解説しています。CNNにはあえて触れませんでした。また、t-SNEやxgboostの概略にも触れました。
XGBoostやパラメータチューニングの仕方に関する調査 – かものはしの分析ブログ
都内の事業会社で分析やWebマーケティングの仕事をしています。大学・大学院では経済学を通じて統計解析を行うなどしておりました。企業に勤めてからは、機械学習やテキストマイニング、クローリング技術などに関心を持っています。 Twitterアカウント Mr_Sakaue( SKUE ) GitHub 読書メーター ほしいものリスト 【�目次】 ・XGBoostとは ・XGBoostで用いるパラメータ一覧 ・XGBoostのパラメータチューニング ・参考文献 XGBoostとは XGBoost (eXtreme Gradient Boosting) は勾配ブースティングアルゴリズムの先進的な実装例で、データサイエンスのコンペであるKaggleで話題となっていた手法です。 ブースティングアルゴリズムとは、弱識別器（weak learners）の集団を直列的に結合することで、予測における正確性を高めよ
PythonでXgboost - Yuki Okuda
2015-08-08 xgboost package のR とpython の違い - puyokwの日記 puyokwさんの記事に触発されて，私もPythonでXgboost使う人のための導入記事的なものを書きます．ちなみに，xgboost のパラメータ - puyokwの日記にはだいぶお世話になりました．ありがとうございました． Xgboostとは dmlc/xgboost Xgboostは言わずと知れた最近流行りのGradient Boosting系のライブラリで，独立したバイナリとしてコマンドラインから実行できるほか，RやPythonからもライブラリとして利用することができる．詳しくい情報は以下の記事を参照していただきたい． 勾配ブースティングについてざっくりと説明する - About connecting the dots. xgboostとgbmのパラメータ対応一覧をつくる -
xgboost のパラメータ - puyokwの日記
xgboost を使う上で、日本語のサイトが少ないと感じましたので、今回はパラメータについて、基本的にこちらのサイトの日本語訳です。 github.com xgboost を実行する前に、共通変数、ブースター変数、タスク変数の３つをセットしなければなりません。 共通変数は、木あるいは線形モデルのブースティングモデルに共通の変数です ブースター変数は、木あるいは線形モデルの各々に固有の変数です タスク変数は、どのように学習させるかを決めるもので、例えば、回帰タスクではランキングタスクの変数が異なっています この３つの変数に加えて、コンソール変数があり、これはxgboost のコンソール版の動作に関連しています。(たとえば、作製したモデルを保存するときなど) Rパッケージにおける変数 R のパッケージでは、. (ドット) を_ (アンダーバー)に置き換えて利用できます。例えば、max.dept
xgboostでランダムフォレストを実行する - 盆栽日記
xgboostでランダムフォレストを実行できる。 nrounds=1にして、subsampleとcolsampleをお好みの割合に設定した後、num_parallel_treeで木の数を指定すればよい。 たとえばcaretからxgboostでclassificationを行う場合以下のような設定になる。 library("caret") model_rf <- train( target_var~., sampledata, method="xgbTree", metric="ROC", colsample_bytree=0.3, subsample=0.632, num_parallel_tree=1000, tuneGrid=expand.grid(max_depth = 15, nrounds = 1, eta = 0.1) ) xgboostのvignetteを読めば書いてあること
Xgboost のR における具体例 (クラス分類) - puyokwの日記
前回、Xgboost のパラメータについて列挙しましたが、あれだけ見ても実際にどう使うのかよく分かりません。そこで今回はR で、とりあえず iris data を用いてその使い方を見ていきたいと思います。 まず、iris data の奇数番目を訓練データ、偶数番目を検証データとします。 dim(iris) # 行数:150, 列数:5 odd.n<-2*(1:75)-1 iris.train<-iris[odd.n,] # 奇数を訓練データ iris.test<-iris[-odd.n,] # 偶数を検証データ 次に、xgboost に適した形式に変換します。 library(xgboost) y <- iris.train[,5] # 目的変数 y <- as.integer(y)-1 #xgboost で既定されいるクラスは 0 base train.x<-iris.train[,1:
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - ja-thomas/autoxgboost: autoxgboost - Automatic tuning and fitting of xgboost