Rを使ったXGBoostの高度なチューニングと細かいノウハウ | marketechlabo
XGBoostは機械学習手法として 比較的簡単に扱える 目的変数や損失関数の自由度が高い（欠損値を扱える） 高精度の予測をできることが多い ドキュメントが豊富（日本語の記事も多い） ということで大変便利。 ただチューニングとアウトプットの解釈については解説が少ないので、このあたりについて説明する。 XGBoostとは？ 勾配ブースティングのとある実装ライブラリ（C++で書かれた）。イメージ的にはランダムフォレストを賢くした（誤答への学習を重視する）アルゴリズム。RとPythonでライブラリがあるが、ここではRライブラリとしてのXGBoostについて説明する。 XGBoostのアルゴリズム自体の詳細な説明はこれらを参照。 https://zaburo-ch.github.io/post/xgboost/ https://tjo.hatenablog.com/entry/2015/05/15/
「機械学習のパラメータをベイズ最適化でチューニング」をRで超簡単に書けるパッケージを作った - ★データ解析備忘録★
0. 要約 機械学習のハイパーパラメータをベイズ最適化でチューニングするのは既存パッケージの組み合わせで頑張ればできたのですが、頑張らなくても簡単に書けるパッケージを作りました。 github.com これにより、例えば iris データをXGboostの3-foldクロスバリデーション、エラー率評価でフィッティングさせたければ以下のように書くことでハイパーパラメーターである eta, max_depth, nround, subsample, bytree をベイズ最適化でチューニングしてくれます。 res0 <- xgb_cv_opt(data = iris, label = Species, objectfun = "multi:softmax", evalmetric = "merror", classes = 3, n_folds = 3) データセット名、ラベルの列名、XGbo
機械学習による時系列予測 | Logics of Blue
最終更新：2017年7月26日 機械学習法を用いた時系列データの予測方法について説明します。 R言語を使えば、機械学習も時系列データのデータ操作も簡単にできます。 両者を組み合わせて、時系列データへの予測モデルを作成してみました。 ソースコードはこちらに置いてあります。 スポンサードリンク 目次 解析の準備 機械学習とは 今回予測するデータ caretパッケージを使う準備 Rによる機械学習 予測モデルの概要 ハイパーパラメタのチューニング 機械学習による時系列予測 最適な次数を選ぶ 当てはめ精度の評価 将来の予測 1．解析の準備 機械学習とは 機械学習とは、次にどのようなデータが来るのかを､決まった手順を踏んで予測する技術、あるいは手法のことです。 機械学習の良いところは、予測のための「手順」を、過去のデータからほとんど自動で見つけられることです。 昔は人間が勘と経験そして度胸で予測を出し
やたらと重い「Firefox」を、馬鹿みたいに高速化する方法まとめ。
結構Firefoxが好きなので、ちょこちょこ改造していたんですが、管理するPCごとに新しいこと試したり前やってたことをやめたりしてるうちに何が何だかわからなくなってきてしまったので、そろそろまとめようかなー？ってことでまとめてみました。 ちなみに、ここに書いてある改造は完全に自宅マシン用です。 会社のマシンでここまでやると・・・ちょっと動作とかアドオンの不都合とか色々検証してないことも多いので、出来るだけご自身の責任でお願いいたします。 とりあえず手始めに入れるアドオン SQLiteOptimizerアドオンを入れる Firefoxの重たくなる一番の原因となる、SQLiteの計量最適化を図ってくれるアドオン。 Faster Fox Liteアドオンを入れる 設定は「ターボチャージャー」に。 かつ、アドバンス設定で「Disable IPv6 DNS lookup」にチェック。 MemoryF
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
