ブックマーク / qiita.com/motoyuki1963 (2)

  • Optunaを使ったxgboostの設定方法 - Qiita

    xgboostの回帰について設定してみる。 xgboostについては、他のHPを参考にしましょう。 「ザックリとした『Xgboostとは』& 主要なパラメータについてのメモ」 https://qiita.com/2357gi/items/913af8b813b069617aad 後、公式HPのパラメーターのところを参考にしました。 https://xgboost.readthedocs.io/en/latest/parameter.html いろいろ入れたけど、決定木系は過学習になりやすいので、それを制御するパラメーターをしっかり設定した方が良いと思ってます。 xgboostでは、lambdaalphaですが、pythonで設定するときは、reg_lambdaとreg_alphaのように、reg_をつけて指定します。 # optunaの目的関数を設定する #gtreeのパラメーター設定で

    Optunaを使ったxgboostの設定方法 - Qiita
  • Optunaを使ったRandomforestの設定方法 - Qiita

    修正200808 整数で与えた方が良いのは、suggest_intで与えることにしました。 パラメータは、公式HPから抽出しました。 https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.RandomForestRegressor.html 修正200704 よく考えたら、max_depth,n_estimators 等は、離散値suggest_discrete_uniform(name, low, high, q)で与えるべきでしたので、スクリプトを修正しました。 max_depth,n_estimators,max_leaf_nodesは離散値suggest_discrete_uniformだと、型がfloatになってしまうので、int(suggest_discrete_uniform())にして、型を整数

    Optunaを使ったRandomforestの設定方法 - Qiita
  • 1