機械学習モデルのBlendingに対する重みの最適化手法について - ysaz (ImanazaS) blogアンサンブル学習 Blendingに対する重みの最適化事例 様々な最適化手法 まとめ Kaggleなどの機械学習コンペにおいて、複数のモデルを平均等により組み合わせることで、新たな推論結果を作る手法（blendingと呼ばれる）があります。 平均を取る際にモデルの重み付けを行いますが、均等に振られることもあれば、軽重をつけることもあります。 （例えばモデルが２つであれば、前者は0.5ずつ、後者は0.7と0.3、といった具合です） ここでは、複数のモデルに対する最適な重みを探す手法について、SciPyのminimize関数を使った例を取り上げたいと思います。 アンサンブル学習 Blendingはアンサンブル学習の一つであり、モデルがN個あれば、0〜１の値を持つN個の重みを各モデルの予測結果に掛け合わせて、最終的な予測結果を得ます。 アンサンブル学習には他にも、平均以外に多数決といった簡単な手
ベイズ最適化シリーズ（2） －アンサンブル学習（Voting）の最適化－ - Qiita
