【論文メモ】Neural Oblivious Decision Ensembles for Deep Learning on Tabular Data - QiitaNeural Oblivious Decision Ensembles for Deep Learning on Tabular Data をまとめます。 本論文は Catboost で有名な Yandex から出た論文で、Neural Oblivious Decision Ensembles (NODE) という、テーブルデータ用の Deep Learning モデルを提案しています。 実験結果で他の GBDT モデルを outperform しており、「テーブルデータの universal framework になること間違いなし」だそうです。 実装はこちら。 モデル構造 NODE レイヤー 全体のアーキテクチャ 学習・推論 の順に紹介します。 NODE レイヤー NODE レイヤーは決定木をベースにしているため、先に決定木を定式化しておきます。 深さ $d$ の決定木に関して、 それ
