この記事は、自身のブログ、Data Science Struggleを翻訳したものになる。 概略 Kaggleのようなコンテストだと複数のアルゴリズムを組み合わせたモデルを良く見る。ロジスティック回帰やラッソ回帰の結果を用いてxgboostでモデルを作成するといったようなものだ。 今回は実際に、cifar-10のデータセットを用いて、CNNとKNNを組み合わせて予測を行い、実際の精度を見てみる。 手順 行うことはシンプルであり、CNNで予測したスコアを訓練データとしてKNNでモデルを作成し、その予測を最終予測結果とする。 具体的な手順は以下のようになる。 データを3つに分割する 一つ目のデータからCNNモデルを作成する 二つ目のデータと三つ目のデータに対してCNNモデルで予測を行う 二つ目のデータのCNN予測スコアを用いてKNNモデルを作成する 三つ目のデータのCNN予測スコアに対して、K