損失関数 (Loss function) って? 機械学習と言っても結局学習をするのは計算機なので,所詮数字で評価されたものが全てだと言えます.例えば感性データのようなものでも,最終的に混同行列を使うなどして数的に処理をします.その際,計算機に対して「どれくらい間違っているよ」という結果を伝えるための計算式がこれにあたります.つまり,これが大きければ大きいほど大きく間違っているということになります. ざっくりとした数式で表すと簡単に以下の式で表されます.ほぼ情報量がゼロの式ですが. つまり,何かしらの定義に基づいて $Y_\mathrm{prediction}$ および $Y_\mathrm{grand\mbox{_}truth}$ の違い・誤差・距離を計測するというものがこれにあたります. また,以下の式に関しまして基本的に損失関数として考えた入力, $y_{\mathrm{pred}}