あまり深く考えたくない性格なもので、出来ればざっくりと感覚的に理解したいと常々思っています。 そこで、この損失関数についても、直観的に理解できるように、ちょっと調べてみます。 損失関数ってなによ? そもそも損失関数ってなんでしょう? いろいろ調べるとやたら難しい説明が出てきますが、ようは2つの値の差が小さくなるような関数のことのようです。 Deep Learningの識別等では、学習時に、いかに答えに近い値になるように重みパラメータを調整するのかがメインとなるのですが、この「答えに近い値になるように」の部分を担うのが、この「損失関数」というわけです。 「値=損失」ということで、この損失をいかに少なくするのかということで「損失関数」となります。 損失関数の種類 では、損失関数にはどういった種類のものがあるのでしょうか。 ざっと調べてみても、結構な種類があります。 ヒンジ損失関数 ε許容誤差関