モデルの最適化は損失関数の最小化
モデルの学習において最適化される
目的関数
とは、
損失関数
に当たる。
損失関数の値は、モデルの出力が正当に対してどれだけずれているかを表す値
ニューラルネットワークの各ノードにおける重みやバイアスから計算できる。
つまりモデルの最適化は損失関数の値が小さくなるような
ニューラルネットワークの重みを探し出すこと。