誤差逆伝播法
ニューラルネットワーク
の各層の
値
にはそれより前の層の
値
が含まれていることを利用して計算を再利用することで
誤差関数
の最小化を効率よく達成するもの．
連鎖律
を利用する
ニューラルネットワーク
の
学習
において，
勾配降下法
などでは
計算コスト
が課題だった部分を解決した．
副作用
として計算過程で
ニューロン
ごとの
勾配値
が求められるため，
信用割当問題
を解決した．
誤差逆伝播法
によって新たに
勾配消失問題
や
勾配爆発問題
が現れてきた．