勾配法

ニューラルネットワークでは最適な重みを求める必要があるが，その際に損失関数が僅かながら存在するのでそれを最も少なくするために使う

予測誤差が最も少なくなくなるための操作

勾配法それ自体は最小値や最大値を求めるためのアルゴリズム

解析的に解くのが困難なときに有効なアルゴリズム

欠点

学習に時間がかかる

勾配が0になる極小値で更新が止まる(勾配消失)