勾配法
勾配降下法(Gradient Descent)
勾配上昇法(Gradient Ascent)
from 1-4 ニューラルネットワークの学習『ゼロから作るDeep Learning』
複雑な関数において、より小さい値(あるいはより大きい値)の方向へ進むことを繰り返し、関数の値を徐々に減らしていく手法
目的関数の極小値、極大値を見つけるための最適化アルゴリズム
ニューラルネットワーク分野では、勾配降下法が主に用いられる