ニュートン法
機械学習のためのニュートン法 (1 変数から多変数まで) - Qiita
f(x)f(x) の 2 次近似 (2 次関数による近似) をして,その 2 次関数の極値を与えるような xx の値を求めているというのが,ここで行っている計算の意味です.次に,この極値を与えるような xx の値まわりで 2 次近似をして,さらに極値となる値を探します.これを繰り返すことで
最急降下法とニュートン法を用いた最適化 - Qiita
ヘッセ行列
テイラー展開