ニュートン法 - takalab

ニュートン法

Newton-Raphson Method

２回微分可能なスカラ値関数について、制約条件無しで極小値を求めるプログラム。

Problem

$ \mathrm{find ~~ min}_{\bf x} f(\bf x)

$ fが1変数スカラー値関数の場合

適当な初期値$ x_0に対して以下の漸化式を用いて収束するまで計算を行う。

$ x_{n+1}=x_n - \frac{f(x_n)}{f'(x_n)}

$ fが多変数スカラー値関数の場合

適当な初期値$ {\bf x}_0に対して以下の漸化式を用いて収束するまで計算を行う。

$ {\bf x}_{n+1} = {\bf x}_n -H^{-1}\nabla f

ただし、$ H, \nabla fはそれぞれ$ {\bf x}_nにおけるヘッセ行列と勾配である。