2025.8.8 Armijo条件に基づくBacktracking法
armijo_backtracking(f, x, p, alpha=0.1, rho=0.1, c1=0.0001):
1)現在の$ \alphaを用いて次ステップの状態を求める
$ x_{n+1} = x_n + \alpha p_n
2)もし次式を満足したならば判定し終了
$ f(x_{n+1}) \leq f(x_n) + c_1 \cdot \alpha \cdot \nabla f_n \cdot p_n
3)$ \alphaを小さくする
$ \alpha = \alpha\times \rho
4)もし、$ \alpha が小さくなりすぎた場合、計算を打ち切り終了
5) ステップ1に戻る
alphaの初期値をある程度大きい値に設定しないと効果が無い場合が想定される。
計算の度にalphaはrho倍される、細かく調整するのであればrhoは1に近い方が良い($ \rho < 1)