確率的勾配法

確率的勾配法

データの1部だけを使って目的関数の勾配法を近似的に計算するこうばいほうです。純粋な勾配法に比べて計算速度が速くなります真の勾配方向から少しずれた方向にノイズの影響受けているかのようにパラメーターの更新が進むので、純粋な勾配法ではトラップされる局所解から逃れる可能性がある。