過学習 - kyoyo-ds2020-060

過学習

訓練誤差は小さいが汎化誤差が大きくなってしまった状態

https://gyazo.com/6e743341df99798f120a3d11dab75f5c

https://qiita.com/kaityo256/items/136f43fe8c2055155d9e (2021/2/11)

つまり、訓練用のデータは学習するほど精度よく予測できるようになるが、ある地点から訓練用以外のデータに対しての予測精度が落ちていくという問題

訓練用データセットが少ないと起きる←訓練誤差を減らすのが容易であるため

しかし訓練用のデータを増やしても、汎化誤差と訓練誤差の差は縮まるがノイズが含まれるため最終的にノイズによって頭打ちになる

参考

訓練誤差と汎化誤差の理論計算 - Qiita

https://qiita.com/kaityo256/items/136f43fe8c2055155d9e (2021/2/11)