過学習
https://2.bp.blogspot.com/-wSQ2eVTRAeM/VkLHVmYCEQI/AAAAAAAA0VQ/vgfU8DURzb0/s800/studynight_boy.png
「過学習(過適合)」とは、学習(訓練)データにあまりに適合しすぎて、学習(訓練)データでは正解率が高いのに学習(訓練)データとは異なるデータ(例えば、評価データ)では正解率が低くなってしまう、つまり、学習(訓練)データだけに最適化されてしまって汎用性がない状態に陥ることです。
過学習だと、真の関数に対する誤差が大きくなる。(overfitting)
モデルの複雑さが大きいともいう。
経験誤差が小さいのに汎化誤差が大きくなっている状態。
過学習を抑制する方法
① 学習データの数を増やす。
② モデルを簡単なものに変更する、又は、ドロップアウトする。
③ 正則化する。(正則化パラメータを適切に定める。)
引用元 AI研究室 「AIが学習しすぎる?「過学習」問題とそれを抑制する方法」 https://ai-kenkyujo.com/2018/10/16/kagakushu/ (閲覧日 2019/12/06)
#テーマ5
#機械学習
#最適化問題