過学習
過学習とは
観測データに適合しようとしすぎる傾向
重みベクトルの大きさや次元が大きくなった時におきやすい
なぜ生じるのか?
複雑な分類境界面や回帰曲面などの数理モデルを作って訓練モデルに追従しすぎるから
対策方法
できるだけ偏りのない観測データとすること
分類境界面や回帰曲面を複雑にしすぎない
モデルを簡素に保つ
正則化項付き損失を最小化する重みベクトルを求める方法もある 参考文献
東京大学工学教程 情報工学 機械学習
著者 : 中川裕志
発行所 : 丸善出版株式会社
基礎から学ぶ人工知能の教科書
著者 : 小高知宏
発行所 : オーム社
ページ : 65