K-分割法
１．与えられたデータをK個に分割する。
２．K番目のデータ$ (X^K,Y^K)を除いたすべてのデータを訓練用データとして$ (X^K,Y^K)を検証用データとして$ MSE_{λ}を計算する。
Kを一つ決めるたびに、別の$ MSE_{λ}が決まる。
たとえばK=3なら３つ$ MSE_{λ}が求まる。
λについても候補のすべてについて計算する。
３．ひとつのλに対して$ MSE_{λ}はK個あるので、それを平均する。その平均が一番小さくなるようなλが求めるλである。
$ λ^*=argmin\frac{1}{K}\sum_{k=1}^{K}MSE_{λ}^k
Kが大きくなればなるほど安定するが、計算量が多くなる。