勾配ブースティング
from
アンサンブル学習
勾配ブースティング
決定木を利用して1回目の予測を行う。 訓練セットの正解データと予測結果の差を取り、誤差を算出します、この誤差を正解データとして決定木を使って2回目の予測を行う。予測結果と正解データの差を取りこれを正解データとして決定機を使って予測を行うと言う方法を繰り返す。 誤差を取ることによってこれまでのモデルの学習結果の良し悪しがわかるバキングとは異なりバイアスを削減し実学習の状態から学習を促進させる。