サポートベクターマシン
SVMとも言われる.
異なるクラスの各データ点との距離が最大になる境界線を求めることでパターン分類を行うもの.
この境界線を求めることをマージン最大化という.
境界線と最も近いデータをサポートベクトルと呼ぶ.
扱うデータが高次元である場合や,線形分類できない場合も想定する必要がある.
後者についてはデータをあえて高次元に写像し,その空間で線形分類するというアプローチが取られた.
この写像に用いる関数をカーネル関数という.
この際に計算が複雑にならないようにするテクニックをカーネルトリックと呼ぶ.
誤分類をある程度許容することで汎化性能を高くしている.
これをソフトマージンと呼び,スラック変数の導入によって実現されている.
ディープラーニング以前は最も人気があった機械学習の手法.