SVM(サポートベクターマシン)
SVMは主に分類(Classification)と回帰(Regression)のタスクに使用され、特に分類問題において優れた性能を発揮する
画像認識や音声認識といったパターン識別でよく使われる
考え方
分類しようと線を引こうとした場合に、無数な線の引き方があるが、サポートベクトルというそれぞれの点から、なるべく遠くなるように線を引けるような線を求める
流れ
よく分からない。。。
はじめにサポートベクトルを定める?それとも線を引いてみて、サポートベクトルを決める?それとも別の流れ?
サポートベクトルが決まっていれば、どう線を引けば、もっとも遠くなる線が決まるというのはわかるが、そもそもそのサポートベクトルはどう決めるのか?
サポートベクトル
どうやってサポートベクトルを決める?
サポートベクトルのマージン(余白)
ハードマージン
学習データに忠実に境界線を引いたもの
ソフトマージン
現実のデータには誤差が含まれているので、忠実に引いてしまうと誤差の影響を受けてしまう
そのため、誤差を許容してゆるい線を引く
こちらの方を機械学習では使っている
線系分類
非線形分類
カーネルトリック
直線では分類できないデータの場合に使用する方法
次元を増やして対応する