1.支持向量機Support Vector Machine(SVM)是一種對數據二分類的線性分類器,目的是尋找一個超平面對樣本進行分割,廣泛應用人像識別,手寫數字識別,生物信息識別。
二維空間分割界是一條直線,在三維空間是一個平面,在本文中為了方便起見,把二維空間也稱為超平面。
2.SVM求解是一個含有不等式約束的凸二次規劃問題,可用拉格朗日乘子法得到其對偶問題
3.核函數
SVM求解時樣本是線性可分的,然而在實際的任務中,樣本往往線性不可分,無法找到一個超平面將樣本分開,但可以用一條曲線分開,如圖所示。
解決辦法是將原始樣本點映射到一個高維空間,樣本在原始空間線性不可分,但在高維空間有可能是線性可分的 。如果在高維空間維度很高,直接計算會相當困難,因此可以不直接計算,而是用核函數代替。其定義為樣本x映射到高維空間之后的內積等于他們在原空間通過函數K計算之后的結果。
?
4.軟間核
軟間核可以讓某些樣本分類數據分類錯誤(當然越少越好),如果所有條件都不滿足約束條件就稱為硬件核。
總結: