【1】引言

前序學習進程中，已經對線性回歸和嶺回歸做了初步解讀。
實際上， Logistic regression是一種廣義的線性模型，在對線性分類的進一步學習前，有必要了解 Logistic regression。

【2】Logistic regression的3種成本函數

點擊下方鏈接直達官網學習教程：logistic regression
Logistic regression是Logistic回歸所使用的算法，包括的成本函數有3種，具體為：
$L2$正則化成本函數：
$$\min \frac{1}{2}{w}^{T}w+C\sum _{i=1}^{n}log(exp(?y_i(X_i^{T}w+c))+1)$$
$L1$正則化成本函數：
$$\min ||w|{|}_1+C\sum _{i=1}^{n}log(exp(?y_i(X_i^{T}w+c))+1)$$
彈性網正則化成本，結合了$L2$正則化和$L1$正則化的成本函數：
$$\min \frac{1?\rho }{2}{w}^{T}w+\rho ||w|{|}_1+C\sum _{i=1}^{n}log(exp(?y_i(X_i^{T}w+c))+1)$$
顯然，當$\rho =1$時，彈性網正則化等價于$L1$正則化
當$\rho =0$時，彈性網正則化等價于$L2$正則化。

【3】總結

學習了Logistic regression的3種成本函數。