文章目錄
- 線性回歸
- 邏輯回歸
- 線性判別分析
- PCA
- k-means
- 決策樹
- svm
- 隨機深林
- GBDT
- xgboost
- 強化學習
- MapReduce
線性回歸
邏輯回歸
對于分類問題:輸出0/1,超過[0,1]沒有意義,使用sigmoid函數
**代價函數:**使用L2平方差,由于模型函數變了,會導致J()變成非凸函數,有可能出現很多局部最小值,梯度下降很難收斂到全局最小值
線性判別分析
LDA思想:將高維樣本投影到具有最佳判別效果的低維矢量空間,使得降維樣本在新的子空間內類間距離最大,類內距離最小,在該低維空間內有最大的可分性。
PCA
k-means
決策樹
svm
隨機深林
GBDT
xgboost
強化學習
MapReduce