機器學習方法分類總結

這篇文章只是一個類似于知識概括的文章，主要作用是幫忙梳理：

1) 分類

• 貝葉斯模型（Bayesian Mode）
  - 樸素貝葉斯算法（Naive Bayesian Mode）
  - 平均單依賴估計（AveragedOne-Dependence Estimators， AODE）
  - Bayesian Belief Network（BBN）
• K-鄰近 （k-Nearest Neighbor，KNN）
• 支持向量機（SupportVector Machine， SVM）
• 徑向基網絡（RBF network）之BP監督訓練
• 決策樹（Decision Trees）
  - 分類及回歸樹（ClassificationAnd Regression Tree， CART）
  - ID3，C4.5，CART
  - 卡方自動交互檢測法（chi-squared automatic interaction detector, CHAID）
  - 決策樹樁，單層決策樹（Decision Stump）
  - 多元自適應回歸（MARS）
  - 梯度提升樹算法，增強樹（GBM）
• 神經網絡（Neural Networks）
• 集成算法
  - Boosting
  - Bootstrapped Aggregation（Bagging）
  - AdaBoost
  - 堆疊泛化（Stacked Generalization， Blending）
  - 隨機森林（Random Forest）

2) 回歸

• 線性回歸（Linear Regression）
• 最小二乘法（OrdinaryLeast Square）
• 邏輯回歸 （Logistic Regression）
• 多項式回歸（Polynomial Regression）
• 逐步回歸（Stepwise Regression） （縮減方法）
• 嶺回歸（Ridge Regression）L2
• 稀疏約束（Least Absolute Shrinkage and Selection Operator）（LASSO）L1
• 彈性網絡（Elastic Net）
• 多元自適應回歸樣條（MultivariateAdaptive Regression Splines）
• 本地散點平滑估計（Locally Estimated Scatterplot Smoothing）

3) 聚類

• K-Means（K均值）聚類
• 期望最大化算法（Expectation Maximization， EM）
• 均值漂移聚類（Mean-Shift Clustering）
• 基于密度的聚類（DBSCAN）
• 凝聚層次聚類（Hierarchical Clustering）
• 圖團體檢測(Graph Community Detection)
• 學習矢量量化（Learning Vector Quantization， LVQ）
• 自組織映射算法（Self-Organizing Map ， SOM）

4) 降維

• 主成份分析（PrincipleComponent Analysis， PCA）
• 拉普拉斯特征映射（Laplacian Eigenmaps，LE）
• 局部保留投影（Locality Preserving Projections，LPP）
• 多維尺度縮放（Multi-Dimensional Scaling, MDS）
• 等度量映射（Isometric Mapping，Isomap)
• 局部線性嵌入（Locally Linear Embedding，LLE）
• 線性判別分析（Linear Discriminant Analysis，LDA）
• 偏最小二乘回歸（Partial Least Square Regression，PLS）

---

關聯規則分析

• Apriori算法
• Eclat算法

人工神經網絡

• 感知器神經網絡（PerceptronNeural Network）
• 反向傳遞（Back Propagation）
• Hopfield網絡
• 自組織映射（Self-OrganizingMap, SOM）
• 學習矢量量化（Learning Vector Quantization， LVQ）；

深度學習

• 受限波爾茲曼機（RestrictedBoltzmann Machine， RBN）
• Deep Belief Networks（DBN）
• 卷積網絡（Convolutional Network）
• 堆棧式自動編碼器（Stacked Auto-encoders）