極限學習機 (Extreme Learning Machine, ELM) 算法詳解與PyTorch實現

---

1. 極限學習機 (ELM) 算法概述

極限學習機（Extreme Learning Machine, ELM）是一種單隱層前饋神經網絡（SLFN），由黃廣斌教授于2006年提出。ELM的核心思想是隨機初始化輸入層到隱層的權重和偏置，并通過最小二乘法直接計算隱層到輸出層的權重。ELM具有訓練速度快、泛化性能好等優點，廣泛應用于分類、回歸和特征學習等任務。

1.1 單隱層前饋神經網絡

單隱層前饋神經網絡（SLFN）由輸入層、隱層和輸出層組成。ELM通過隨機初始化隱層參數，避免了傳統神經網絡中耗時的反向傳播過程。

1.2 ELM的優勢

• 訓練速度快：ELM通過最小二乘法直接計算輸出層權重，避免了迭代優化過程。
• 泛化性能好：ELM在多個數據集上表現出優異的泛化性能。
• 易于實現：ELM算法簡單，易于實現和擴展。

<