深度學習的發展是多位研究者長期探索的結果,其核心方法的形成并非由單一人物 “發明”,而是歷經數十年理論積累與技術突破的產物。以下從關鍵人物、核心技術突破及歷史背景三個維度,梳理深度學習方法的起源與發展脈絡:
一、深度學習的奠基者與關鍵貢獻者
1. Geoffrey Hinton:從神經網絡到深度學習的理論突破
- 核心貢獻:
- 20 世紀 80 年代,Hinton 與 David Rumelhart 等人重新引入并完善了反向傳播算法(Backpropagation),解決了多層神經網絡的參數優化問題,為深度學習的多層結構奠定了訓練基礎。
- 2006 年,Hinton 在《Science》發表論文,提出深度信念網絡(DBN),通過 “預訓練 + 微調” 的方式解決了深層網絡訓練困難的問題,首次提出 “深度學習”(Deep Learning)概念,標志著該領域的復興。
- 關鍵思想:認為多層神經網絡可通過 “分層表征” 學習數據的抽象特征,而預訓練技術能避免梯度消失問題。
2. Yann LeCun:卷積神經網絡(CNN)的開創者
- 核心貢獻:
- 1998 年,LeCun 提出LeNet-5,這是首個成功應用的卷積神經網絡,用于手寫數字識別(