深度學習系統學習系列【1】之基本知識

說明

在這里插入圖片描述

機器學習按照方法主要可以分為兩大類：監督學習和無監督學習。其中監督學習主要由分類和回歸等問題組成，深度學習則屬于監督學習當中的一種；無監督學習主要由聚類和關聯分析等問題組成。
機器學習中的監督學習是指使用算法對有標注的數據進行解析，從數據中學習特定的結構模型，使用模型來對未知的新數據進行預測。通俗來說，監督學習就是通過對數據進行分析，找到數據的表達模型，然后套用該模型來做決策。
監督學習的一般方法主要分為訓練和預測階段。
- 在訓練階段（對數據進行分析的階段），根據原始的數據進行特征提取【特征工程】。得到特征后，使用決策樹、隨機森林等模型算法去分析數據之間的特征或者關系，最終得到關于輸入數據的模型（Model)。
- 在預測階段，同樣提取數據后，使用訓練階段獲得的模型對特征向量進行預測，得到最終的標簽（Labels）。

機器學習算法中不同的模型使用自己特定的規則去解釋輸入的數據，然后對新輸入的數據進行預測和判斷。例如決策樹的模型，是構建一個樹形結構，一個節點代表一種數據類型，一個葉子節點則代表一種類別；線性回歸模型利用線性回歸方程創建一組參數來表示輸入的數據之間的關系；神經網絡則有一組權重參數向量來代表節點之間的關系。

在實際情況中，如果輸入的數據受到影響導致特征數據變化，傳統機器學習的算法的有效性就會降低，如當遇到雨雪天氣時，馬路一旁的標志牌變模糊，抑或標志牌被樹木遮擋時，標志牌的特征也會改變。

深度學習自動篩選數據，自動提取數據高維特征。選擇深度學習，一方面它節省時間，降低工作量，提高工作效率；另一方面是深度學習的效果，在眾多領域能夠獲得比人類預測的更好的效果：此外，深度學習還可以與大數據無縫結合，輸入龐大的數據集進行大數據端到端的學習過程，這種大道至簡的理念吸引著無數的研究者。

三U之CPU、GPU、NPU
硬件加速器是深度學習應用的核心要素，能夠獲得巨大的計算性能提升。
GPU 作為硬件加速器之一，通過大量圖形處理單元與 CPU協同工作，對深度學習、數據分析，以及大量計算的工程應用進行加速。
統一計算設備架構（Compute Unified Device Architecture, CUDA）。隨著 GPU 的發展， GPU 開始主要為顯示圖像做優化，在計算上超越通用的 CPU。 NVIDIA 推出 CUDA這一通用并行計算架構，該架構使GPU能夠解決復雜的計算問題。
GPU 是大規模并行架構，擅長處理并行任務。GPU 的并行架構非常合適深度學習需要高效的矩陣操作和大量的卷積操作。
GPU的特性：高寬帶；高速緩存性能；并行單元多。
用 GPU來進行深度學習，在 $L 1$ 高速緩存中和 $GP U$ 的寄存器上存儲大量的數據，反復使用卷積操作和矩陣乘法操作，而不用擔心運算應度慢的問題。假設有一個 $100 MB$ 的矩陣，根據寄存器的數量和高速緩存的大小把該矩陣分解成多個如 $3 \times 3$ 的小矩陣，然后以 $10 ? 80 TB / s$ 的速度與一個三通道的 $3 \times 3$ 的小矩陣相乘完成一次卷積操作。
對于深度學習的加速器GPU，初學者推薦使用 NVIDIA顯卡。英偉達公司押注人工智能與深度學習，GPU資源充分。CUDA平臺來說，其社區完善，很多開源解決方案為后續編程。

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/79374.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/79374.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/79374.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！