神經網絡:A neural network is a network or circuit of neurons,or in a modern sense,an artificial neural network,composed of artificial neurons or nodes.神經網絡是神經元的網絡或回路,或者在現在意義上來說,是一個由人工神經元或節點組成的人工神經網絡。
人工神經網絡Artificial Neural Networks,ANNs,也簡稱神經網絡NNs或連接模型Connection Model。是一種模仿動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。這種網絡依靠系統的復雜程度,通過調整內部大量節點之間相互連接的關系,從而達到處理信息的目的。
深度學習:Deep learning(alse known as deep structured learning)is part of a broader family of machine learning methods based on artificial neural nerworks with representation learning.Learnig can be supervised,semi-supervised or unsupervised.深度學習,也即深度結構化學習,是基于具有代表性學習(表征學習)的人工神經網絡的更廣泛的機器學習方法的重要組成部分。深度學習可以是監督學習,也可以是半監督學習或無監督學習。
深度學習Deep Learning DL是機器學習Machine Learning ML領域中一個新的研究方向,被引入機器學習使其更接近于最初的目標——人工智能Artificial Intelligence AI。
深度學習是學習樣本數據的內在規律和表示層次,這些學習過程中獲得的信息對諸如文字、圖像和聲音等數據的解釋有很大的幫助。它的最終目標是讓機器能夠像人一樣具有分析學習能力,能夠是識別問題、圖像和聲音等數據。深度學習是一個復雜的機器學習算法,在語音和圖像識別方面取得的效果,遠遠超過先前相關技術。
深度學習在搜索技術、數據挖掘、機器學習、機器翻譯、自然語言處理、多媒體學習、語音、推薦和個性化技術,以及其他相關領域都取得了很多成果。深度學習使機器模仿視聽和思考等人類的活動,解決了很多復雜的模式識別難題,使得人工智能相關技術取得了很大進步。
生物神經元:神經元即神經元細胞,是神經系統最基本的結構和功能單位。分為細胞體和突起兩部分。細胞體由細胞核、細胞膜、細胞質組成,具有聯絡和整合輸入信息并傳出信息的作用。突起有樹突和軸突兩種。樹突短而分枝多,直接由細胞體擴張突出,形成樹枝狀,其作用是接受其他神經元軸突傳來的沖動并傳給細胞體。軸突長而分枝少,為粗細均勻的細長突起,常起于軸丘,其作用是接受外來刺激,再由細胞體傳出。軸突除分出側枝外,其末端形成樹枝樣的神經末梢。末梢分布于某些組織器官內,形成各神經末梢裝置。感覺神經末梢形成各種感受器;運動神經末梢分布于骨骼肌肉,形成運動終板
(人工)神經元:也稱人工記憶神經元,通常也稱處理單元,不是人腦神經系統下生物神經元細胞的真實描述,只是一種抽象模擬;本質上可以將人工神經元理解為一種于人工神經網絡中完成結構化構造的單一數據結構;一個人工記憶神經元的功能是求的輸入向量與權重向量的內積后,經一個非線性傳遞函數得到一個標量結果。單個神經元的作用:把一個n維向量空間用一個超平面區分稱兩部分(稱為判斷邊界),給定一個輸入向量,神經元可以判斷出這個向量位于超平面的哪一邊。
人工神經網絡基本結構
人工神經網絡本質上是一個數學函數模型,假設以y=f(x)描述該函數模型,那么一個人工神經網絡對應于該函數模型之上,就會包含三個重要組成部分:輸入層、輸出層、隱藏層。
輸入層:即Input Layer,負責從外部數據集輸入數據信息,由輸入單元組成,這些輸入單元可接收樣本中各種不同的特征信息;輸入層就對應人工神經網絡數學模型y=f(x)中的x,即某函數的自變量。在神經網絡模型中,自變量x由一個n維向量(行或列矩陣)描述。在概率模型中,輸入層實則對應一個來自訓練集的n維連續或離散型隨機變量。
輸出層:即Output Layer,負責生成網絡輸出的最終結果,由輸出單元組成,每個輸出單元對應某一種特定的類別結果;輸出層就對應人工神經網絡數學函數模型y=f(x)中的y,即某函數的因變量。在神經網絡模型中,因變量y也是由一個n維向量描述。
隱藏層:即Hidden Layer,負責神經網絡內部的信息處理及信息變換。
整個輸入層、隱藏層、輸出層就對應一個完整的數學模型y=f(x)
上述人工神經網絡示例圖
每一個節點就是一個人工神經元
神經元之間的連接就是軸突,即神經元之間的連接,負責神經元之間的信號傳遞,實則傳遞的信號就是一些數值
神經網絡之所以一般稱為深度神經網絡,主要是因為其中隱藏層及其層數,看上去有好多層,所以就是深度神經網絡,深度即神經網絡的層數。
深度學習之所以稱為深度結構化學習,是因為在神經網絡模型中,網絡的結構都是預先定義好的
表征學習:輸入層負責輸入向量特征,輸出層負責輸出最終結果,其中的隱藏層就負責從輸入向量中學習數據的特征,對輸入層進行特征抽取,特征表達,即將低維的輸入逐層的抽取、轉換得到高維特征表達。
————————————
僅用于本人學習
來源:網絡