目錄
1. 從感知機到神經網絡
2. 最簡單的神經網絡
3. 激活函數的引入
1. 從感知機到神經網絡
? ? ? ? 之前章節我們了解了感知機，感知機可以處理與門、非與門、或門、異或門等邏輯運算；不過在感知機中設定權重的工作是由人工來做的，而設定合適的，符合預期的輸入與輸出的權重，是一項非常繁重的工作。神經網絡就是為了實現這一工作，它的一個重要性質就是可以自動的從數據中學到合適的權重參數。
????????神經網絡又叫人工神經網絡（Artificial?Neural Network，即ANN ），是20世紀80 年代以來人工智能領域興起的研究熱點。它從信息處理角度對人腦神經元網絡進行抽象， 建立某種簡單模型，按不同的連接方式組成不同的網絡。
2. 最簡單的神經網絡
? ? ? ? 從下圖可以看到，最左邊的即輸入層， 0 層；最右邊的即輸出層，2 層；中間的即中間層，中間層又叫隱藏層，1 層。其中只有輸入層、中間層具有權重，可以稱之為 2 層網絡，也可以按照網絡的級數稱之為 3 層網絡。這個圖看起來和感知機沒啥區別。
我們回想一下感知機：
可以用數學式來表示上圖的感知機
這個數學式可以進行改寫，?
把輸入信號的總和??(b+w1*x1+w2*x2) 設置為 x，則相當于
此時 h(x) 函數會將輸入信號的總和轉換為輸出信號，這種函數就稱之為激活函數（activation function）。
3. 激活函數的引入
????????有了激活函數的引入，原來的感知機圖，就可以轉換為神經元圖。激活函數是連接感知機和神經網絡的橋梁。
? ? ? ? 請注意，此處激活函數以閾值為界，一旦輸入超過閾值，就切換輸出，這樣的函數稱之為“階躍函數”。感知機是選擇了階躍函數，如果感知機選擇了其他函數作為激活函數，那么就進入了神經網絡的世界了！
? ? ? ? 請大家注意，激活函數的不同，是感知機和神經網絡的根本差異。
)
)
