• 大腦的基本計算單位是神經元（neuron）。
• 人類的神經系統中大約有860億個神經元，它們被大約10^14-10^15個突觸（synapses）連接起來。
• 下面圖表的左邊展示了一個生物學的神經元，右邊展示了一個常用的數學模型。
• 每個神經元都從它的樹突獲得輸入信號，然后沿著它唯一的軸突（axon）產生輸出信號。
• 軸突在末端會逐漸分枝，通過突觸和其他神經元的樹突相連。

該模型如何工作

• 在神經元的計算模型中，沿著軸突傳播的信號（比如x0）將基于突觸的突觸強度（比如w0），與其他神經元的樹突進行乘法交互（比如w0x0）。
• 其觀點是，突觸的強度（也就是權重w），是可學習的且可以控制一個神經元對于另一個神經元的影響強度（還可以控制影響方向：使其興奮（正權重）或使其抑制（負權重））
• 在基本模型中，樹突將信號傳遞到細胞體，信號在細胞體中相加。如果最終之和高于某個閾值，那么神經元將會激活，向其軸突輸出一個峰值信號。
• 基于這個速率編碼的觀點，將神經元的激活率建模為激活函數（activation function）f，它表達了軸突上激活信號的頻率。
• 由于歷史原因，激活函數常常選擇使用sigmoid函數σ，該函數輸入實數值（求和后的信號強度），然后將輸入值壓縮到0-1之間。