機器學習——人工神經網絡之BP算法編程（python二分類數據集：馬疝病數據集）

目錄

一、理論知識回顧

1、神經網絡模型

2、明確任務以及參數

1）待估參數：

2）超參數：

3）任務

3、神經網絡數學模型定義

1）激活函數

?

2）各層權重、閾值定義

3）各層輸入輸出定義

4、優化問題的目標函數與迭代公式

1）目標函數

2）待估參數的優化迭代公式

二、python編程

1、編程步驟

2、數據準備、數據處理、數據劃分

1）數據下載

2）關鍵代碼

3、初始化待估參數

1）關鍵代碼

2）np.random.randint(a,b,(m,n))函數

3）astype(np.float64)

4、創建激活函數

5、參數迭代更新

1）關鍵代碼

2）dot、multiply

3）難點

6、測試模型

7、主函數運行

三、總結

1、幾個循環

2、問題集錦

1）若是有多個輸出怎么辦？

2）BP算法為什么叫做后向傳播？

四、完整代碼

堅持嗑完這篇文章一定會明白神經網絡BP算法的精髓所在的，以及各層之間誤差的互相影響以及傳播

一、理論知識回顧

參考文章：

《機器學習——人工神經網絡之發展歷史（神經元數學模型、感知器算法）》

《機器學習——人工神經網絡之多層神經網絡（多層與三層）》

《機器學習——人工神經網絡之后向傳播算法（BP算法）》

《機器學習——人工神經網絡之參數設置（BP算法）》

1、神經網絡模型

一個神經元即一個感知機模型，由多個神經元相互連接形成的網絡，即神經網絡。

這里我們只討論單隱層前饋神經網絡，其連接形式入下：

2、明確任務以及參數

1）待估參數：

每個神經元的閾值b或者value，以及神經元之間的連接權重weight。

2）超參數：

超參數就是求解不出來，需要用戶自己定義的參數，如在神經網絡中，超參數有：

神經網絡隱層的層數，一般只考慮隱層的層數，因為輸入層和輸出層一般默認為一層

每一層神經網絡的神經元個數：神經元的個數直接影響著待估參數的個數，假設隱層第m層有k個神經元，第m+1層有l個神經元，那么這兩層之間的權重系數weight的個數為k*l個，一般組成（k,l）矩陣的形式；每一層的閾值或者叫做偏置的個數和神經元個數相同

神經網絡：可能這個聽起來比較抽象，但是這就是需要自己進行定義的，具體見代碼，主要是指定神經網絡層數，每層神經元的個數，確定待估參數的初始值就基本上將神經網絡給定義好了

3）任務

通過訓練樣本將定義的神經網絡模型進行不斷的優化，將待測參數進行不斷的迭代，直到滿足條件為止（條件理論上是目標函數E對所有的待測參數的偏導為0，但是計算機沒有絕對的0值，因此一般通過迭代次數和偏導的最小值來作為迭代的終止條件）

3、神經網絡數學模型定義

對于該模型有如下定義：

訓練集：D={(x1, y1), (x2, y2), ......, (xm, ym)}，x具有d個屬性值，y具有k個可能取值

則我們的神經網絡（單隱層前饋神經網絡）應該是具有d個輸入神經元，q個隱層神經元，k個輸出層神經元的神經網絡 ，我們默認輸入層只是數據的輸入，不對數據做處理，即輸入層沒有閾值。

1）激活函數

2）各層權重、閾值定義

輸出層第j個神經元的閾值為：θj

隱層第h個神經元的閾值為：γh（γ是Gamma）

輸入層第i個神經元與隱層第h個神經元的連接權重為：vih

隱層第h個神經元與輸出層第j個神經元的連接權重為：ωhj

3）各層輸入輸出定義

輸入層的輸入和輸出一樣，就是樣本數據

隱層第h個神經元的輸入

隱層第h個神經元的輸出

輸出層第j個神經元的輸入

輸出層的輸出跟隱層的輸出類似

4、優化問題的目標函數與迭代公式

1）目標函數

對參數進行估計，需要有優化方向，我們繼續使用歐式距離，或者均方誤差來作為優化目標：

2）待估參數的優化迭代公式

我們使用梯度下降的策略對參數進行迭代優化，所以任意一個參數的變化大小為（θ代表任意參數）：

下面根據這個更新公式，我們來求各個參數的更新公式：

對數幾率函數的導數如下：

輸出層第j個神經元的閾值θj：

?隱層第h個神經元的閾值γh：

?

?

輸入層第i個神經元與隱層第h個神經元的連接權重vih?：?

?

隱層第h個神經元與輸出層第j個神經元的連接權重ωhj：?

?

現在四個參數的更新規則都計算出來了，我們可以開始編碼實現了。?

現在有一個問題：在二分類任務中，輸出層神經元有幾個？

???????????????????????????? 一個：如果只有1個，那么輸出0表示反例，1表示正例

???????????????????????????? 二個：那么輸出（1,0）表示反例，（0,1）表示正例

以下實例我們使用第一種：即輸出層的神經元只有一個

二、python編程

1、編程步驟

數據準備（通過讀取數據文件獲取）

數據處理（讀取的數據是字符串形式，需要將其轉換為浮點數或者整型）

數據劃分（將特征和標簽分割開）

初始化待估參數（通過自定義超參數每層神經元的個數來進行初始化待估參數）——這里不需要定義層數，因為這里只有一個隱層

參數迭代更新（用初始化的待估參數去對樣本數據進行逐一訓練，并且不斷地迭代更新，最后得到最優的待估參數）——這里和上一步其實就基本上將整個神經網絡的框架已經搭建好了

測試模型（利用上面得到的參數，對測試樣本集進行測試，查看準確率）

2、數據準備、數據處理、數據劃分

1）數據下載

我們使用一個二分類數據集：馬疝病數據集

UCI下載地址為：http://archive.ics.uci.edu/ml/datasets/Horse+Colic

或者：

以下是用戶《9527----到》提供的，可見文章：《基于tensorflow的logistics回歸--數據集為 horseColicTest and horseColicTraining.txt（文章底部附數據集鏈接）》文末

測試集

https://pan.baidu.com/s/1h1t0LLxZlESPPdfn1zxTXQ

訓練集

https://pan.baidu.com/s/1IVO2opIQ0e66_AEchw_X4Q

2）關鍵代碼

#創建加載數據讀取數據以及劃分數據集的函數，返回數據特征集以及數據標簽集
def loaddataset(filename):fp = open(filename)#（299，22）# 存放數據dataset = []# 存放標簽labelset = []for i in fp.readlines():#按照行來進行讀取，每次讀取一行，一行的數據作為一個元素存放在了類別中a = i.strip().split()#去掉每一行數據的空格以及按照默認的分隔符進行劃分# 每個數據行的最后一個是標簽dataset.append([float(j) for j in a[:len(a) - 1]])#讀取每一行中除最后一個元素的前面的元素，并且將其轉換為浮點數labelset.append(int(float(a[-1])))#讀取每一行的最后一個數據作為標簽數據return dataset, labelset#dataset是（299,21）的列表，labelset是（299,1）的列表

3、初始化待估參數

1）關鍵代碼

# x為輸入層神經元個數，y為隱層神經元個數，z輸出層神經元個數
#創建的是參數初始化函數，參數有各層間的權重weight和閾值即偏置value就是b
#本例的x,y=len(dataset[0])=22，z=1
def parameter_initialization(x, y, z):# 隱層閾值value1 = np.random.randint(-5, 5, (1, y)).astype(np.float64)#隨機生成（-5，5）之間的整數組成（1，y）的數組，然后再將其轉為浮點數顯示# 輸出層閾值value2 = np.random.randint(-5, 5, (1, z)).astype(np.float64)# 輸入層與隱層的連接權重weight1 = np.random.randint(-5, 5, (x, y)).astype(np.float64)# 隱層與輸出層的連接權重weight2 = np.random.randint(-5, 5, (y, z)).astype(np.float64)return weight1, weight2, value1, value2'''
weight1:輸入層與隱層的連接權重
weight2:隱層與輸出層的連接權重
value1:隱層閾值
value2:輸出層閾值
權重和閾值的個數和神經網絡的隱層層數有關，若隱層為n，則權重和閾值的個數為n+1
'''

2）np.random.randint(a,b,(m,n))函數

np.random.randint(a,b,(m,n))
#在指定的范圍內隨機生成整數
#a，區間上限，b，區間下限，size=（m,n），a<b
#表示生成（m,n）的數組，數組元素為（a,b）間的整數
import numpy as np
a = np.random.randint(-5,5,size=(2,4))
print(a)
print(type(a))[[-1  3 -5  3][-3  1 -4  4]]
<class 'numpy.ndarray'>

3）astype(np.float64)

將元素轉化為指定的類型進行顯示

import numpy as np
a = np.random.randint(-5,5,size=(2,4)).astype(np.float64)
print(a)
print(type(a))[[-1. -2. -3.  3.][ 3. -2. -2. -3.]]
<class 'numpy.ndarray'>

4、創建激活函數

#創建激活函數sigmoid
def sigmoid(z):return 1 / (1 + np.exp(-z))

5、參數迭代更新

這里是對所有的樣本逐一進行訓練一輪的函數，即對整個訓練樣本進行了一次迭代，若要循環迭代，則需要在外層再套一層循環，來表示迭代的次數，本例將其直接放在了主函數中進行迭代的不斷循環

1）關鍵代碼

#創建訓練樣本的函數，返回訓練完成后的參數weight和value，這里的函數是經過一次迭代后的參數，即所有的樣本經過一次訓練后的參數
#具體參數的值可以通過設置迭代次數和允許誤差來進行確定
def trainning(dataset, labelset, weight1, weight2, value1, value2):# x為步長x = 0.01#學習率for i in range(len(dataset)):#依次讀取數據特征集中的元素，一個元素即為一個樣本所含有的所有特征數據# 輸入數據#（1,21）inputset = np.mat(dataset[i]).astype(np.float64)#每次輸入一個樣本，將樣本的特征轉化為矩陣，以浮點數顯示# 數據標簽#（1，1）outputset = np.mat(labelset[i]).astype(np.float64)#輸入樣本所對應的標簽# 隱層輸入，隱層的輸入是由輸入層的權重決定的，wx#input1：（1，21）.（21，21）=（1，21）input1 = np.dot(inputset, weight1).astype(np.float64)# 隱層輸出，由隱層的輸入和閾值以及激活函數決定的，這里的閾值也可以放在輸入進行計算#sigmoid（（1，21）-（1，21））=（1，21）output2 = sigmoid(input1 - value1).astype(np.float64)# 輸出層輸入，由隱層的輸出#（1，21）.（21，1）=（1，1）input2 = np.dot(output2, weight2).astype(np.float64)# 輸出層輸出，由輸出層的輸入和閾值以及激活函數決定的，這里的閾值也可以放在輸出層輸入進行計算# （1，1）.（1，1）=（1，1）output3 = sigmoid(input2 - value2).astype(np.float64)# 更新公式由矩陣運算表示#a:(1,1)a = np.multiply(output3, 1 - output3)#輸出層激活函數求導后的式子，multiply對應元素相乘，dot矩陣運算#g:(1,1)g = np.multiply(a, outputset - output3)#outputset - output3：實際標簽和預測標簽差#weight2:(21,1),np.transpose(weight2):(1,21),b:(1,21)b = np.dot(g, np.transpose(weight2))#(1,21)c = np.multiply(output2, 1 - output2)#隱層輸出激活函數求導后的式子，multiply對應元素相乘，dot矩陣運算#(1,21)e = np.multiply(b, c)value1_change = -x * e#（1，21）value2_change = -x * g#（1，1）weight1_change = x * np.dot(np.transpose(inputset), e)#（21，21）weight2_change = x * np.dot(np.transpose(output2), g)#（21，1）# 更新參數，權重與閾值的迭代公式value1 += value1_changevalue2 += value2_changeweight1 += weight1_changeweight2 += weight2_changereturn weight1, weight2, value1, value2

2）dot、multiply

dot:兩個矩陣按照行列相乘組成新的矩陣

multiply：兩個矩陣和得到結果的矩陣的維度是一樣的，對應位置的元素進行相乘得到新矩陣對應位置的元素值

3）難點

這一部分最大的難點就是在于讀懂相關數學表達式的含義。建議將前面的理論部分之《待估參數的優化迭代公式》自己推導一遍，然后弄清楚這一部分中參數的維數，基本上就可以讀懂了，代碼中注釋已經將所有參數的維數變化進行了標注。

6、測試模型

將最后得到的待估參數的值作為最終的神經網絡的參數，對測試樣本進行測試

#創建測試樣本數據的函數
def testing(dataset1, labelset1, weight1, weight2, value1, value2):# 記錄預測正確的個數rightcount = 0for i in range(len(dataset1)):# 計算每一個樣例的標簽通過上面創建的神經網絡模型后的預測值inputset = np.mat(dataset1[i]).astype(np.float64)outputset = np.mat(labelset1[i]).astype(np.float64)output2 = sigmoid(np.dot(inputset, weight1) - value1)output3 = sigmoid(np.dot(output2, weight2) - value2)# 確定其預測標簽if output3 > 0.5:flag = 1else:flag = 0if labelset1[i] == flag:rightcount += 1# 輸出預測結果print("預測為%d   實際為%d" % (flag, labelset1[i]))# 返回正確率return rightcount / len(dataset1)

7、主函數運行

def main():#讀取訓練樣本數據并且進行樣本劃分dataset, labelset = loaddataset('./horseColicTraining.txt')#讀取測試樣本數據并且進行樣本劃分dataset1, labelset1 = loaddataset('./horseColicTest.txt')#得到初始化的待估參數的值weight1, weight2, value1, value2 = parameter_initialization(len(dataset[0]), len(dataset[0]), 1)#迭代次數為1500次，迭代次數一般越大準確率越高，但是其運行時間也會增加for i in range(1500):#獲得對所有訓練樣本訓練迭代一次后的待估參數weight1, weight2, value1, value2 = trainning(dataset, labelset, weight1, weight2, value1, value2)#對測試樣本進行測試，并且得到正確率rate = testing(dataset1, labelset1, weight1, weight2, value1, value2)print("正確率為%f" % (rate))

if __name__ == '__main__':main()

三、總結

1、幾個循環

在本例中（單隱層），可以分為以下幾個循環：

***通過行來遍歷每一個樣本的特征集和標簽

    for i in range(len(dataset)):#依次讀取數據特征集中的元素，一個元素即為一個樣本所含有的所有特征數據

***迭代次數的循環，通過迭代次數來控制迭代的終止條件，當然也可以用while循環來進行迭代，用誤差來控制迭代的終止

    for i in range(1500):#獲得對所有訓練樣本訓練迭代一次后的待估參數weight1, weight2, value1, value2 = trainning(dataset, labelset, weight1, weight2, value1, value2)

若是多隱層的話，還多一層循環：

***通過循環來遍歷所有的隱層，一般遍歷只是為了獲得每一隱層的神經元的個數，因此只需要通過字典定義好每一隱層的神經元個數，然后通過遍歷的方式獲得神經元個數即可（注意神經元個數和權重、閾值個數的關系）。或者如果隱層的層數比較少，可以通過多添加幾組待測參數即可,設有k層：

def parameter_initialization(x1,x2,...,xi,..., xk):# 隱層閾值value1 = np.random.randint(-5, 5, (x1, x2)).astype(np.float64)#隨機生成（-5，5）之間的整數組成（1，y）的數組，然后再將其轉為浮點數顯示# 輸出層閾值value2 = np.random.randint(-5, 5, (x1, x3)).astype(np.float64).........valuei = np.random.randint(-5, 5, (x1, xi)).astype(np.float64).........valuek = np.random.randint(-5, 5, (x1, xk+1)).astype(np.float64)# 輸入層與隱層的連接權重weight1 = np.random.randint(-5, 5, (x1, x2)).astype(np.float64)# 隱層與輸出層的連接權重weight2 = np.random.randint(-5, 5, (x2, x3)).astype(np.float64)........weighti = np.random.randint(-5, 5, (xi,xi+1)).astype(np.float64)........return weight1, weight2,...,weighti,...,weightk, value1, value2,...,valuei,...,valuek

2、問題集錦

1）若是有多個輸出怎么辦？

若是有多個輸出的話，只需要在主函數中修改輸出層的神經元個數即可，神經元個數等于輸出的個數，設有i個輸出，輸出的增多也意味著輸出的歸類判斷會更加的復雜

    weight1, weight2, value1, value2 = parameter_initialization(len(dataset[0]), len(dataset[0]), i)

2）BP算法為什么叫做后向傳播？

因為從目標函數對待測參數求偏導可以看出，目標函數對越往前的神經網絡的參數進行求導，其要經過的層數就會越多，即要想求得目標函數對前面的參數的偏導，就必須先知道該層神經網絡后面的層數中目標函數對待測參數的偏導，因為鏈式法則。而且在求對閾值的偏導的時候，我們需要注意的是，對該層閾值的偏導，受下一層所有神經元的影響，如下圖就知道，每一層的神經元都互相有關系，所有每一層的神經元的閾值的偏導也和相鄰層神經元有關

四、完整代碼

#導入模塊
import numpy as np#創建加載數據讀取數據以及劃分數據集的函數，返回數據特征集以及數據標簽集
def loaddataset(filename):fp = open(filename)#（299，22）# 存放數據dataset = []# 存放標簽labelset = []for i in fp.readlines():#按照行來進行讀取，每次讀取一行，一行的數據作為一個元素存放在了類別中a = i.strip().split()#去掉每一行數據的空格以及按照默認的分隔符進行劃分# 每個數據行的最后一個是標簽dataset.append([float(j) for j in a[:len(a) - 1]])#讀取每一行中除最后一個元素的前面的元素，并且將其轉換為浮點數labelset.append(int(float(a[-1])))#讀取每一行的最后一個數據作為標簽數據return dataset, labelset#dataset是（299,21）的列表，labelset是（299,1）的列表# x為輸入層神經元個數，y為隱層神經元個數，z輸出層神經元個數
#創建的是參數初始化函數，參數有各層間的權重weight和閾值即偏置value就是b
#本例的x,y=len(dataset[0])=22，z=1
def parameter_initialization(x, y, z):# 隱層閾值value1 = np.random.randint(-5, 5, (1, y)).astype(np.float64)#隨機生成（-5，5）之間的整數組成（1，y）的數組，然后再將其轉為浮點數顯示# 輸出層閾值value2 = np.random.randint(-5, 5, (1, z)).astype(np.float64)# 輸入層與隱層的連接權重weight1 = np.random.randint(-5, 5, (x, y)).astype(np.float64)# 隱層與輸出層的連接權重weight2 = np.random.randint(-5, 5, (y, z)).astype(np.float64)return weight1, weight2, value1, value2#創建激活函數sigmoid
def sigmoid(z):return 1 / (1 + np.exp(-z))'''
weight1:輸入層與隱層的連接權重
weight2:隱層與輸出層的連接權重
value1:隱層閾值
value2:輸出層閾值
權重和閾值的個數和神經網絡的隱層層數有關，若隱層為n，則權重和閾值的個數為n+1
'''#創建訓練樣本的函數，返回訓練完成后的參數weight和value，這里的函數是經過一次迭代后的參數，即所有的樣本經過一次訓練后的參數
#具體參數的值可以通過設置迭代次數和允許誤差來進行確定
def trainning(dataset, labelset, weight1, weight2, value1, value2):# x為步長x = 0.01#學習率for i in range(len(dataset)):#依次讀取數據特征集中的元素，一個元素即為一個樣本所含有的所有特征數據# 輸入數據#（1,21）inputset = np.mat(dataset[i]).astype(np.float64)#每次輸入一個樣本，將樣本的特征轉化為矩陣，以浮點數顯示# 數據標簽#（1，1）outputset = np.mat(labelset[i]).astype(np.float64)#輸入樣本所對應的標簽# 隱層輸入，隱層的輸入是由輸入層的權重決定的，wx#input1：（1，21）.（21，21）=（1，21）input1 = np.dot(inputset, weight1).astype(np.float64)# 隱層輸出，由隱層的輸入和閾值以及激活函數決定的，這里的閾值也可以放在輸入進行計算#sigmoid（（1，21）-（1，21））=（1，21）output2 = sigmoid(input1 - value1).astype(np.float64)# 輸出層輸入，由隱層的輸出#（1，21）.（21，1）=（1，1）input2 = np.dot(output2, weight2).astype(np.float64)# 輸出層輸出，由輸出層的輸入和閾值以及激活函數決定的，這里的閾值也可以放在輸出層輸入進行計算# （1，1）.（1，1）=（1，1）output3 = sigmoid(input2 - value2).astype(np.float64)# 更新公式由矩陣運算表示#a:(1,1)a = np.multiply(output3, 1 - output3)#輸出層激活函數求導后的式子，multiply對應元素相乘，dot矩陣運算#g:(1,1)g = np.multiply(a, outputset - output3)#outputset - output3：實際標簽和預測標簽差#weight2:(21,1),np.transpose(weight2):(1,21),b:(1,21)b = np.dot(g, np.transpose(weight2))#(1,21)c = np.multiply(output2, 1 - output2)#隱層輸出激活函數求導后的式子，multiply對應元素相乘，dot矩陣運算#(1,21)e = np.multiply(b, c)value1_change = -x * e#（1，21）value2_change = -x * g#（1，1）weight1_change = x * np.dot(np.transpose(inputset), e)#（21，21）weight2_change = x * np.dot(np.transpose(output2), g)#（21，1）# 更新參數，權重與閾值的迭代公式value1 += value1_changevalue2 += value2_changeweight1 += weight1_changeweight2 += weight2_changereturn weight1, weight2, value1, value2#創建測試樣本數據的函數
def testing(dataset1, labelset1, weight1, weight2, value1, value2):# 記錄預測正確的個數rightcount = 0for i in range(len(dataset1)):# 計算每一個樣例的標簽通過上面創建的神經網絡模型后的預測值inputset = np.mat(dataset1[i]).astype(np.float64)outputset = np.mat(labelset1[i]).astype(np.float64)output2 = sigmoid(np.dot(inputset, weight1) - value1)output3 = sigmoid(np.dot(output2, weight2) - value2)# 確定其預測標簽if output3 > 0.5:flag = 1else:flag = 0if labelset1[i] == flag:rightcount += 1# 輸出預測結果print("預測為%d   實際為%d" % (flag, labelset1[i]))# 返回正確率return rightcount / len(dataset1)def main():#讀取訓練樣本數據并且進行樣本劃分dataset, labelset = loaddataset('./horseColicTraining.txt')#讀取測試樣本數據并且進行樣本劃分dataset1, labelset1 = loaddataset('./horseColicTest.txt')#得到初始化的待估參數的值weight1, weight2, value1, value2 = parameter_initialization(len(dataset[0]), len(dataset[0]), 1)#迭代次數為1500次，迭代次數一般越大準確率越高，但是其運行時間也會增加for i in range(1500):#獲得對所有訓練樣本訓練迭代一次后的待估參數weight1, weight2, value1, value2 = trainning(dataset, labelset, weight1, weight2, value1, value2)#對測試樣本進行測試，并且得到正確率rate = testing(dataset1, labelset1, weight1, weight2, value1, value2)print("正確率為%f" % (rate))if __name__ == '__main__':main()

參考：《機器學習 BP神經網絡(Python實現)》寫的很詳細

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/news/256358.shtml
繁體地址，請注明出處：http://hk.pswp.cn/news/256358.shtml
英文地址，請注明出處：http://en.pswp.cn/news/256358.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！

相關文章

Halcon例程（基于多個標定圖的單目相機標定）詳解—— Camera_calibration_multi_image.hdev

Halcon例程（基于多個標定圖的單目相機標定）詳解—— Camera_calibration_multi_image.hdev

一、前言 在我的工業相機專欄里已經將相機標定涉及到的理論部分講解完畢&#xff0c;為什么要標定以及標定要求出什么參數呢&#xff0c;用一個Halcon 例程來幫助理解。 這個例程是比較經典的標定程序&#xff0c;基本將標定過程講的比較清楚&#xff0c;用的標定圖像是系統自…
閱讀更多...
SkipList 跳表

SkipList 跳表

為什么選擇跳表 目前經常使用的平衡數據結構有&#xff1a;B樹&#xff0c;紅黑樹&#xff0c;AVL樹&#xff0c;Splay Tree, Treep等。 想象一下&#xff0c;給你一張草稿紙&#xff0c;一只筆&#xff0c;一個編輯器&#xff0c;你能立即實現一顆紅黑樹&#xff0c;或者AVL樹…
閱讀更多...
Redis failover過程

Redis failover過程

在Leader觸發failover之前&#xff0c;首先wait數秒(隨即0~5)&#xff0c;以便讓其他sentinel實例準備和調整。如果一切正常&#xff0c;那么leader就需要開始將一個salve提升為master&#xff0c;此slave必須為狀態良好(不能處于SDOWN/ODOWN狀態)且權重值最低(redis.conf中)的…
閱讀更多...
機器學習——深度學習之卷積神經網絡（CNN）——LeNet卷積神經網絡結構

機器學習——深度學習之卷積神經網絡（CNN）——LeNet卷積神經網絡結構

目錄 一、卷積神經網絡 1、卷積神經的作用 2、LeNet 1&#xff09;數據庫準備——minst 2&#xff09;模型 二、關于卷積神經網絡結構的一些術語定義 1、特征圖&#xff08;Feature map&#xff09; 2、height&#xff08;長度&#xff09;、width&#xff08;寬度&…
閱讀更多...
工業相機（3D）主要參數詳述

工業相機（3D）主要參數詳述

一、前言 準確的完成相機選型是一個視覺工程師必備的技能&#xff0c;而選型前必須對其內部參數了如指掌。工業相機是一種比較復雜的產品&#xff0c;其參數很多&#xff0c;每個參數可能會有不同的標準&#xff0c;下面對主要的參數會做比較詳細的闡述。 二、參數詳述 2.1 …
閱讀更多...
JAVA8永久代

JAVA8永久代

在Java虛擬機&#xff08;以下簡稱JVM&#xff09;中&#xff0c;類包含其對應的元數據&#xff0c;比如類的層級信息&#xff0c;方法數據和方法信息&#xff08;如字節碼&#xff0c;棧和變量大小&#xff09;&#xff0c;運行時常量池&#xff0c;已確定的符號引用和虛方法表…
閱讀更多...
Struts 2初體驗

Struts 2初體驗

Struts2簡介&#xff1a; Struts2是一個基于MVC設計模式的Web應用框架&#xff0c;它本質上相當于一個servlet&#xff0c;在MVC設計模式中&#xff0c;Struts2作為控制器(Controller)來建立模型與視圖的數據交互。 Struts 2 目錄結構: 　　　　apps目錄&#xff1a;Struts2示例…
閱讀更多...
機器學習——深度學習之數據庫和自編碼器

機器學習——深度學習之數據庫和自編碼器

目錄 一、數據庫——數據獲取 1、Mnist 2、ImageNet 二、自編碼器&#xff08;Auto-encoder&#xff09;——參數初始化 1、功能 2、基本思想 1&#xff09;訓練第一層 2&#xff09;訓練第二層及以后的神經網絡 ? 3&#xff09;利用BP對整個神經網絡的參數初始值進…
閱讀更多...
Halcon例程詳解 （深度圖轉換為3D圖像）—— xyz_attrib_to_object_model_3d

Halcon例程詳解 （深度圖轉換為3D圖像）—— xyz_attrib_to_object_model_3d

一、前言 深度圖向點云圖進行轉換是進行3D檢測項目時會遇到的問題&#xff0c;halcon里也有針對此問題的相關例程&#xff0c;下面對此例程進行分析。通過學習此例程&#xff0c;我們可以掌握如何將一張深度圖像和一張正常二維圖像轉換為3D點云。 二、分析 * 初始化界面 dev…
閱讀更多...
動態代理之Cglib淺析

動態代理之Cglib淺析

什么是Cglib Cglib是一個強大的&#xff0c;高性能&#xff0c;高質量的代碼生成類庫。它可以在運行期擴展JAVA類與實現JAVA接口。其底層實現是通過ASM字節碼處理框架來轉換字節碼并生成新的類。大部分功能實際上是ASM所提供的&#xff0c;Cglib只是封裝了ASM&#xff0c;簡化了…
閱讀更多...
機器學習——深度學習之卷積神經網絡（CNN）——AlexNet卷積神經網絡結構

機器學習——深度學習之卷積神經網絡（CNN）——AlexNet卷積神經網絡結構

目錄 一、AlexNet卷積神經網絡結構模型 1、數據庫ImageNet 2、AlexNet第一層卷積層 二、AlexNet卷積神經網絡的改進 1、非線性變化函數的改變——ReLU 2、最大池化&#xff08;Max Pooling&#xff09;概念的提出——卷積神經網絡通用 1&#xff09;池化層 2&#xff0…
閱讀更多...
POJ - 3470 Walls

POJ - 3470 Walls

小鳥往四個方向飛都枚舉一下&#xff0c;數據范圍沒給&#xff0c;離散以后按在其中一個軸線排序&#xff0c;在線段樹上更新墻的id&#xff0c;然后就是點查詢在在哪個墻上了。 這題有個trick&#xff0c;因為數據范圍沒給我老以為是inf設置小了&#xff0c;WA了很多發。&…
閱讀更多...
C# —— 深入理解委托類型

C# —— 深入理解委托類型

一. 委托定義 1. 委托與多播委托 委托類型表示對具有特定參數列表和返回類型的方法的引用&#xff0c;定義了委托實例可以調用的某類方法。 通過委托&#xff0c;我們可以動態的通過委托變量來調用委托方法。一般用delegate來命名委托類型,但Action和Func也可以達到同樣的效果…
閱讀更多...
【VS開發】【C++語言】reshuffle的容器實現算法random_shuffle()的使用

【VS開發】【C++語言】reshuffle的容器實現算法random_shuffle()的使用

假設你需要指定范圍內的隨機數&#xff0c;傳統的方法是使用ANSI C的函數random(),然后格式化結果以便結果是落在指定的范圍內。但是&#xff0c;使用這個方法至少有兩個缺點。首先&#xff0c;做格式化時&#xff0c;結果常常是扭曲的&#xff0c;所以得不到正確的隨機數&…
閱讀更多...
C#委托——基礎2

C#委托——基礎2

在上一篇隨筆中&#xff0c;簡要說明了怎樣定義委托&#xff0c;定義事件&#xff0c;訂閱事件&#xff0c;最后也實現了效果&#xff0c;就是當員工類的某個對象&#xff0c;執行某個事件時&#xff0c;委托事件被觸發&#xff0c;后面也得到了結果&#xff0c;但是想象一下實…
閱讀更多...
機器學習——深度學習之編程工具、流行網絡結構、卷積神經網絡結構的應用

機器學習——深度學習之編程工具、流行網絡結構、卷積神經網絡結構的應用

目錄 一、編程工具 caffe實現LENET-5 二、流行的網絡結構 1、VGGNET 2、Googlenet ? 3、ResNet? ? 三、卷積神經網絡的應用 1、人臉識別 ? 2、人臉驗證 3、人臉特征點檢測 4、卷積神經網絡壓縮 一、編程工具 caffe的優點&#xff1a;模型標準化&#xff0c;源代碼…
閱讀更多...
Halcon例程詳解（激光三角系統標定）—— calibrate_sheet_of_light_calplate.hdev

Halcon例程詳解（激光三角系統標定）—— calibrate_sheet_of_light_calplate.hdev

前言 1 激光三角測距 激光三角測距法原理很簡單，是通過一束激光以一定的入射角度照射被測目標，激光在目標表面會產生漫反射，在另一角度利用透鏡對反射激光匯聚成像，光斑成像在CCD（Charge-coupled Device，感光耦合組件）位置傳感器上。當被測物體沿激光方向發生移動時，…
閱讀更多...
【轉】如何實現一個文件系統

【轉】如何實現一個文件系統

如何實現一個文件系統 摘要 本章目的是分析在Linux系統中如何實現新的文件系統。在介紹文件系統具體實現前先介紹文件系統的概念和作用&#xff0c;抽象出文件系統概念模型。熟悉文件系統的內涵后&#xff0c;我們再進一步討論Linux系統中文件系統的特殊風格和具體文件系統在Li…
閱讀更多...
【tenserflow】——數據類型以及常用屬性

【tenserflow】——數據類型以及常用屬性

目錄 一、什么是Tensor&#xff1f; 二、Tensorflow常見數據類型 三、Tensorflow常見屬性device\cpu\gpu\ndim\shape\rank等 1、創建一個tensor 1&#xff09;tf.constant() 2)tf.Variable() 2、判斷一個變量是否為tensor張量 3、生成不同設備&#xff08;cpu,gpu&#x…
閱讀更多...
C# 事件詳解附實例分析

C# 事件詳解附實例分析

一、定義 事件是兩個對象間發布消息和響應后處理消息的過程&#xff0c;通過委托類型來實現的。 事件的機制被稱為發布-訂閱機制&#xff0c;其算法過程為&#xff1a;首先定義一個委托類型&#xff0c;然后在發布者類中聲明一個event事件&#xff0c;同時此類中還有一個用來觸…
閱讀更多...
最新文章

Copyright @ 2022~2023