人工神經網絡ann及其matlab仿真
人工神經網絡 的研究方法及應用劉 長 安2004. 12. 31 引 言 利用機器模仿人類的智能是長期以來人們認識自然、改造自然和認識自身的理想。 研究ANN目的: (1)探索和模擬人的感覺、思維和行為的規律,設計具有人類智能的計算機系統。 (2)探討人腦的智能活動,用物化了的智能來考察和研究人腦智能的物質過程及其規律。 研究ANN方法 (1)生理結構的模擬: 用仿生學觀點,探索人腦的生理結構,把對人腦的微觀結構及其智能行為的研究結合起來即人工神經網絡(Artificial Neural Netwroks,簡稱ANN)方法。 (2)宏觀功能的模擬: 從人的思維活動和智能行為的心理學特性出發,利用計算機系統來對人腦智能進行宏觀功能的模擬,即符號處理方法。 ANN的研究內容 (1)理論研究:ANN模型及其學習算法,試圖從數學上描述ANN的動力學過程,建立相應的ANN模型,在該模型的基礎上,對于給定的學習樣本,找出一種能以較快的速度和較高的精度調整神經元間互連權值,使系統達到穩定狀態,滿足學習要求的算法。 (2)實現技術的研究:探討利用電子、光學、生物等技術實現神經計算機的途徑。 (3)應用的研究:探討如何應用ANN解決實際問題,如模式識別、故障檢測、智能機器人等。 人工神經網絡概述 什么是人工神經網絡? T.Koholen的定義:“人工神經網絡是由 具有適應性的簡單單元組成的廣泛并行互連的網絡,它的組織能夠模擬生物神經系統對真實世界物體所作出的交互反應。” 腦神經信息活動的特征 (1)巨量并行性。 (2)信息處理和存儲單元結合在一起。 (3)自組織自學習功能。 ANN研究的目的和意義 (1)通過揭示物理平面與認知平面之間的映射,了解它們相互聯系和相互作用的機理,從而揭示思維的本質,探索智能的本源。 (2)爭取構造出盡可能與人腦具有相似功能的計算機,即ANN計算機。 (3)研究仿照腦神經系統的人工神經網絡,將在模式識別、組合優化和決策判斷等方面取得傳統計算機所難以達到的效果。 神經網絡研究的發展 (1)第一次熱潮(40-60年代未) 1943年,美國心理學家W.McCulloch和數學家W.Pitts在提出了一個簡單的神經元模型,即MP模型。1958年,F.Rosenblatt等研制出了感知機(Perceptron)。 (2)低潮(70-80年代初): (3)第二次熱潮 1982年,美國物理學家J.J.Hopfield提出Hopfield模型,它是一個互聯的非線性動力學網絡他解決問題的方法是一種反復運算的動態過程,這是符號邏輯處理方法所不具備的性質. 1987年首屆國際ANN大會在圣地亞哥召開,國際ANN聯合會成立,創辦了多種ANN國際刊物。1990年12月,北京召開首屆學術會議。 神經網絡基本模型 人工神經網絡研究的局限性 (1)ANN研究受到腦科學研究成果的限制。 (2)ANN缺少一個完整、成熟的理論體系。 (3)ANN研究帶有濃厚的策略和經驗色彩。 (4)ANN與傳統技術的接口不成熟。 環境質量評價 環境系統因素預測 環境因素定量關系模擬 構效分析、成因分析 污染防治系統建模 基本BP網絡的拓撲結構 5.網絡模型的性能和泛化能力 訓練神經網絡的首要和根本任務是確保訓練好的網絡模型對非訓練樣本具有好的泛化能力(推廣性),即有效逼近樣本蘊含的內在規律,而不是看網絡模型對訓練樣本的擬合能力。從存在性結論可知,即使每個訓練樣本的誤差都很小(可以為零),并不意味著建立的模型已逼近訓練樣本所蘊含的規律。因此,僅給出訓練樣本誤差(通常是指均方根誤差RSME或均方誤差、AAE或MAPE等)的大小而不給出非訓練樣本誤差的大小是沒有任何意義的。 要分析建立的網絡模型對樣本所蘊含的規律的逼近情況(能力),即泛化能力,應該也必須用非訓練樣本(本文稱為檢驗樣本和測試樣本)誤差的大小來表示和評價,這也是之所以必須將總樣本分成訓練樣本和非訓練樣本而絕不能將全部樣本用于網絡訓練的主要原因之一。判斷建立的模型是否已有效逼近樣本所蘊含的規律,最直接和客觀的指標是從總樣本中隨機抽取的非訓練樣本(檢驗樣本和測試樣本)誤差是否和訓練樣本的誤差一樣小或稍大。非訓練樣本誤差很接近訓練樣本誤差或比其小,一般可認為建立的網絡模型已有效逼近訓練樣本所蘊含的規律,否則,若相差很多(如幾倍、幾十倍甚至上千倍)就說明建立的網絡模型并沒有有效逼近訓練樣本所蘊含的規律,而只是在這些訓練樣本點上逼近而已,而建立的網絡模型是對訓練樣本所蘊含規律的錯誤反映。 因為訓練樣本的誤差可以達到很小,因此