人工神經網絡的發展和分類詳細說明

　　人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型。在工程與學術界也常直接簡稱為神經網絡或類神經網絡。神經網絡是一種運算模型，由大量的節點（或稱神經元）和之間相互聯接構成。每個節點代表一種特定的輸出函數，稱為激勵函數（ activation function ）。每兩個節點間的連接都代表一個對于通過該連接信號的加權值， 稱之為權重， 這相當于人工神經網絡的記憶。網絡的輸出則依網絡的連接方式， 權重值和激勵函數的不同而不同。而網絡自身通常都是對自然界某種算法或者函數的逼近， 也可能是對一種邏輯策略的表達。

　　它的構筑理念是受到生物（人或其他動物） 神經網絡功能的運作啟發而產生的。人工神經網絡通常是通過一個基于數學統計學類型的學習方法（ LearningMethod ）得以優化，所以人工神經網絡也是數學統計學方法的一種實際應用，通過統計學的標準數學方法我們能夠得到大量的可以用函數來表達的局部結構空間，另一方面在人工智能學的人工感知領域， 我們通過數學統計學的應用可以來做人工感知方面的決定問題（也就是說通過統計學的方法，人工神經網絡能夠類似人一樣具有簡單的決定能力和簡單的判斷能力），這種方法比起正式的邏輯學推理演算更具有優勢。

　　1943 年，心理學家W.S.McCulloch 和數理邏輯學家W.Pitts 建立了神經網絡和數學模型， 稱為MP模型。他們通過MP模型提出了神經元的形式化數學描述和網絡結構方法， 證明了單個神經元能執行邏輯功能， 從而開創了人工神經網絡研究的時代。

　　1949 年，心理學家提出了突觸聯系強度可變的設想。60 年代，人工神經網絡的到了進一步發展， 更完善的神經網絡模型被提出。其中包括感知器和自適應線性元件等。M.Minsky 等仔細分析了以感知器為代表的神經網絡系統的功能及局限后，于1969 年出版了《Perceptron 》一書，指出感知器不能解決高階謂詞問題。他們的論點極大地影響了神經網絡的研究。加之當時串行計算機和人工智能所取得的成就，掩蓋了發展新型計算機和人工智能新途徑的必要性和迫切性，使人工神經網絡的研究處于低潮。