人工神經(jīng)網(wǎng)絡(luò)模型：

人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓撲結(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前，已有近40種神經(jīng)網(wǎng)絡(luò)模型，其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機、適應(yīng)諧振理論等。根據(jù)連接的拓撲結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)模型可以分為：

1）前向網(wǎng)絡(luò)

網(wǎng)絡(luò)中各個神經(jīng)元接受前一級的輸入，并輸出到下一級，網(wǎng)絡(luò)中沒有反饋，可以用一個有向無環(huán)路圖表示。這種網(wǎng)絡(luò)實現(xiàn)信號從輸入空間到輸出空間的變換，它的信息處理能力來自于簡單非線性函數(shù)的多次復(fù)合。網(wǎng)絡(luò)結(jié)構(gòu)簡單，易于實現(xiàn)。反傳網(wǎng)絡(luò)是一種典型的前向網(wǎng)絡(luò)。

2）反饋網(wǎng)絡(luò)

網(wǎng)絡(luò)內(nèi)神經(jīng)元間有反饋，可以用一個無向的完備圖表示。這種神經(jīng)網(wǎng)絡(luò)的信息處理是狀態(tài)的變換，可以用動力學(xué)系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關(guān)系。Hopfield網(wǎng)絡(luò)、波耳茲曼機均屬于反饋網(wǎng)絡(luò)類型。

人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)類型：

學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)研究的一個重要內(nèi)容，它的適應(yīng)性是通過學(xué)習(xí)實現(xiàn)的。根據(jù)環(huán)境的變化，對權(quán)值進行調(diào)整，改善系統(tǒng)的行為。根據(jù)學(xué)習(xí)環(huán)境不同，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式可分為監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)。

1）在監(jiān)督學(xué)習(xí)時，將訓(xùn)練樣本的數(shù)據(jù)加到網(wǎng)絡(luò)輸入端，同時將相應(yīng)的期望輸出與網(wǎng)絡(luò)輸出相比較，得到誤差信號，以此控制權(quán)值連接強度的調(diào)整，經(jīng)多次訓(xùn)練后收斂到一個確定的權(quán)值。當(dāng)樣本情況發(fā)生變化時，經(jīng)學(xué)習(xí)可以修改權(quán)值以適應(yīng)新的環(huán)境。使用監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型有反傳網(wǎng)絡(luò)、感知器等。

2）非監(jiān)督學(xué)習(xí)時，事先不給定標(biāo)準(zhǔn)樣本，直接將網(wǎng)絡(luò)置于環(huán)境之中，學(xué)習(xí)階段與工作階段成為一體。此時，學(xué)習(xí)規(guī)律的變化服從連接權(quán)值的演變方程。非監(jiān)督學(xué)習(xí)最簡單的例子是Hebb學(xué)習(xí)規(guī)則。競爭學(xué)習(xí)規(guī)則是一個更復(fù)雜的非監(jiān)督學(xué)習(xí)的例子，它是根據(jù)已建立的聚類進行權(quán)值調(diào)整。自組織映射、適應(yīng)諧振理論網(wǎng)絡(luò)等都是與競爭學(xué)習(xí)有關(guān)的典型模型。

有效的學(xué)習(xí)算法，使得神經(jīng)網(wǎng)絡(luò)能夠通過連接權(quán)值的調(diào)整，構(gòu)造客觀世界的內(nèi)在表示，形成具有特色的信息處理方法，信息存儲和處理體現(xiàn)在網(wǎng)絡(luò)的連接中。

人工神經(jīng)網(wǎng)絡(luò)分析方法：

研究神經(jīng)網(wǎng)絡(luò)的非線性動力學(xué)性質(zhì)，主要采用動力學(xué)系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計理論，來分析神經(jīng)網(wǎng)絡(luò)的演化過程和吸引子的性質(zhì)，探索神經(jīng)網(wǎng)絡(luò)的協(xié)同行為和集體計算功能，了解神經(jīng)信息處理機制。為了探討神經(jīng)網(wǎng)絡(luò)在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發(fā)揮作用。

人工神經(jīng)網(wǎng)絡(luò)特點：

人工神經(jīng)網(wǎng)絡(luò)的特點如下：

1）  具有自學(xué)習(xí)功能。自學(xué)習(xí)功能對于預(yù)測有特別重要的意義。預(yù)期未來的人工神經(jīng)網(wǎng)絡(luò)計算機將為人類提供經(jīng)濟預(yù)測、市場預(yù)測、效益預(yù)測，其應(yīng)用前途是很遠大的。

2）  具有聯(lián)想存儲功能。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實現(xiàn)這種聯(lián)想。

3）  具有高速尋找優(yōu)化解的能力。尋找一個復(fù)雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設(shè)計的反饋型人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計算機的高速運算能力，可能很快找到優(yōu)化解。

人工神經(jīng)網(wǎng)絡(luò)研究方向：

人工神經(jīng)網(wǎng)絡(luò)的研究可以分為理論研究和應(yīng)用研究兩大方面。

1）理論研究可分為以下兩類：

a）利用神經(jīng)生理與認知科學(xué)研究人類思維以及智能機理。

b）利用神經(jīng)基礎(chǔ)理論的研究成果，用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經(jīng)網(wǎng)絡(luò)模型，深入研究網(wǎng)絡(luò)算法和性能，如：穩(wěn)定性、收斂性、容錯性、魯棒性等；開發(fā)新的網(wǎng)絡(luò)數(shù)理理論，如：神經(jīng)網(wǎng)絡(luò)動力學(xué)、非線性神經(jīng)場等。

2）應(yīng)用研究可分為以下兩類：

a）神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實現(xiàn)的研究。

b）神經(jīng)網(wǎng)絡(luò)在各個領(lǐng)域中應(yīng)用的研究。這些領(lǐng)域主要包括：模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合、機器人控制等。隨著神經(jīng)網(wǎng)絡(luò)理論本身以及相關(guān)理論、相關(guān)技術(shù)的不斷發(fā)展，神經(jīng)網(wǎng)絡(luò)的應(yīng)用定將更加深入。

人工神經(jīng)網(wǎng)絡(luò)發(fā)展趨勢：

人工神經(jīng)網(wǎng)絡(luò)與其它傳統(tǒng)方法相結(jié)合，將推動人工智能和信息處理技術(shù)不斷發(fā)展。近年來，人工神經(jīng)網(wǎng)絡(luò)正向模擬人類認知的道路上更加深入發(fā)展，與模糊系統(tǒng)、遺傳算法、進化機制等結(jié)合，形成計算智能，成為人工智能的一個重要方向，將在實際應(yīng)用中得到發(fā)展。將信息幾何應(yīng)用于人工神經(jīng)網(wǎng)絡(luò)的研究，為人工神經(jīng)網(wǎng)絡(luò)的理論研究開辟了新的途徑。神經(jīng)計算機的研究發(fā)展很快，已有產(chǎn)品進入市場。光電結(jié)合的神經(jīng)計算機為人工神經(jīng)網(wǎng)絡(luò)的發(fā)展提供了良好條件。具有分布存儲、并行處理、自學(xué)習(xí)、自組織以及非線性映射等優(yōu)點的神經(jīng)網(wǎng)絡(luò)與其他技術(shù)的結(jié)合以及由此而來的混合方法和混合系統(tǒng)，已經(jīng)成為一大研究熱點。另外還有神經(jīng)網(wǎng)絡(luò)與模糊邏輯、專家系統(tǒng)、遺傳算法、小波分析、混沌、粗集理論、分形理論、證據(jù)理論和灰色系統(tǒng)等的融合。

雖然人工神經(jīng)網(wǎng)絡(luò)已經(jīng)取得了一定的進步，但是還存在許多缺陷，比如：應(yīng)用面不夠?qū)掗煛⒔Y(jié)果不夠精確；現(xiàn)有模型算法的訓(xùn)練速度不夠高；算法的集成度不夠高；人們希望在理論上尋找新的突破點，建立新的通用模型和算法。需進一步對生物神經(jīng)元系統(tǒng)進行研究，不斷豐富人們對人腦神經(jīng)的認識。

結(jié)語：

人工神經(jīng)網(wǎng)絡(luò)ANN是深度學(xué)習(xí)DL的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)的種類多種多樣，但其分類依據(jù)逃不出三個基本點：神經(jīng)元模型，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)算法。人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)、遺傳算法、進化機制等相結(jié)合，成為人工智能的一個重要方向。當(dāng)然，人工神經(jīng)網(wǎng)絡(luò)還存在許多缺陷，人們希望尋找新的突破點，推動人工智能技術(shù)不斷向前發(fā)展。