這篇介紹神經(jīng)網(wǎng)絡(luò)是很詳細(xì)的，有一步一步的推導(dǎo)公式！神經(jīng)網(wǎng)絡(luò)是DL（深度學(xué)習(xí)）的基礎(chǔ)。

　　如果對(duì)神經(jīng)網(wǎng)絡(luò)已經(jīng)有所了解，可以直接跳到“ 三、BP 算法的執(zhí)行步驟“ 部分，算法框架清晰明了。

　　另外，如果對(duì)NN 很感興趣，也可以參閱最后兩篇參考博文，也很不錯(cuò)！

　　學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)一種最重要也最令人注目的特點(diǎn)。在神經(jīng)網(wǎng)絡(luò)的發(fā)展進(jìn)程中， 學(xué)習(xí)算法的研究有著十分重要的地位。目前，人們所提出的神經(jīng)網(wǎng)絡(luò)模型都是和學(xué)習(xí)算法相應(yīng)的。所以，有時(shí)人們并不去祈求對(duì)模型和算法進(jìn)行嚴(yán)格的定義或區(qū)分。有的模型可以有多種算法． 而有的算法可能可用于多種模型。不過，有時(shí)人們也稱算法為模型。

　　自從40 年代Hebb 提出的學(xué)習(xí)規(guī)則以來，人們相繼提出了各種各樣的學(xué)習(xí)算法。其中以在1986年Rumelhart 等提出的誤差反向傳播法， 即BP（error BackPropagation） 法影響最為廣泛。直到今天，BP 算法仍然是自動(dòng)控制上最重要、應(yīng)用最多的有效算法。

　　神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)理和機(jī)構(gòu)

　　在神經(jīng)網(wǎng)絡(luò)中，對(duì)外部環(huán)境提供的模式樣本進(jìn)行學(xué)習(xí)訓(xùn)練，并能存儲(chǔ)這種模式，則稱為感知器；對(duì)外部環(huán)境有適應(yīng)能力，能自動(dòng)提取外部環(huán)境變化特征，則稱為認(rèn)知器。

　　神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)中， 一般分為有教師和無教師學(xué)習(xí)兩種。感知器采用有教師信號(hào)進(jìn)行學(xué)習(xí)， 而認(rèn)知器則采用無教師信號(hào)學(xué)習(xí)的。在主要神經(jīng)網(wǎng)絡(luò)如BP 網(wǎng)絡(luò)，Hopfield 網(wǎng)絡(luò)，ART 網(wǎng)絡(luò)和Kohonen網(wǎng)絡(luò)中； BP 網(wǎng)絡(luò)和Hopfield 網(wǎng)絡(luò)是需要教師信號(hào)才能進(jìn)行學(xué)習(xí)的；而ART 網(wǎng)絡(luò)和Kohonen 網(wǎng)絡(luò)則無需教師信號(hào)就可以學(xué)習(xí)。所謂教師信號(hào)， 就是在神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中由外部提供的模式樣本信號(hào)。