在线观看av毛片亚洲_伊人久久大香线蕉成人综合网_一级片黄色视频播放_日韩免费86av网址_亚洲av理论在线电影网_一区二区国产免费高清在线观看视频_亚洲国产精品久久99人人更爽_精品少妇人妻久久免费

首頁(yè) > 文章中心 > 神經(jīng)網(wǎng)絡(luò)的反向傳播

神經(jīng)網(wǎng)絡(luò)的反向傳播

前言:想要寫出一篇令人眼前一亮的文章嗎?我們特意為您整理了5篇神經(jīng)網(wǎng)絡(luò)的反向傳播范文,相信會(huì)為您的寫作帶來幫助,發(fā)現(xiàn)更多的寫作思路和靈感。

神經(jīng)網(wǎng)絡(luò)的反向傳播

神經(jīng)網(wǎng)絡(luò)的反向傳播范文第1篇

[關(guān)鍵詞]有機(jī)碳含量評(píng)價(jià) 神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-914X(2015)45-0356-01

1 BP神經(jīng)網(wǎng)絡(luò)基本原理

BP神經(jīng)網(wǎng)絡(luò),即誤差反傳誤差反向傳播算法的學(xué)習(xí)過程,由信息的正向傳播和誤差的反向傳播兩個(gè)過程組成。輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息,并傳遞給中間層各神經(jīng)元;中間層是內(nèi)部信息處理層,負(fù)責(zé)信息變換,根據(jù)信息變化能力的需求,中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu);最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)進(jìn)一步處理后,完成一次學(xué)習(xí)的正向傳播處理過程,由輸出層向外界輸出信息處理結(jié)果。當(dāng)實(shí)際輸出與期望輸出不符時(shí),進(jìn)入誤差的反向傳播階段。誤差通過輸出層,按誤差梯度下降的方式修正各層權(quán)值,向隱層、輸入層逐層反傳。周而復(fù)始的信息正向傳播和誤差反向傳播過程,是各層權(quán)值不斷調(diào)整的過程,也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程,此過程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度,或者預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。

2 BP神經(jīng)網(wǎng)絡(luò)工作機(jī)理

2.1 正向傳播

圖中,表示神經(jīng)元的輸入,表示輸入層與隱含層之間權(quán)值,為隱含層與輸出層之間的權(quán)值,f()為傳遞函數(shù),為第k個(gè)神經(jīng)元輸出。假設(shè)BP神經(jīng)網(wǎng)絡(luò)輸入層有n個(gè)節(jié)點(diǎn),隱含層有q個(gè)節(jié)點(diǎn),輸出層m個(gè)節(jié)點(diǎn)。

隱含層第k個(gè)神經(jīng)元的輸入:

經(jīng)過傳遞函數(shù)f()后,則隱含層第k個(gè)神經(jīng)元的輸出:

其中f()為單調(diào)遞增且有界,所以一定有最大值。

輸出層第j個(gè)神經(jīng)元輸出:

2.2 反向傳播

輸入P個(gè)學(xué)習(xí)樣本,通過傳入網(wǎng)絡(luò)后,輸出,第P個(gè)樣本誤差:

式中:期望

全局誤差E:

輸出層權(quán)值的變化,通過調(diào)整,使得全局誤差E最小,得出輸出層神經(jīng)元權(quán)值調(diào)整公式:

隱含層神經(jīng)元的調(diào)整公式:

3 應(yīng)用實(shí)例

選擇AC,DEN,CNL,GR,PE,RD作為輸入曲線。XX井的53個(gè)點(diǎn)的巖心數(shù)據(jù),從中選出30個(gè)點(diǎn)作為訓(xùn)練樣本,23個(gè)點(diǎn)作為預(yù)測(cè),構(gòu)建網(wǎng)絡(luò),對(duì)全井段處理。結(jié)果對(duì)比(如圖3-1),發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)計(jì)算的TOC比傳統(tǒng)的法計(jì)算的TOC效果好。其中TOC_NN為神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)TOC,TOC_DaltalogR_AC為法計(jì)算的TOC。

4 結(jié)論

BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)TOC克服了常規(guī)解釋模型的缺陷,不用選擇解釋參數(shù),計(jì)算結(jié)果與解釋人員經(jīng)驗(yàn)無(wú)關(guān),預(yù)測(cè)結(jié)果精度有較大幅度的提高。利用多種測(cè)井解釋數(shù)據(jù)及巖心分析資料作為網(wǎng)絡(luò)訓(xùn)練樣本,通過網(wǎng)絡(luò)的訓(xùn)練、學(xué)習(xí),建立了BP網(wǎng)絡(luò)TOC模型,并利用該模型預(yù)測(cè)該地區(qū)新井的TOC值,實(shí)驗(yàn)證明用該模型進(jìn)行TOC預(yù)測(cè)是可行的。

參考文獻(xiàn)

[1]楊斌.神經(jīng)網(wǎng)絡(luò)及其在石油測(cè)井中的應(yīng)用[M].北京:石油工業(yè)出版,2005:111-115.

[2]羅利,姚聲賢.神經(jīng)網(wǎng)絡(luò)及模式識(shí)別技術(shù)在測(cè)井解釋中的應(yīng)用[J].測(cè)井技術(shù),2002.

神經(jīng)網(wǎng)絡(luò)的反向傳播范文第2篇

【關(guān)鍵詞】 圖像識(shí)別技術(shù) 神經(jīng)網(wǎng)絡(luò)識(shí)別

模式識(shí)別研究的目的是用機(jī)器來模擬人的各種識(shí)別能力―比如說模擬人的視覺與聽覺能力,因此圖像識(shí)別的目的是對(duì)文字、圖像、圖片、景物等模式信息加以處理和識(shí)別,以解決計(jì)算機(jī)與外部環(huán)境直接通信這一問題??梢哉f,圖像識(shí)別的研究目標(biāo)是為機(jī)器配置視覺“器官”,讓機(jī)器具有視覺能力,以便直接接受外界的各種視覺信息。

一、圖像識(shí)別系統(tǒng)

一個(gè)圖像識(shí)別系統(tǒng)可分為四個(gè)主要部分:被識(shí)圖像、圖像信息獲取、圖像預(yù)處理、圖像特征提取、分類判決。

二、圖像識(shí)別方法

圖像識(shí)別的方法很多,可概括為統(tǒng)計(jì)(或決策理論)模式識(shí)別方法、句法(或結(jié)構(gòu))模式識(shí)別方法、模糊模式識(shí)別方法以及神經(jīng)網(wǎng)絡(luò)識(shí)別方法。重點(diǎn)介紹神經(jīng)網(wǎng)絡(luò)識(shí)別方法。

2.1神經(jīng)網(wǎng)絡(luò)識(shí)別方法

2.1.1人工神經(jīng)網(wǎng)絡(luò)的組成

人工神經(jīng)網(wǎng)絡(luò)(簡(jiǎn)稱ANN)是由大量處理單元經(jīng)廣泛互連而組成的人工網(wǎng)絡(luò),用來模擬腦神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能。而這些處理單元我們把它稱作人工神經(jīng)元。

2.1.2人工神經(jīng)網(wǎng)絡(luò)的輸出

2.1.3人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

人工神經(jīng)網(wǎng)絡(luò)中,各神經(jīng)元的不同連接方式就構(gòu)成了網(wǎng)絡(luò)的不同連接模型。常見的連接模型有:前向網(wǎng)絡(luò)、從輸入層到輸出層有反饋的網(wǎng)絡(luò)、層內(nèi)有互聯(lián)的網(wǎng)絡(luò)及互聯(lián)網(wǎng)絡(luò)。

2.1.4 學(xué)習(xí)算法

1)感知器模型及其算法

算法思想:首先把連接權(quán)和閾值初始化為較小的非零隨機(jī)數(shù),然后把有n個(gè)連接權(quán)值的輸入送入網(wǎng)絡(luò)中,經(jīng)加權(quán)運(yùn)算處理后,得到一個(gè)輸出,如果輸出與所期望的有較大的差別,就對(duì)連接權(quán)值參數(shù)按照某種算法進(jìn)行自動(dòng)調(diào)整,經(jīng)過多次反復(fù),直到所得到的輸出與所期望的輸出間的差別滿足要求為止。

2)反向傳播模型及其算法

反向傳播模型也稱B-P模型,是一種用于前向多層的反向傳播學(xué)習(xí)算法。

算法思想是:B-P算法的學(xué)習(xí)目的是對(duì)網(wǎng)絡(luò)的連接權(quán)值進(jìn)行調(diào)整,使得調(diào)整后的網(wǎng)絡(luò)對(duì)任一輸入都能得到所期望的輸出。學(xué)習(xí)過程包括正向傳播和反向傳播。正向傳播用于對(duì)前向網(wǎng)絡(luò)進(jìn)行計(jì)算,即對(duì)某一輸入信息,經(jīng)過網(wǎng)絡(luò)計(jì)算后求出它的輸出結(jié)果;反向傳播用于逐層傳遞誤差,修改神經(jīng)元之間的連接權(quán)值,使網(wǎng)絡(luò)最終得到的輸出能夠達(dá)到期望的誤差要求。

B-P算法的學(xué)習(xí)過程如下:

第一步:選擇一組訓(xùn)練樣例,每一個(gè)樣例由輸入信息和期望的輸出結(jié)果兩部分組成;第二步:從訓(xùn)練樣例集中取出一樣例,把輸入信息輸入到網(wǎng)絡(luò)中;第三步:分別計(jì)算經(jīng)神經(jīng)元處理后的各層節(jié)點(diǎn)的輸出;第四步:計(jì)算網(wǎng)絡(luò)的實(shí)際輸出和期望輸出的誤差;第五步:從輸出層反向計(jì)算到第一個(gè)隱層,并按照某種原則(能使誤差向減小方向發(fā)展),調(diào)整網(wǎng)絡(luò)中各神經(jīng)元的權(quán)值;第六步:對(duì)訓(xùn)練樣例集中的每一個(gè)樣例重復(fù)一到五的步驟,直到誤差達(dá)到要求時(shí)為止。

3)Hopfield模型及其學(xué)習(xí)算法

它是一種反饋型的神經(jīng)網(wǎng)絡(luò),在反饋網(wǎng)絡(luò)中,網(wǎng)絡(luò)的輸出要反復(fù)地作為輸入再送入網(wǎng)絡(luò)中,使得網(wǎng)絡(luò)具有了動(dòng)態(tài)性,因此網(wǎng)絡(luò)的狀態(tài)在不斷的改變之中。

算法思想是:

(a) 設(shè)置互連權(quán)值

其中xis是s類樣例的第i個(gè)分量,它可以為1或0,樣例類別數(shù)為m,節(jié)點(diǎn)數(shù)為n。

(b) 未知類別樣本初始化。 Yi(0)=Xi 0≤i≤n-1

其中Yi(t)為節(jié)點(diǎn)I在t時(shí)刻的輸出,當(dāng)t=0時(shí),Yi(0)就是節(jié)點(diǎn)I的初始值,Xi為輸入樣本的第I個(gè)分量。

(c) 迭代直到收斂

神經(jīng)網(wǎng)絡(luò)的反向傳播范文第3篇

(江蘇科技大學(xué)電子信息學(xué)院,江蘇鎮(zhèn)江212003)

摘要:在實(shí)際交通環(huán)境中,由于運(yùn)動(dòng)模糊、背景干擾、天氣條件以及拍攝視角等因素,所采集的交通標(biāo)志的圖像質(zhì)量往往不高,這就對(duì)交通標(biāo)志自動(dòng)識(shí)別的準(zhǔn)確性、魯棒性和實(shí)時(shí)性提出了很高的要求。針對(duì)這一情況,提出一種基于深層卷積神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志識(shí)別方法。該方法采用深層卷積神經(jīng)網(wǎng)絡(luò)的有監(jiān)督學(xué)習(xí)模型,直接將采集的交通標(biāo)志圖像經(jīng)二值化后作為輸入,通過卷積和池采樣的多層處理,來模擬人腦感知視覺信號(hào)的層次結(jié)構(gòu),自動(dòng)地提取交通標(biāo)志圖像的特征,最后再利用一個(gè)全連接的網(wǎng)絡(luò)實(shí)現(xiàn)交通標(biāo)志的識(shí)別。實(shí)驗(yàn)結(jié)果表明,該方法利用卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)能力,自動(dòng)地提取交通標(biāo)志的特征,避免了傳統(tǒng)的人工特征提取,有效地提高了交通標(biāo)志識(shí)別的效率,具有良好的泛化能力和適應(yīng)范圍。

關(guān)鍵詞 :交通標(biāo)志;識(shí)別;卷積神經(jīng)網(wǎng)絡(luò);深度學(xué)習(xí)

中圖分類號(hào):TN911.73?34;TP391.41 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1004?373X(2015)13?0101?06

收稿日期:2015?01?09

基金項(xiàng)目:國(guó)家自然科學(xué)基金面上項(xiàng)目(61371114)

0 引言

隨著智能汽車的發(fā)展,道路交通標(biāo)志的自動(dòng)識(shí)別[1?3]作為智能汽車的基本技術(shù)之一,受到人們的高度關(guān)注。道路交通標(biāo)志識(shí)別主要包括兩個(gè)基本環(huán)節(jié):首先是交通標(biāo)志的檢測(cè),包括交通標(biāo)志的定位、提取及必要的預(yù)處理;其次是交通標(biāo)志的識(shí)別,包括交通標(biāo)志的特征提取和分類。

如今,交通標(biāo)志的識(shí)別方法大多數(shù)都采用人工智能技術(shù),主要有下述兩類形式[4]。一種是采用“人工特征+機(jī)器學(xué)習(xí)”的識(shí)別方法,如基于淺層神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)的特征識(shí)別等。在這種方法中,主要依靠先驗(yàn)知識(shí),人工設(shè)計(jì)特征,機(jī)器學(xué)習(xí)模型僅負(fù)責(zé)特征的分類或識(shí)別,因此特征設(shè)計(jì)的好壞直接影響到整個(gè)系統(tǒng)性能的性能,而要發(fā)現(xiàn)一個(gè)好的特征,則依賴于研究人員對(duì)待解決的問題的深入理解。另一種形式是近幾年發(fā)展起來的深度學(xué)習(xí)模型[5],如基于限制波爾茲曼機(jī)和基于自編碼器的深度學(xué)習(xí)模型以及卷積神經(jīng)網(wǎng)絡(luò)等。在這種方法中,無(wú)需構(gòu)造任何的人工特征,而是直接將圖像的像素作為輸入,通過構(gòu)建含有多個(gè)隱層的機(jī)器學(xué)習(xí)模型,模擬人腦認(rèn)知的多層結(jié)構(gòu),逐層地進(jìn)行信息特征抽取,最終形成更具推廣性和表達(dá)力的特征,從而提升識(shí)別的準(zhǔn)確性。

卷積神經(jīng)網(wǎng)絡(luò)作為深度學(xué)習(xí)模型之一,是一種多層的監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò),它利用一系列的卷積層、池化層以及一個(gè)全連接輸出層構(gòu)建一個(gè)多層的網(wǎng)絡(luò),來模仿人腦感知視覺信號(hào)的逐層處理機(jī)制,以實(shí)現(xiàn)視覺特征信號(hào)的自動(dòng)提取與識(shí)別。本文將深層卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于道路交通標(biāo)志的識(shí)別,通過構(gòu)建一個(gè)由二維卷積和池化處理交替組成的6層網(wǎng)絡(luò)來逐層地提取交通標(biāo)志圖像的特征,所形成的特征矢量由一個(gè)全連接輸出層來實(shí)現(xiàn)特征的分類和識(shí)別。實(shí)驗(yàn)中將加入高斯噪聲、經(jīng)過位移、縮放和旋轉(zhuǎn)處理的交通標(biāo)志圖像以及實(shí)際道路采集交通標(biāo)志圖像分別構(gòu)成訓(xùn)練集和測(cè)試集,實(shí)驗(yàn)結(jié)果表明,本文所采用的方法具有良好的識(shí)別率和魯棒性。

1 卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)及原理

1.1 深度學(xué)習(xí)

神經(jīng)科學(xué)研究表明,哺乳動(dòng)物大腦皮層對(duì)信號(hào)的處理沒有一個(gè)顯示的過程[5],而是通過信號(hào)在大腦皮層復(fù)雜的層次結(jié)構(gòu)中的遞進(jìn)傳播,逐層地對(duì)信號(hào)進(jìn)行提取和表述,最終達(dá)到感知世界的目的。這些研究成果促進(jìn)了深度學(xué)習(xí)這一新興研究領(lǐng)域的迅速發(fā)展。

深度學(xué)習(xí)[4,6?7]的目的就是試圖模仿人腦感知視覺信號(hào)的機(jī)制,通過構(gòu)建含有多個(gè)隱層的多層網(wǎng)絡(luò)來逐層地對(duì)信號(hào)特征進(jìn)行新的提取和空間變換,以自動(dòng)學(xué)習(xí)到更加有效的特征表述,最終實(shí)現(xiàn)視覺功能。目前深度學(xué)習(xí)已成功地應(yīng)用到語(yǔ)音識(shí)別、圖像識(shí)別和語(yǔ)言處理等領(lǐng)域。在不同學(xué)習(xí)框架下構(gòu)建的深度學(xué)習(xí)結(jié)構(gòu)是不同的,如卷積神經(jīng)網(wǎng)絡(luò)就是一種深度的監(jiān)督學(xué)習(xí)下的機(jī)器學(xué)習(xí)模型。

1.2 卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)及原理

卷積神經(jīng)網(wǎng)絡(luò)受視覺系統(tǒng)的結(jié)構(gòu)啟發(fā)而產(chǎn)生,第一個(gè)卷積神經(jīng)網(wǎng)絡(luò)計(jì)算模型是在Fukushima 的神經(jīng)認(rèn)知機(jī)中提出的[8],基于神經(jīng)元之間的局部連接和分層組織圖像轉(zhuǎn)換,將有相同參數(shù)的神經(jīng)元應(yīng)用于前一層神經(jīng)網(wǎng)絡(luò)的不同位置,得到一種平移不變神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)形式。后來,LeCun 等人在該思想的基礎(chǔ)上,用誤差梯度設(shè)計(jì)并訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)[9?10],在一些模式識(shí)別任務(wù)上得到優(yōu)越的性能。

卷積神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一種有監(jiān)督的深度學(xué)習(xí)算法,無(wú)需事先知道輸入與輸出之間精確的數(shù)學(xué)表達(dá)式,只要用已知的模式對(duì)卷積神經(jīng)網(wǎng)絡(luò)加以訓(xùn)練,就可以學(xué)習(xí)到輸入與輸出之間的一種多層的非線性關(guān)系,這是非深度學(xué)習(xí)算法不能做到的。卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)是由一系列的卷積和池化層以及一個(gè)全連接的輸出層組成,可以采用梯度下降法極小化誤差函數(shù)對(duì)網(wǎng)絡(luò)中的權(quán)值和閾值參數(shù)逐層反向調(diào)節(jié),以得到網(wǎng)絡(luò)權(quán)值和閾值的最優(yōu)解,并可以通過增加迭代次數(shù)來提高網(wǎng)絡(luò)訓(xùn)練的精度。

1.2.1 前向傳播

在卷積神經(jīng)網(wǎng)絡(luò)的前向傳播中,輸入的原始圖像經(jīng)過逐層的卷積和池化處理后,提取出若干特征子圖并轉(zhuǎn)換成一維特征矢量,最后由全連接的輸出層進(jìn)行分類識(shí)別。

在卷積層中,每個(gè)卷積層都可以表示為對(duì)前一層輸入圖像的二維卷積和非線性激勵(lì)函數(shù),其表達(dá)式可用式(1)表示:

式中:Yj 表示輸出層中第j 個(gè)輸出;Y l + 1i 是前一層(l + 1層)

的輸出特征(全連接的特征向量);n 是輸出特征向量的長(zhǎng)度;Wij 表示輸出層的權(quán)值,連接輸入i 和輸出j ;bj表示輸出層第j 個(gè)輸出的閾值;f (?) 是輸出層的非線性

1.2.2 反向傳播

在反向傳播過程中,卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法采用類似于BP神經(jīng)網(wǎng)絡(luò)的梯度最速下降法,即按極小化誤差的方法反向傳播調(diào)整權(quán)值和閾值。網(wǎng)絡(luò)反向傳播回來的誤差是每個(gè)神經(jīng)元的基的靈敏度[12],也就是誤差對(duì)基的變化率,即導(dǎo)數(shù)。下面將分別求出輸出層、池采樣層和卷積層的神經(jīng)元的靈敏度。

(1)輸出層的靈敏度

對(duì)于誤差函數(shù)式(6)來說,輸出層神經(jīng)元的靈敏度可表示為:

在前向傳播過程中,得到網(wǎng)絡(luò)的實(shí)際輸出,進(jìn)而求出實(shí)際輸出與目標(biāo)輸出之間的誤差;在反向傳播過程中,利用誤差反向傳播,采用式(17)~式(20)來調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,極小化誤差;這樣,前向傳播和反向傳播兩個(gè)過程反復(fù)交替,直到達(dá)到收斂的要求為止。

2 深層卷積神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志識(shí)別方法

2.1 應(yīng)用原理

交通標(biāo)志是一種人為設(shè)計(jì)的具有特殊顏色(如紅、黃、白、藍(lán)、黑等)和特殊形狀或圖形的公共標(biāo)志。我國(guó)的交通標(biāo)志主要有警告、禁令、指示和指路等類型,一般采用顏色來區(qū)分不同的類型,用形狀或圖形來標(biāo)示具體的信息。從交通標(biāo)志設(shè)計(jì)的角度來看,屬于不同類型(不同顏色)的交通標(biāo)志在形狀或圖形上有較大的差異;屬于相同類型(相同顏色)的標(biāo)志中同類的指示信息標(biāo)志在形狀或圖形上比較接近,如警告標(biāo)志中的平面交叉路口標(biāo)志等。因此,從機(jī)器視覺的角度來分析,同類型中同類指示信息的標(biāo)志之間會(huì)比不同類型的標(biāo)志之間更易引起識(shí)別錯(cuò)誤。換句話說,相比于顏色,形狀或圖形是正確識(shí)別交通標(biāo)志的關(guān)鍵因素。

因此,在應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)識(shí)別交通標(biāo)志時(shí),從提高算法效率和降低錯(cuò)誤率綜合考慮,將交通標(biāo)志轉(zhuǎn)換為灰度圖像并作二值化處理后作為卷積神經(jīng)網(wǎng)絡(luò)的輸入圖像信息。圖2給出了應(yīng)用卷積神經(jīng)網(wǎng)絡(luò)識(shí)別交通標(biāo)志的原理圖。該網(wǎng)絡(luò)采用了6層交替的卷積層和池采樣層來逐層提取交通標(biāo)志的特征,形成的特征矢量由一個(gè)全連接的輸出層進(jìn)行識(shí)別。圖中:W1i(i=1,2,…,m1),W1(j j=1,2,…,m2),…,W1k(k=1,2,…,m(n?1))分別表示卷積層L1,L3,…,Ln - 1 的卷積核;Input表示輸入的交通標(biāo)志圖像;

Pool表示每個(gè)池采樣層的采樣池;map表示逐層提取的特征子圖;Y 是最終的全連接輸出。

交通標(biāo)志識(shí)別的判別準(zhǔn)則為:對(duì)于輸入交通標(biāo)志圖像Input,網(wǎng)絡(luò)的輸出矢量Y = [y1,y2 ,…,yC ],有yj = Max{y1,y2 ,…,yC},則Input ∈ j,即判定輸入的交通標(biāo)志圖像Input為第j 類交通標(biāo)志。

2.2 交通標(biāo)志識(shí)別的基本步驟

深層神經(jīng)網(wǎng)絡(luò)識(shí)別交通標(biāo)志主要包括交通標(biāo)志的訓(xùn)練與識(shí)別,所以將交通標(biāo)志識(shí)別歸納為以下4個(gè)步驟:(1) 圖像預(yù)處理:利用公式Gray= 0.299R +0.587G + 0.114B 將彩色交通標(biāo)志圖像轉(zhuǎn)換為灰度圖像,再利用鄰近插值法將交通標(biāo)志圖像規(guī)格化,最后利用最大類間方差將交通標(biāo)志圖像二值化。

(2)網(wǎng)絡(luò)權(quán)值和閾值的初始化:利用隨機(jī)分布函數(shù)將權(quán)值W 初始化為-1~1之間的隨機(jī)數(shù);而將閾值b 初始化為0。

(3)網(wǎng)絡(luò)的訓(xùn)練:利用經(jīng)過預(yù)處理的交通標(biāo)志圖像構(gòu)成訓(xùn)練集,對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,通過網(wǎng)絡(luò)前向傳播和反向傳播的反復(fù)交替處理,直到滿足識(shí)別收斂條件或達(dá)到要求的訓(xùn)練次數(shù)為止。

(4)交通標(biāo)志的識(shí)別:將實(shí)際采集的交通標(biāo)志圖像經(jīng)過預(yù)處理后,送入訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)中進(jìn)行交通標(biāo)志特征的提取,然后通過一個(gè)全連接的網(wǎng)絡(luò)進(jìn)行特征分類與識(shí)別,得到識(shí)別結(jié)果。

3 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)主要選取了我國(guó)道路交通標(biāo)志的警告標(biāo)志、指示標(biāo)志和禁令標(biāo)志三類中較常見的50幅圖像??紤]到在實(shí)際道路中采集到的交通標(biāo)志圖像會(huì)含有噪聲和出現(xiàn)幾何失真以及背景干擾等現(xiàn)象,因此在構(gòu)造網(wǎng)絡(luò)訓(xùn)練集時(shí),除了理想的交通標(biāo)志以外,還增加了加入高斯噪聲、經(jīng)過位移、旋轉(zhuǎn)和縮放處理和實(shí)際采集到的交通標(biāo)志圖像,因此最終的訓(xùn)練樣本為72個(gè)。其中,加入的高斯噪聲為均值為0,方差分別為0.1,0.2,0.3,圖像的位移、旋轉(zhuǎn)、縮放的參數(shù)分別隨機(jī)的分布在±10,±5°,0.9~1.1的范圍內(nèi)。圖3給出了訓(xùn)練集中的交通標(biāo)志圖像的示例。圖4是在實(shí)際道路中采集的交通標(biāo)志圖像構(gòu)成的測(cè)試集的示例。

在實(shí)驗(yàn)中構(gòu)造了一個(gè)輸入為48×48個(gè)神經(jīng)元、輸出為50 個(gè)神經(jīng)元的9 層網(wǎng)絡(luò)。網(wǎng)絡(luò)的輸入是像素為48 × 48 的規(guī)格化的交通標(biāo)志圖像,輸出對(duì)應(yīng)于上述的50種交通標(biāo)志的判別結(jié)果。網(wǎng)絡(luò)的激活函數(shù)采用S型函數(shù),如式(2)所示,其輸出范圍限制在0~1之間。

圖6是交通標(biāo)志的訓(xùn)練總誤差EN 曲線。在訓(xùn)練開始的1 500次,誤差能迅速地下降,在迭代2 000次以后是一個(gè)平穩(wěn)的收斂過程,當(dāng)?shù)?0萬(wàn)次時(shí),總誤差EN可以達(dá)到0.188 2。

在交通標(biāo)志的測(cè)試實(shí)驗(yàn)中,為了全面檢驗(yàn)卷積神經(jīng)網(wǎng)絡(luò)的識(shí)別性能,分別針對(duì)理想的交通標(biāo)志,加入高斯噪聲、經(jīng)過位移、旋轉(zhuǎn)和比例縮放以及采集的交通標(biāo)志圖像進(jìn)行實(shí)驗(yàn),將以上測(cè)試樣本分別送入到網(wǎng)絡(luò)中識(shí)別,表2給出了測(cè)試實(shí)驗(yàn)結(jié)果。

綜合分析上述實(shí)驗(yàn)結(jié)果,可以得到以下結(jié)論:(1)在卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)過程中,整個(gè)網(wǎng)絡(luò)的誤差曲線快速平穩(wěn)的下降,體現(xiàn)出卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)具有良好的收斂性。

(2)經(jīng)逐層卷積和池采樣所提取的特征具有比例縮放和旋轉(zhuǎn)不變性,因此對(duì)于旋轉(zhuǎn)和比例縮放后的交通標(biāo)志能達(dá)到100%的識(shí)別率。

(3)與傳統(tǒng)的BP網(wǎng)絡(luò)識(shí)別方法[11]相比較,卷積神經(jīng)網(wǎng)絡(luò)能夠達(dá)到更深的學(xué)習(xí)深度,即在交通標(biāo)志識(shí)別時(shí)能夠得到更高的所屬類別概率(更接近于1),識(shí)別效果更好。

(4)卷積神經(jīng)網(wǎng)絡(luò)對(duì)實(shí)際采集的交通標(biāo)志圖像的識(shí)別率尚不能達(dá)到令人滿意的結(jié)果,主要原因是實(shí)際道路中采集的交通標(biāo)志圖像中存在著較嚴(yán)重的背景干擾,解決的辦法是增加實(shí)際采集的交通標(biāo)志訓(xùn)練樣本數(shù),通過網(wǎng)絡(luò)的深度學(xué)習(xí),提高網(wǎng)絡(luò)的識(shí)別率和魯棒性。

4 結(jié)論

本文將深層卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于道路交通標(biāo)志的識(shí)別,利用卷積神經(jīng)網(wǎng)絡(luò)的深層結(jié)構(gòu)來模仿人腦感知視覺信號(hào)的機(jī)制,自動(dòng)地提取交通標(biāo)志圖像的視覺特征并進(jìn)行分類識(shí)別。實(shí)驗(yàn)表明,應(yīng)用深層卷積神經(jīng)網(wǎng)絡(luò)識(shí)別交通標(biāo)志取得了良好的識(shí)別效果。

在具體實(shí)現(xiàn)中,從我國(guó)交通標(biāo)志的設(shè)計(jì)特點(diǎn)考慮,本文將經(jīng)過預(yù)處理二值化的圖像作為網(wǎng)絡(luò)的輸入,主要是利用了交通標(biāo)志的形狀信息,而基本略去了顏色信息,其優(yōu)點(diǎn)是在保證識(shí)別率的基礎(chǔ)上,可以簡(jiǎn)化網(wǎng)絡(luò)的結(jié)構(gòu),降低網(wǎng)絡(luò)的計(jì)算量。在實(shí)際道路交通標(biāo)志識(shí)別中,將形狀信息和顏色信息相結(jié)合,以進(jìn)一步提高識(shí)別率和對(duì)道路環(huán)境的魯棒性,是值得進(jìn)一步研究的內(nèi)容。

此外,本文的研究沒有涉及到道路交通標(biāo)志的動(dòng)態(tài)檢測(cè),這也是今后可以進(jìn)一步研究的內(nèi)容。

參考文獻(xiàn)

[1] 劉平華,李建民,胡曉林,等.動(dòng)態(tài)場(chǎng)景下的交通標(biāo)識(shí)檢測(cè)與識(shí)別研究進(jìn)展[J].中國(guó)圖象圖形學(xué)報(bào),2013,18(5):493?503.

[2] SAHA S K,DULAL C M,BHUIYAN A A. Neural networkbased sign recognition [J]. International Journal of ComputerApplication,2012,50(10):35?41.

[3] STALLKAMP J,SCHLIOSING M,SALMENA J,et al. Man vs.computer:benchmarking machine learning algorithms for traf?fic sign recognition [J]. Neural Network,2012,32(2):323?332.

[4] 中國(guó)計(jì)算機(jī)學(xué)會(huì).深度學(xué)習(xí):推進(jìn)人工智能夢(mèng)想[EB/OL].[2013?06?10].http://ccg.org.cn.

[5] 鄭胤,陳權(quán)崎,章毓晉.深度學(xué)習(xí)及其在目標(biāo)和行為識(shí)別中的新進(jìn)展[J].中國(guó)圖象圖形學(xué)報(bào),2014,19(2):175?184.

[6] FUKUSHIMA K. Neocognition:a self ? organizing neural net?work model for a mechanism of pattern recognition unaffectedby shift in position [J]. Biological Cybernetics,1980,36(4):193?202.

[7] LECUN Y,BOTTOU L,BENGIO Y,et al. Gradient ? basedlearning applied to document recognition [J]. IEEE Journal andMagazines,1989,86(11):2278?2324.

[8] LECUN Y,BOTTOU L,BENGIO Y,et al. Backpropagationapplied to handwritten zip code recognition [J]. Neural Compu?tation,1989,1(4):541?551.

[9] CIRESAN D,MEIER U,MAsci J,et al. Multi?column deepneural network for traffic sign classification [J]. Neural Net?works,2012,32(2):333?338.

[10] NAGI J,DUCATELLE F,CARO D,et al. Max?pooling con?volution neural network for vision?based hand gesture recogni?tion [C]// 2011 IEEE International Conference on Signal andImage Processing Application. Kuala Lumpur:IEEE,2011,342?347.

[11] 楊斐,王坤明,馬欣,等.應(yīng)用BP神經(jīng)網(wǎng)絡(luò)分類器識(shí)別交通標(biāo)志[J].計(jì)算機(jī)工程,2003,29(10):120?121.

[12] BUVRIE J. Notes on convolutional neural networks [EB/OL].[2006?11?12]. http://cogprints.org/5869/.

[13] 周開利,康耀紅.神經(jīng)網(wǎng)絡(luò)模型及其Matlab 仿真設(shè)計(jì)[M].北京:清華大學(xué)出版社,2005.

[14] 孫志軍,薛磊,許陽(yáng)明,等.深度學(xué)習(xí)研究綜述[J].計(jì)算機(jī)應(yīng)用研究,2012,29(8):2806?2810.

[15] 劉建偉,劉媛,羅雄麟.深度學(xué)習(xí)研究進(jìn)展[J].計(jì)算機(jī)應(yīng)用研究,2014(7):1921?1930.

神經(jīng)網(wǎng)絡(luò)的反向傳播范文第4篇

【關(guān)鍵詞】短期負(fù)荷預(yù)測(cè);BP神經(jīng)網(wǎng)絡(luò);模擬退火算法

0 引言

電力的短期負(fù)荷預(yù)測(cè)是電力系統(tǒng)的一項(xiàng)重要工作,是實(shí)現(xiàn)供電可靠、經(jīng)濟(jì)管理的基礎(chǔ)。由于電力負(fù)荷受到很多因素的影響,負(fù)荷預(yù)測(cè)方法發(fā)展至今,雖然已經(jīng)積累了很多經(jīng)驗(yàn),但是還沒有一種可靠的模型實(shí)用于不同地區(qū)。本文針對(duì)某市電力負(fù)荷的特點(diǎn),提出了模擬退火B(yǎng)P神經(jīng)網(wǎng)絡(luò)電力短期負(fù)荷預(yù)測(cè)模型。經(jīng)驗(yàn)證,該模型在實(shí)現(xiàn)負(fù)荷預(yù)測(cè)方面的可行性。

1 BP神網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)理論的研究始于1890年美國(guó)著名心理學(xué)家W.James關(guān)于人腦結(jié)構(gòu)與功能的研究,至今已提出過許多網(wǎng)絡(luò)模型,其中用于預(yù)測(cè)的網(wǎng)絡(luò)主要是BP神經(jīng)網(wǎng)絡(luò)。這是因?yàn)锽P神經(jīng)網(wǎng)絡(luò)主要有以下特點(diǎn):(1)較強(qiáng)的非線性映射能力;(2)很好的泛化能力;(3)很強(qiáng)的容錯(cuò)能力和學(xué)習(xí)能力。

D.E. Ru melhart和J.L. Mc Cella nd及其研究小組于1986年研究并設(shè)計(jì)出來BP神經(jīng)網(wǎng)絡(luò)(Back-propagationN eutralN etwork)是一種基于誤差反向傳播(BP算法)的多層前向神經(jīng)網(wǎng)絡(luò),采用有導(dǎo)師的訓(xùn)練方式。BP算法的學(xué)習(xí)過程包括信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過程。三層BP網(wǎng)絡(luò)是一種應(yīng)用很普遍的神經(jīng)網(wǎng)絡(luò),它包括輸入層、隱層和輸出層,如圖1所示,輸入層神經(jīng)元的個(gè)數(shù)為輸入信號(hào)的維數(shù),隱含節(jié)點(diǎn)的個(gè)數(shù)視具體情況而定,輸出層神經(jīng)元的個(gè)數(shù)為輸出信號(hào)的維數(shù)。BP網(wǎng)絡(luò)的工作流程見圖2所示。

圖1 BP神經(jīng)網(wǎng)絡(luò)

誤差的反向傳播是BP網(wǎng)絡(luò)的一大特點(diǎn),但是,該網(wǎng)絡(luò)也存在以下一些主要缺陷:(1)訓(xùn)練次數(shù)太多,效率較低;(2)易于陷入局部極小而不能實(shí)現(xiàn)全局最優(yōu)。針對(duì)這些缺點(diǎn),本文利用模擬退火算法對(duì)BP網(wǎng)絡(luò)進(jìn)行改進(jìn)。

2 模擬退火算法

1953年Metropolis等提出的模擬退火算法 (Simulated Annealing,簡(jiǎn)稱SA)能夠近似求解具有NP復(fù)雜性的問題,可以避免陷入局部極小的問題。模擬退火算法主要包括狀態(tài)產(chǎn)生函數(shù)、狀態(tài)接受函數(shù)、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)則和外循環(huán)終止準(zhǔn)則。

其工作過程如圖3所示。

圖2 BP網(wǎng)絡(luò)的工作過程

圖3 模擬退火算法的流程圖

3 神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)模型

本文設(shè)計(jì)的預(yù)測(cè)模型中BP神經(jīng)網(wǎng)絡(luò)的輸入層共有8個(gè)輸入端,分別用來輸入待測(cè)日前四天對(duì)應(yīng)時(shí)刻的負(fù)荷,以及天氣因素中的最低溫度、最高溫度、降雨量和日期類型;因?yàn)楸灸P偷妮敵鰹閷?duì)應(yīng)時(shí)刻的負(fù)荷,故輸出層只有一個(gè)輸出端;隱含節(jié)點(diǎn)的最佳個(gè)數(shù)現(xiàn)在沒有一個(gè)具體的方法或者公式來確定,通過實(shí)驗(yàn),本文最終取9個(gè)隱含節(jié)點(diǎn)。該模型工作流程見圖4所示。

4 驗(yàn)證

本文利用該模型及單一的BP神經(jīng)網(wǎng)絡(luò)模型來預(yù)測(cè)某市的負(fù)荷。由于預(yù)測(cè)過程中所用的數(shù)據(jù)性質(zhì)不同,大小差別很大,因此在使用之前,需要對(duì)數(shù)據(jù)進(jìn)行歸一化處理,對(duì)預(yù)測(cè)結(jié)果需要進(jìn)行還原。本文所用的轉(zhuǎn)移函數(shù)均為單極性Sigmoid函數(shù)。利用歷史數(shù)據(jù),進(jìn)行預(yù)測(cè),預(yù)測(cè)結(jié)果見圖5所示。預(yù)測(cè)誤差分布見圖6所示。

圖4 預(yù)測(cè)模型工作流程

圖5 預(yù)測(cè)結(jié)果

圖6 預(yù)測(cè)誤差

通過以上預(yù)測(cè)結(jié)果可知,利用該模型在預(yù)測(cè)結(jié)果的準(zhǔn)確性方面,比單一BP神經(jīng)網(wǎng)絡(luò)具有很大的優(yōu)勢(shì),同時(shí)也驗(yàn)證了該模型的可行性。

5 結(jié)論

針對(duì)單一的BP神經(jīng)網(wǎng)絡(luò)的缺點(diǎn),本文利用模擬退火算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò),經(jīng)驗(yàn)證,該方法是可行的。

【參考文獻(xiàn)】

[1]朱興統(tǒng).基于SA-LSSVM的電力短期負(fù)荷預(yù)測(cè)[J].科學(xué)技術(shù)與工程,2012,12(24):6171-6173.

[2]師彪,李郁俠,于新花,等.基于改進(jìn)粒子群模糊神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)[J].系統(tǒng)工程理論與實(shí)踐,2010,30(1):157-166.

[3]李慧,王來運(yùn).基于混沌蟻群算法的電力短期負(fù)荷預(yù)測(cè)[J].北京信息科技大學(xué)學(xué)報(bào),2011,26(4):40-43.

神經(jīng)網(wǎng)絡(luò)的反向傳播范文第5篇

關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);土壤重金屬污染

中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A DOI:10.11974/nyyjs.20170533219

1 材料與方法

1.1 研究區(qū)概況

以宜賓市翠屏區(qū)宋家鄉(xiāng)洋坪村萬(wàn)宜糧油專業(yè)合作社糧食生產(chǎn)功能區(qū)252.07hm2農(nóng)用地為研究區(qū),該區(qū)地處中緯度北亞熱帶季風(fēng)氣候區(qū),在地質(zhì)構(gòu)造上位于川東褶皺帶永川帚狀褶皺帶的帚部;全區(qū)基巖廣布,地層結(jié)構(gòu)、巖石特性形跡明顯,其中紫色巖層更是遍布于丘谷地區(qū),多為侏羅系各組紫色巖層,巖層傾角10~30°,切割淺,田多土少。本區(qū)為川南丘陵區(qū)地貌形狀,海拔340~400m,由于受四川盆地地質(zhì)構(gòu)造的影響,形成紅色泥巖、沙質(zhì)泥巖和沙巖互層沉積,主要土壤類型有:紅棕石骨土、灰棕紫沙土、棕紫泥田、黃紫沙田、紅紫沙田等,土壤質(zhì)地沙壤-壤土,礫石含量較低,土壤耕性較好,經(jīng)檢測(cè):土壤pH值5.94~8.40,微酸性-微堿性;有機(jī)質(zhì)含量10.09~32.6g/kg、全氮0.71~1.86g/kg、有效磷0.4~17mg/kg、堿解氮74~151mg/kg、速效鉀93~214mg/kg,耕地土壤養(yǎng)分含量中等豐富,水田地力多為2~3級(jí),旱地多為3~4級(jí)。

1.2 土樣采集與處理

土樣采集按照《農(nóng)田土壤環(huán)境質(zhì)量監(jiān)測(cè)技術(shù)規(guī)范》(NY/T395-2000)的要求,于2015年9月在作物收獲后秋耕前,根據(jù)研究區(qū)土地利用現(xiàn)狀劃分取樣單元,每13.3~20hm2取一個(gè)樣點(diǎn),共采集耕層土壤樣品10個(gè),耕層按0~20cm,亞耕層按20~40cm用不銹鋼土鉆采集土樣,每個(gè)土樣均采用“S”法隨機(jī)采集15~20個(gè)點(diǎn),經(jīng)充分混合后,用四分法留取1kg,重點(diǎn)點(diǎn)位留取1.5kg,裝入土袋標(biāo)明,樣品取回在實(shí)驗(yàn)室蔭干、碾碎備用。

1.3 測(cè)定項(xiàng)目及方法

土鈾退拇ㄊ∨圃和寥婪柿涎芯克化驗(yàn)室進(jìn)行,對(duì)農(nóng)產(chǎn)品質(zhì)量安全有重要影響的Pb、As、Cr、Hg和Cd共5個(gè)重金屬元素的化驗(yàn)分析,分析方法根據(jù)《農(nóng)田土壤環(huán)境質(zhì)量監(jiān)測(cè)技術(shù)規(guī)范》(NY/T395-2000)要求確定:As、Hg采用原子熒光光譜法測(cè)試,Cd、Cr、Pb采用等離子體質(zhì)譜法測(cè)試。

1.4 評(píng)價(jià)方法

1.4.1 傳統(tǒng)指數(shù)評(píng)價(jià)法

污染指數(shù)法是檢測(cè)評(píng)價(jià)土壤重金屬污染中最常用的一種方法,主要包括2種,分別為單因子和多因子污染指數(shù)法,多因子指數(shù)法是內(nèi)梅羅指數(shù)法使用最多的一種方法。內(nèi)梅羅指數(shù)法可以計(jì)算污染指數(shù)的平均值以及最高值,通常在實(shí)際的應(yīng)用過程中,重金屬污染因子個(gè)數(shù)減少的情況比較適合應(yīng)用該方法,加權(quán)有效地規(guī)避了權(quán)系數(shù)確定過程中的各種主觀因素,當(dāng)前該方法的應(yīng)用比較廣泛。但是,這種方法同時(shí)也存在不足之處,因?yàn)閷⑼寥乐亟饘傥廴驹u(píng)價(jià)化由復(fù)雜變得過于簡(jiǎn)單,過分強(qiáng)調(diào)了環(huán)境質(zhì)量影響中最高值的作用。一般情況下,對(duì)土壤進(jìn)行環(huán)境質(zhì)量評(píng)價(jià)時(shí),會(huì)按照中國(guó)土壤環(huán)境質(zhì)量標(biāo)準(zhǔn)(GB15618-1995)中二級(jí)標(biāo)準(zhǔn)來確定研究的評(píng)價(jià)標(biāo)準(zhǔn)(表1)。

1.4.2 BP神經(jīng)網(wǎng)絡(luò)

1.4.2.1 BP神經(jīng)網(wǎng)絡(luò)原理

BP算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò),稱之為BP神經(jīng)網(wǎng)絡(luò),這種神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最多的一種,按照誤差逆?zhèn)鞑ニ惴ㄟM(jìn)行訓(xùn)練,屬于多層前饋網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)功能比較強(qiáng),輸入―輸出模式映射關(guān)系的存貯量也比較大,不必對(duì)描述該映射關(guān)系的數(shù)學(xué)方程進(jìn)行揭示。梯度下降法是主要的學(xué)習(xí)規(guī)則,網(wǎng)絡(luò)的閾值和權(quán)值可以通過反向傳播得到適當(dāng)?shù)恼{(diào)整,最終得出的最小的誤差平方和。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)涔舶?層,分別是輸入層、隱層和輸出層。

1.4.2.2 BP神經(jīng)網(wǎng)絡(luò)算法

BP算法是目前最廣泛用的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法之一,其反向傳播包括2個(gè)步驟,分別是正向傳播以及反向傳播。

正向傳播就是樣本從輸入層開始經(jīng)過隱單元進(jìn)行層層處理,之后傳到輸出層中;經(jīng)過這個(gè)過程的層層處理,每層中神經(jīng)單元的狀態(tài)都只會(huì)影響到下一層神經(jīng)元的狀態(tài)。比較輸出層中的現(xiàn)行輸出以及期望輸出,當(dāng)現(xiàn)行輸出跟期望輸出不同時(shí),則進(jìn)行反向傳播過程。

反向傳播就是將誤差信號(hào)按照原路返回,從輸出層開始經(jīng)過隱含層對(duì)神經(jīng)元的權(quán)系數(shù)進(jìn)行逐步修改,以最大化的減少誤差信號(hào)。

采用非線性S型對(duì)數(shù)傳遞函數(shù)logsig函數(shù)應(yīng)用到模型的輸入層到隱含層的過程中,可以有效保證BP神經(jīng)網(wǎng)絡(luò)模型的非線性,線性函數(shù) purlin 函數(shù)應(yīng)用到隱含層到輸出層中,trainlm函數(shù)為網(wǎng)絡(luò)采用的訓(xùn)練函數(shù)。通過反復(fù)迭代運(yùn)算,達(dá)到誤差允許范圍為止,最后固定權(quán)值系數(shù)及閥值,學(xué)習(xí)訓(xùn)練過程結(jié)束,模型建立。

2 基于BP神經(jīng)網(wǎng)絡(luò)的土壤重金屬評(píng)價(jià)模型

2.1 學(xué)習(xí)樣本的選取

選取BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本可以確定模型,如果采用累加樣本數(shù)量或者反復(fù)訓(xùn)練網(wǎng)絡(luò)的方法,會(huì)耗費(fèi)大量的時(shí)間,不利于提高網(wǎng)絡(luò)的預(yù)測(cè)精度。因此只有在充分考慮樣本的整體內(nèi)在特征以及規(guī)律的基礎(chǔ)上才能選定樣本。

本文學(xué)習(xí)樣本選用《成都耕地》中耕地重金屬評(píng)價(jià)土壤樣點(diǎn)數(shù)據(jù)100個(gè),檢驗(yàn)樣本20個(gè)。樣本中土壤等級(jí)采用傳統(tǒng)內(nèi)梅羅指數(shù)評(píng)價(jià)法得出(表3)。

2.2 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的建立

3層前向BP神經(jīng)網(wǎng)絡(luò)能夠?qū)崿F(xiàn)隨意精度接近任何一個(gè)非線性函數(shù),而且過程中不需要建立數(shù)學(xué)模型,只要存在輸入以及目標(biāo)輸出即可。賦予一個(gè)輸入模式給網(wǎng)絡(luò),經(jīng)過輸入層―隱蔽層―輸出層層層處理之后,產(chǎn)生一個(gè)輸出模式。當(dāng)實(shí)際輸出跟期望輸出不同時(shí),則進(jìn)行反向傳播,誤差值會(huì)沿著原路返回進(jìn)行逐層修改。只有每個(gè)訓(xùn)練模式都滿足特定要求,學(xué)習(xí)過程才能結(jié)束。

圖1為本研究中的土壤重金屬污染評(píng)價(jià)的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型,該模型共分為3層,7-6-1為該模型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),輸入層共包括7個(gè)神經(jīng)單元。分別是對(duì)土壤耕地有重要影響的Pb、As、Cr、Hg和Cd共5個(gè)元素,2個(gè)限制條件:土壤類型(水田或旱地)和土壤pH值,對(duì)土壤類型(水田、旱地)字符作對(duì)應(yīng)性數(shù)字映射為水田-0,旱地-1;線性傳遞函數(shù)(purelin)為傳遞函數(shù);隱蔽層共包括6個(gè)神經(jīng)元,傳遞函數(shù)為s型傳遞函數(shù)(1ogsig);輸入層包含一個(gè)神經(jīng)元,和土壤重金屬污染評(píng)價(jià)等級(jí)對(duì)應(yīng),傳遞函數(shù)也是線性傳遞函數(shù)(purelin)。

網(wǎng)絡(luò)學(xué)習(xí)過程中或者網(wǎng)絡(luò)預(yù)測(cè)的過程中要實(shí)現(xiàn)更好的訓(xùn)練,就要進(jìn)行輸入矢量分量預(yù)處理以及輸出適量分量預(yù)處理,使用permnmx函數(shù)對(duì)網(wǎng)絡(luò)進(jìn)行歸一化處理,以使樣本輸出和輸入范圍維持在[-1,1]之間。仿真后的數(shù)據(jù)通過postmnmx函數(shù)進(jìn)行反歸一化處理。

本研究中有100個(gè)已知的土樣點(diǎn)參數(shù)數(shù)據(jù)可以當(dāng)做學(xué)習(xí)樣本的輸出節(jié)點(diǎn)值,在神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)模型中帶入5個(gè)影響參數(shù)和2個(gè)限制參數(shù)的輸入節(jié)點(diǎn)值,可以自動(dòng)生成樣本群知識(shí)庫(kù)以及項(xiàng)目區(qū)土壤重金屬污染評(píng)價(jià)等級(jí)與7個(gè)特征⑹的非線性計(jì)算關(guān)系,結(jié)果為:R?=0.99998;RMSE=0.01。

在神經(jīng)網(wǎng)絡(luò)推理機(jī)中帶入學(xué)習(xí)樣本以及驗(yàn)證土樣點(diǎn)的7個(gè)參數(shù)標(biāo)準(zhǔn)值,利用知識(shí)庫(kù)將各單元的評(píng)價(jià)等級(jí)求出,然后與已知結(jié)果進(jìn)行比較,如果誤差≤10%,再將其與傳統(tǒng)內(nèi)梅羅指數(shù)評(píng)價(jià)結(jié)果進(jìn)行比較,2個(gè)結(jié)果非常貼合。(表4)。

2.3 基于BP網(wǎng)絡(luò)的翠屏區(qū)土壤重金屬污染評(píng)價(jià)

在BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型被驗(yàn)證可用后,本文運(yùn)用該模型,對(duì)宜賓市翠屏區(qū)宋家鄉(xiāng)洋坪村萬(wàn)宜糧油專業(yè)合作社糧食生產(chǎn)功能區(qū)10個(gè)耕地土壤樣點(diǎn)進(jìn)行評(píng)價(jià),將其作為仿真部分輸入值代入網(wǎng)絡(luò)程序,即可評(píng)價(jià)出本區(qū)域耕地土壤重金屬污染等級(jí),對(duì)該區(qū)域現(xiàn)代農(nóng)業(yè)規(guī)劃中土壤適宜性和農(nóng)產(chǎn)品質(zhì)量安全溯源提供科學(xué)依據(jù)。

3 結(jié)論

本文主要對(duì)研究區(qū)域中的5種重金屬內(nèi)梅羅指數(shù)綜合評(píng)價(jià)以及神經(jīng)網(wǎng)絡(luò)綜合評(píng)價(jià)的結(jié)果進(jìn)行對(duì)比分析,對(duì)于該地區(qū)的污染水平和趨勢(shì),兩者反映的基本一致,神經(jīng)網(wǎng)絡(luò)綜合法評(píng)價(jià)結(jié)果對(duì)細(xì)小區(qū)域的評(píng)價(jià)更加適合,如土樣1根據(jù)內(nèi)梅羅指數(shù)法的結(jié)果顯示,該區(qū)域評(píng)價(jià)等級(jí)為2級(jí)、尚清潔,但應(yīng)用BP神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)為1級(jí)、清潔,這個(gè)評(píng)價(jià)結(jié)果比較符合當(dāng)?shù)氐奈廴緺顩r。

借助BP神經(jīng)網(wǎng)絡(luò)方法建立起土壤重金屬污染等級(jí)與區(qū)域種植業(yè)適宜性和農(nóng)產(chǎn)品質(zhì)量安全溯源之間構(gòu)建起直接的聯(lián)系,管理決策部門可以從這個(gè)方向出發(fā)制定現(xiàn)代農(nóng)業(yè)規(guī)劃的應(yīng)對(duì)措施,從而更好的協(xié)調(diào)社會(huì)經(jīng)濟(jì)活動(dòng)跟土壤環(huán)境之間的關(guān)系,從而有效的預(yù)防土壤重金屬污染,進(jìn)而保障農(nóng)產(chǎn)品的質(zhì)量安全。

參考文獻(xiàn)

[1]李向.基于BP神經(jīng)網(wǎng)絡(luò)的土壤重金屬污染評(píng)價(jià)方法――以包頭土壤環(huán)境質(zhì)量評(píng)價(jià)為例[J].中國(guó)農(nóng)學(xué)通報(bào),2012,28(02):250-256.

相關(guān)期刊更多

中國(guó)神經(jīng)腫瘤

部級(jí)期刊 審核時(shí)間1-3個(gè)月

中山大學(xué)腫瘤防治中心;中國(guó)抗癌協(xié)會(huì)神經(jīng)腫瘤專業(yè)委員會(huì)

現(xiàn)代神經(jīng)疾病

北大期刊 審核時(shí)間1-3個(gè)月

中華人民共和國(guó)國(guó)家衛(wèi)生

國(guó)際神經(jīng)病學(xué)神經(jīng)外科學(xué)

統(tǒng)計(jì)源期刊 審核時(shí)間1-3個(gè)月

中華人民共和國(guó)教育部

巴南区| 仪陇县| 全南县| 山西省| 武平县| 辽源市| 胶南市| 夏津县| 内乡县| 庄河市| 治多县| 莱芜市| 郁南县| 通许县| 宣城市| 晋江市| 平远县| 合山市| 峡江县| 土默特左旗| 辉南县| 隆林| 平昌县| 肥乡县| 陵川县| 陆河县| 女性| 尉犁县| 新蔡县| 通榆县| 泾阳县| 江津市| 永泰县| 江津市| 浦县| 东光县| 丰镇市| 湟中县| 府谷县| 新郑市| 抚顺市|