基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及的是一種參數(shù)預(yù)測(cè)估計(jì)領(lǐng)域的方法，具體是一種基于模擬退火優(yōu)化BP 神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法。 技術(shù)背景
[0002] 不管是地層水、生活飲用水，還是工業(yè)用水的檢測(cè)，pH值和氯離子濃度是需測(cè)量的 重要參數(shù)。目前，地層水氯離子濃度測(cè)定大多采用實(shí)驗(yàn)室常規(guī)分析法，如電位滴定、離子色 譜等。這些方法操作復(fù)雜，無法現(xiàn)場(chǎng)應(yīng)用。對(duì)于pH值的檢測(cè)，除pH計(jì)外，使用最多的是試 紙法。該法由人眼進(jìn)行色卡比對(duì)判讀PH值，因此，受人為因素影響較大，如人的顏色視覺存 在差異。此外，探礦人員進(jìn)行野外水質(zhì)檢測(cè)，需要一種攜帶方便、操作簡單的自動(dòng)水質(zhì)PH值 檢測(cè)儀。該自動(dòng)水質(zhì)PH值檢測(cè)儀通過顏色傳感器獲得測(cè)試試紙呈現(xiàn)的紅（R)、綠（G)和藍(lán) (B)三個(gè)顏色分量，根據(jù)顏色值自動(dòng)判讀水質(zhì)的pH值。
[0003] 針對(duì)pH值的自動(dòng)判讀問題，主要是根據(jù)實(shí)測(cè)實(shí)驗(yàn)數(shù)據(jù)和數(shù)據(jù)處理算法建立pH值 與R、G、B之間的近似模型，由該模型對(duì)水質(zhì)的pH進(jìn)行預(yù)測(cè)，從而實(shí)現(xiàn)pH值的自動(dòng)測(cè)量。該 近似模型涉及的變量包括顏色分量R，G，B，及相應(yīng)pH值，屬于四維空間模型問題，而且pH 值與R、G、B的關(guān)系呈強(qiáng)烈的非線性，難以建立精確物理模型。
[0004] 處理上述問題的常規(guī)方法是多元回歸分析，即通過多元回歸分析找出pH值與R、 G、B三個(gè)輸入變量之間的定度關(guān)系。但該方法的非線性擬合能力和預(yù)測(cè)精確度低。而神經(jīng) 網(wǎng)絡(luò)如BP神經(jīng)網(wǎng)絡(luò)模型也是近年來有效的方法。
[0005] 經(jīng)過現(xiàn)有文獻(xiàn)檢索發(fā)現(xiàn)，BP神經(jīng)網(wǎng)絡(luò)模型的非線性擬合能力和預(yù)測(cè)精確度高于多 元回歸分析。但其存在以下缺點(diǎn)：（1)傳統(tǒng)BP網(wǎng)絡(luò)采用梯度下降法計(jì)算連接權(quán)值，易于陷 入局部最小值（2)收斂速度慢。
【發(fā)明內(nèi)容】
[0006] 本發(fā)明針對(duì)現(xiàn)有技術(shù)中存在的不足，提出一種基于模擬退火（SA)優(yōu)化BP神經(jīng)網(wǎng) 絡(luò)的pH值預(yù)測(cè)方法。本發(fā)明通過SA優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)建立了 pH值與R、G、B三個(gè)輸入 變量之間的定度關(guān)系，實(shí)現(xiàn)了 PH值的準(zhǔn)確預(yù)測(cè)，具有非線性擬合能力和預(yù)測(cè)精確度高的優(yōu) 點(diǎn)。
[0007] 本發(fā)明是通過以下技術(shù)方案實(shí)現(xiàn)的，本發(fā)明包括以下步驟：
[0008] 第一步，根據(jù)樣本選取策略選取樣本并輸入。
[0009] 所述的樣本選取策略，具體是：
[0010] (1)剔除不合格的或無效的數(shù)據(jù)。比如超過樣本量測(cè)范圍的數(shù)據(jù)（即野值），或者 相同輸入值對(duì)應(yīng)于不同的輸出值的樣本等；
[0011] (2)由于BP網(wǎng)絡(luò)是按照相似性進(jìn)行聯(lián)想的，對(duì)于與樣本的相似度高的狀態(tài)的預(yù)測(cè) 準(zhǔn)確度高，為此，在選擇訓(xùn)練樣本向量時(shí)，應(yīng)包括三個(gè)輸入顏色值的可能極值組合，即輸入 樣本向量覆蓋全部可能的測(cè)量范圍；
[0012] (3)把選定的合格輸入輸出量測(cè)值整理成適合BP網(wǎng)絡(luò)訓(xùn)練格式的樣本向量，對(duì)輸 入數(shù)據(jù)進(jìn)行歸一化處理以適應(yīng)輸入層神經(jīng)元非線性函數(shù)的要求等。
[0013] 第二步，根據(jù)BP定理，確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。
[0014] 所述的BP定理，具體是：
[0015] 給定任意ε > 〇和任意L2函數(shù)f : [0 1] n- R m，存在一個(gè)三層BP網(wǎng)絡(luò)，它可在任 意ε平方誤差精度內(nèi)逼近f。BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)包括輸入層、隱層和輸出層三層，以此作 為預(yù)測(cè)器。
[0016] 第三步，根據(jù)網(wǎng)絡(luò)訓(xùn)練策略，采用模擬退火算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值參數(shù)，利用輸入 的樣本對(duì)BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練，確定BP網(wǎng)絡(luò)的最優(yōu)權(quán)值及最優(yōu)隱層節(jié)點(diǎn)數(shù)。
[0017] 所述的訓(xùn)練策略，具體是：
[0018] 訓(xùn)練策略分為訓(xùn)練和修正兩個(gè)步驟。訓(xùn)練時(shí)又將樣本數(shù)據(jù)集合隨機(jī)地分為2部 分：（1)訓(xùn)練集合，用于網(wǎng)絡(luò)的訓(xùn)練；（2)測(cè)試集合，用于測(cè)試網(wǎng)絡(luò)的預(yù)測(cè)效果。修正步驟是， 改變網(wǎng)絡(luò)結(jié)構(gòu)，即增加或減少隱層節(jié)點(diǎn)的個(gè)數(shù)，然后再次進(jìn)行訓(xùn)練，最后根據(jù)預(yù)測(cè)效果確定 最優(yōu)的隱層節(jié)點(diǎn)數(shù)目及網(wǎng)絡(luò)結(jié)構(gòu)。
[0019] 所述的模擬退火算法，具體是：
[0020]
【主權(quán)項(xiàng)】
1. 一種基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征在于，包括以下步驟： 第一步，根據(jù)樣本選取策略選取樣本并輸入； 第二步，根據(jù)BP定理，確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)； 第三步，根據(jù)網(wǎng)絡(luò)訓(xùn)練策略，采用模擬退火算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值參數(shù)，利用輸入的樣 本對(duì)BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練，確定BP網(wǎng)絡(luò)的最優(yōu)權(quán)值及最優(yōu)隱層節(jié)點(diǎn)數(shù)； 第四步，根據(jù)訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)，構(gòu)建pH值的預(yù)測(cè)模型。
2. 根據(jù)權(quán)利要求1所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征是， 所述的樣本選取策略，具體是： (1) 剔除不合格的或無效的數(shù)據(jù)，比如超過樣本量測(cè)范圍的數(shù)據(jù)（即野值），或者相同 輸入值對(duì)應(yīng)于不同的輸出值的樣本等； (2) 由于BP網(wǎng)絡(luò)是按照相似性進(jìn)行聯(lián)想的，對(duì)于與樣本的相似度高的狀態(tài)的預(yù)測(cè)準(zhǔn)確 度高，為此，在選擇訓(xùn)練樣本向量時(shí)，應(yīng)包括三個(gè)輸入顏色值的可能極值組合，即輸入樣本 向量覆蓋全部可能的測(cè)量范圍； (3) 把選定的合格輸入輸出量測(cè)值整理成適合BP網(wǎng)絡(luò)訓(xùn)練格式的樣本向量，對(duì)輸入數(shù) 據(jù)進(jìn)行歸一化處理以適應(yīng)輸入層神經(jīng)元非線性函數(shù)的要求等。
3. 根據(jù)權(quán)利要求1所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征是， 所述的BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，具體是： 由BP定理知：給定任意e>0和任意L2函數(shù)f:[0l]n-Rm，存在一個(gè)三層BP網(wǎng)絡(luò)， 它可在任意e平方誤差精度內(nèi)逼近hBP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)包括輸入層、隱層和輸出層三層， 以此作為預(yù)測(cè)器。
4. 根據(jù)權(quán)利要求1所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征是， 所述的網(wǎng)絡(luò)訓(xùn)練策略，具體是： 訓(xùn)練策略分為訓(xùn)練和修正兩個(gè)步驟。訓(xùn)練時(shí)又將樣本數(shù)據(jù)集合隨機(jī)地分為2部分：（1) 訓(xùn)練集合，用于網(wǎng)絡(luò)的訓(xùn)練；（2)測(cè)試集合，用于測(cè)試網(wǎng)絡(luò)的預(yù)測(cè)效果。修正步驟是，改變網(wǎng) 絡(luò)結(jié)構(gòu)，即增加或減少隱層節(jié)點(diǎn)的個(gè)數(shù)，然后再次進(jìn)行訓(xùn)練，最后根據(jù)預(yù)測(cè)效果確定最優(yōu)的 隱層節(jié)點(diǎn)數(shù)目及網(wǎng)絡(luò)結(jié)構(gòu)。
5. 根據(jù)權(quán)利要求1所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征是， 所述的模擬退火算法，具體是：
其中：f: ? -R+為優(yōu)化函數(shù)，《GS是一個(gè)可行的解，A/(dS表示《的一個(gè)鄰域，1 為在溫度Tk下的搜索時(shí)間步數(shù)，P(? (1)是《 (1)接受(1)作為下一個(gè)新解《 (1+1) 的概率。根據(jù)該概率，采用輪盤賭法選擇(1)作為下一個(gè)新解《 (1+1)。當(dāng)在溫度Tk 下經(jīng)過多次轉(zhuǎn)移后溫度降低到Tk+1<Tk時(shí)，在Tk+1下重復(fù)上述過程直至溫度降到很低，則全 局最優(yōu)解將以概率1被找到。
6. 根據(jù)權(quán)利要求1所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)方法，其特征是， 所述的pH值預(yù)測(cè)模型，具體是：
其中，yis網(wǎng)絡(luò)輸出的預(yù)測(cè)值，《」為隱層第j個(gè)神經(jīng)元至輸出層的連接權(quán)值，〇 ^為隱 層第j個(gè)神經(jīng)元的輸出，b為輸出神經(jīng)元的偏置。隱層節(jié)點(diǎn)采用Sigmoid函數(shù)作為轉(zhuǎn)移函 數(shù)，隱層節(jié)點(diǎn)〇j的輸出表達(dá)式為，
其中，為輸入層至隱層的連接權(quán)值，b」為隱層第j個(gè)神經(jīng)元的偏置。
7.根據(jù)權(quán)利要求6所述的基于模擬退火優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的pH值預(yù)測(cè)模型的權(quán)值《 的計(jì)算，其特征是，所述的BP神經(jīng)網(wǎng)絡(luò)的權(quán)值《均通過基于SA優(yōu)化的BP神經(jīng)網(wǎng) 絡(luò)算法得到。
【專利摘要】本發(fā)明公開了一種基于模擬退火(SA)算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)的pH值的預(yù)測(cè)方法，包括以下步驟：第一步，根據(jù)樣本選取策略選取樣本并輸入。第二步，根據(jù)BP定理，確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。第三步，根據(jù)網(wǎng)絡(luò)訓(xùn)練策略，采用模擬退火算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值參數(shù)，利用輸入的樣本對(duì)BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練，確定BP網(wǎng)絡(luò)的最優(yōu)權(quán)值及最優(yōu)隱層節(jié)點(diǎn)數(shù)。第四步，根據(jù)訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)，構(gòu)建pH值的預(yù)測(cè)模型。本發(fā)明克服了BP網(wǎng)絡(luò)在權(quán)值選擇上的隨機(jī)性，提高了BP神經(jīng)網(wǎng)絡(luò)的收斂速度和學(xué)習(xí)能力。此外，優(yōu)化了訓(xùn)練樣本選取和網(wǎng)絡(luò)隱層神經(jīng)元數(shù)，提高了BP神經(jīng)網(wǎng)絡(luò)的泛化能力。本發(fā)明對(duì)pH的預(yù)測(cè)準(zhǔn)確度較高，具有較好的非線性擬合能力。
【IPC分類】G06N3-02, G06Q10-04, G06Q50-06
【公開號(hào)】CN104700153
【申請(qǐng)?zhí)枴緾N201410738449
【發(fā)明人】吳靜靜, 宋淑娟, 尤麗華, 王金華
【申請(qǐng)人】江南大學(xué)
【公開日】2015年6月10日
【申請(qǐng)日】2014年12月5日