專利名稱：基于統計不相關和正交特性的局部保留映射人臉識別方法
技術領域：
本發明涉及一種圖像處理技術領域的方法，具體是一種基于統計不相關和正交特性的局部保留映射人臉識別方法。可用于視頻監控系統、自動門衛系統、軍事目標跟蹤識別系統等各類民用及軍用系統中。
背景技術：
人臉識別技術已經成為當今研究的熱點。該項技術已成功應用于身份鑒別、人機界面、自動取款機、視頻監控等領域。目前人臉識別的難點主要是人臉在發生光照、膚色、表情、姿態等變化情況下，識別精度比較低。
作為人臉識別關鍵環節之一的特征提取方法，就是將原始的高維數據映射到一個低維的特征空間。該技術已經成為機器學習和模式識別的一個研究熱點。常用的特征提取方法可分為兩類基于全局幾何結構的分析方法和基于局部結構信息的分析方法。在基于全局幾何結構的分析法中，主成分分析方法(PCA)是一種經典的特征提取和數據表出技術，它保留了原始數據空間的全局結構，而且投影矩陣任意兩個互異的基向量是統計不相關且正交的。不相關和正交性是模式識別中兩個非常重要的特性。不相關能使數據具有最小的冗余，而正交性可以保持人臉空間的度量結構，實現原始數據的重構。局部保留映射方法(LPP)基于數據的局部結構分析，是最近發展的一種線性的特征提取方法，算法簡單且易于實現。局部保留映射方法只保留原始數據空間的局部信息，而在人臉識別中，局部信息起到了非常重要的作用。
經對現有技術文獻的檢索發現，X.He等人在《IEEE Trans.on PatternAnalysis and Machine Intelligence》(模式分析與機器智能IEEE雜志，2005，vol.27，no.3，pp.328-340)上發表“Face Recognition Using Laplacianfaces”(基于拉普拉斯臉的人臉識別方法)。該文首先提出了利用局部保留映射的特征提取方法進行人臉識別。文章通過實驗說明，該方法能夠得到優于主成分分析的識別結果。但是，局部保留映射方法的投影矩陣基向量是統計相關和非正交的，因此提取的特征含有冗余，交迭的信息會導致特征的實際分布發生歪曲，而且非正交的特征也不利于原始數據的重構，這兩個缺點嚴重影響了局部保留映射算法的性能。迄今為止，還沒有人提出能夠同時滿足統計不相關和正交特性的局部保留映射方法。
發明內容
本發明的目的在于克服現有局部保留映射方法的不足，提供一種基于統計不相關和正交特性的局部保留映射人臉識別方法，使其用于人臉識別，能夠提高人臉識別的精度。
本發明是通過以下技術方案實現的，本發明建立一個連接圖，得到任意兩個節點的相似性，在相似性中按照最近鄰原則，確定所有節點的鄰接點，得到輸入數據的相似矩陣，并計算出對角矩陣和拉普拉斯矩陣；再將這一相似矩陣應用到局部保留映射方法中，加入統計不相關和正交兩個約束條件，采用迭代算法，根據特征值問題求出不相關且正交的投影矩陣，得到訓練投影系數矩陣和測試投影系數矩陣，最后進行識別。由于人臉圖像是稀疏超高維向量，其維數遠遠高于人臉的圖片數，為保證數據矩陣非奇異，在上述技術方案前還必須對輸入數據先進行主成分分析。本發明應用到FERET/ORL數據庫中，獲得了比其它幾種特征提取算法(主成分分析法、局部保留映射法、不相關的局部保留映射法、正交拉普拉斯臉算法)更好的識別性能。
以下對本發明方法作進一步的說明，具體步驟如下第一步，主成分分析將每張人臉圖像表示為一個列向量，組成訓練樣本集，計算訓練樣本集的協方差矩陣的特征值，并選取大的特征值對應的特征向量作為基向量，從而構成主成分分析的投影矩陣；第二步，相似矩陣確定建立一個連接圖，使得屬于同一類的節點完全連接，得到任意兩個節點的相似性，再根據最近鄰原則，求出輸入節點的相似矩陣，并由這一相似矩陣推出對角矩陣和拉普拉斯矩陣；第三步，統計不相關且正交的局部保留映射投影矩陣確定根據第二步中得到的相似矩陣，再根據局部保留映射的思想，并加入統計不相關和正交兩個約束條件，采用迭代算法，解特征值問題求出投影矩陣，最后再將此投影矩陣與第一步中得到的主成分分析投影矩陣相乘，求出不相關且正交的局部保留映射投影矩陣；
第四步，識別將所有訓練圖像向量投影到第三步中得到的投影矩陣，得到訓練系數矩陣，再將測試圖像投影到投影矩陣，得到測試系數矩陣，采用最小距離分類器進行分類識別。
本發明同傳統的局部保留映射方法相比，能夠在保留原始數據空間的局部信息的同時，使提取的特征滿足統計不相關和正交性，從而具有最小的冗余，并有利于實現原始數據的重構，應用到人臉識別中，可以提高識別性能。本發明可應用于視頻監控系統、視頻會議系統、軍事目標跟蹤識別系統等各類民用及軍用系統中，具有廣闊的市場前景和應用價值。
圖1為本發明方法總體框圖。
圖2為本發明與其它幾種特征提取算法的識別率比較，其中橫坐標為特征值的維數，縱坐標為識別率。
具體實施例方式
為了更好地理解本發明的技術方案，以下結合附圖對本發明的實施方式作進一步描述。
如圖1所示，首先通過主成分分析，計算主成分分析的投影矩陣，然后計算出相似矩陣，根據相似矩陣解特征值問題求出投影矩陣，再聯合主成分分析的投影矩陣得到統計不相關且正交的局部保留映射投影矩陣，最后將訓練圖像和測試圖像都投影到投影矩陣中，得到訓練系數矩陣和測試系數矩陣，利用最小距離分類器進行識別。各部分具體實施細節如下1.主成分分析令人臉圖Γ(x，y)為一個2維的N×N矩陣，它同時也可以表示為一個N2的向量Γn。令訓練庫的人臉圖為Γ1，Γ2，Γ3，…，ΓM。庫中人臉的平均值定義為ψ=1MΣn=1MΓn---(1)]]>每張人臉與平均值的差值為Φn＝Γn-Ψ。協方差矩陣由下式確定C=1MΣn=1MΦnΦnT=AAT---(2)]]>
其中矩陣A＝[Φ1，Φ2，…，ΦM]，投影矩陣可以通過計算C的特征向量un得到。
僅取前M′個最大特征值對應的特征向量構成投影矩陣，這樣，特征向量的數目由M降為M′。令主成分分析的投影矩陣為ΦPCA，則一張新的人臉圖Γ可由下式映射得到它的特征元向量ΩT=ΦPCAT(Γ-ψ)---(3)]]>2.相似矩陣的確定在訓練樣本集{Γ1，Γ2，…，ΓM}中，M為訓練數據的個數，令每一訓練數據代表一個節點，并假設每一節點的鄰接點個數為K，建立一個連接圖，使得屬于同一類的節點完全連接，任意兩個節點的相似性可以表示成Sij=Sji=xiTxji≠jandi,jbelongtothesameclass0otherwise---(4)]]>相似性Sij反映了兩個節點的相似程度。在相似性中按照最近鄰原則，找出所有節點的近鄰節點，得到輸入數據的相似矩陣Wij，Wij可以表示為Wij=Sijifxiisamongknearstneighboursofxjorxjisamongknearstneighboursofxi0otherwise---(5)]]>最后，再根據相似矩陣W，分別計算出對角矩陣D和拉普拉斯矩陣LD＝diag(Dii) (6)L＝D-W(7)其中Dii=Σjwij(i,j=1,2,···,M)。]]>3.統計不相關且正交的局部保留映射投影矩陣的確定設訓練樣本集X＝{x1，x2，…，xM}，SL＝XLXT，SD＝XDXT，I＝diag(1，1，...，1)，協方差矩陣ST＝E[(X-EX)(X-EX)T]，Φ＝[φ1，φ2，...，φk]為投影矩陣，并定義Φk-1＝[φ1，φ2，...，φk-1] (8)局部保留映射方法的目標函數是minΣi,j‖yi-yj‖2wij---(9)]]>其中，yi是節點xi對應于低維空間的投影結果。通過一些簡單的幾何知識，上述目標函數可化為如下的最小化問題argmintrace(ΦTXLXTΦ)ΦΦTXDXTΦ=1---(10)]]>滿足最小化目標函數的投影矩陣可以轉化為一般的特征值問題XLXTФ＝λXDXTФ(11)為了得到不相關且正交的投影向量φk，在式(11)的基礎上增加統計不相關和正交兩個約束φkTSTφi=0φkTφi=0(i=1,2,···,-1)---(12)]]>由于φk是歸一化的向量，滿足φkTφk=1]]>，則局部保留映射又增加了一個約束φkTSDφk=1---(13)]]>采用拉格朗日乘子法，聯合式(11)～(13)進行求解，問題等價于求φk使下述函數取到最大值L(φk)=φkTSLφk-λ(φkTSDφk-1)-Σi=1k-1γiφkTSTφi-Σi=1k-1μiφkTφi---(14)]]>關于φk求導數，并令導數為零，可得到2SLφk-2λSDφk-Σi=1k-1γiSTφi-Σi=1k-1μiφi=0---(15)]]>在式(15)的兩邊左乘上φkT，利用式(12)的約束，可知后兩項為零，于是可解得λ=φkTSLφkφkTSDφk---(16)]]>問題就是要使λ取到最大值。
再在式(15)的兩邊分別左乘上φjTSTSD-1和φjTSD-1，推導整理可得2φjTSTSD-1SLφk-Σi=1k-1γiφjTSTSD-1STφi-Σi=1k-1μiφjTSTSD-1φi=0---(17)]]>2φjTSD-1SLφk-Σi=1k-1γiφjTSD-1STφi-Σi=1k-1μiφjTSD-1φi=0---(18)]]>
其中j＝1，2，...，k-1。
設μ＝[μ1，μ2，...，μk-1]，γ＝[γ1，γ2，...，γk-1]，則式(17)和(18)可表示成2Φk-1TSTSD-1SLφk-Φk-1TSTSD-1STΦk-1γ-Φk-1STSD-1Φk-1Tμ=0---(19)]]>2ΦkSD-1SLφk+1-ΦkSD-1STΦkTγ-ΦkSD-1ΦkTμ=0---(20)]]>聯合式(19)和(20)求出μ和γ，并根據Σi=1k-1γiSTφi=STΦk-1γ,Σi=1k-1μiφi=Φk-1μ,]]>式(15)進一步表示為2SLφk-2λSDφk-STΦk-1γ-Φk-1μ＝0 (21)將γ和μ的解代入式(21)，并經過一系列數學推導和整理，最終，不相關且正交的投影向量φk可按照如下步驟迭代計算(a)計算矩陣SD-1SL的特征值，并選取最小特征值對應的特征向量作為投影向量φ1。
(b)求解如下特征方程(式(22))的特征值，并取最小特征值對應的特征向量作為不相關且正交的投影向量φk。
R(k)SLφ＝λSDφ (22)其中R(k)＝I-STΦk-1M-1N-Φk-1P-1Q(23)M=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1STΦk-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1STΦk-1)----(24)]]>N=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1)---(25)]]> Q=(Φk-1TSTSD-1STΦk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1STΦk-1)-1(Φk-1TSD-1)(27)]]>最后，令投影矩陣Φ*＝[φ1，φ2，...，φd]，聯合步驟(1)得到的主成分分析的投影矩陣ΦPCA，則統計不相關且正交的局部保留映射投影矩陣ΦUOLPP可表示為
ΦUOLPP＝ΦPCAΦ*(28)設x為測試圖像，則測試圖像在投影矩陣中的投影系數向量可表示為y=ΦUOLPPTx---(29)]]>4.識別將訓練圖像和測試圖像分別投影到投影矩陣中，得到訓練系數矩陣和測試系數矩陣。采用最小距離分類器，即可獲得識別結果。
實驗選用FERET人臉數據庫，從中選取了72個對象，每個對象有6張圖像。實驗中，分別在每個對象中隨機選取Num張(Num＝2，3，4，5)圖像創建訓練庫，并用剩余的圖像組成相應的測試庫。在每個訓練庫和相應的測試庫上都重復實驗20次，并取平均值作為識別結果。
圖2顯示了主成分分析法(PCA)、拉普拉斯臉算法(局部保留映射法，LPP)、不相關的局部保留映射法(ULPP)、正交的拉普拉斯臉算法(OLPP)以及本發明提出的算法(UOLPP)在FERET數據庫中的識別結果(取Num＝3)。從圖中可看出，本發明提出的UOLPP方法明顯優于其它幾種特征提取算法，能獲得更具判別性的特征，應用到人臉識別中，可以提高識別性能。
權利要求
1.一種基于統計不相關和正交特性的局部保留映射人臉識別方法，其特征在于，具體步驟如下第一步，主成分分析將每張人臉圖像表示為一個列向量，組成訓練樣本集，計算訓練樣本集的協方差矩陣的特征值，并選取大的特征值對應的特征向量作為基向量，從而構成主成分分析的投影矩陣；第二步，相似矩陣確定建立一個連接圖，使得屬于同一類的節點完全連接，得到任意兩個節點的相似性，再根據最近鄰原則，求出輸入節點的相似矩陣，并由這一相似矩陣推出對角矩陣和拉普拉斯矩陣；第三步，統計不相關且正交的局部保留映射投影矩陣確定根據第二步中得到的相似矩陣，再根據局部保留映射的思想，并加入統計不相關和正交兩個約束條件，采用迭代算法，解特征值問題求出投影矩陣，最后再將此投影矩陣與第一步中得到的主成分分析投影矩陣相乘，求出不相關且正交的局部保留映射投影矩陣；第四步，識別將所有訓練圖像向量投影到第三步中得到的投影矩陣，得到訓練系數矩陣，再將測試圖像投影到投影矩陣，得到測試系數矩陣，采用最小距離分類器進行分類識別。
2.根據權利要求1所述的基于統計不相關和正交特性的局部保留映射人臉識別方法，其特征是，所述第二步，具體實現如下設訓練樣本集{Γ1，Γ2，…，ΓM}，M為訓練數據的個數，令每一訓練數據代表一個節點，并假設每一節點的鄰接點個數為K，建立一個連接圖，使得屬于同一類的節點完全連接，則任意兩個節點的相似性表示成Sij=Sij=xiTxji≠jandi,jbelongtothesameclass0otherwise]]>在相似性中按照最近鄰原則，找出所有節點的近鄰節點，得到輸入數據的相似矩陣Wij，Wij表示為Wij=Sijifxiisamongknearestneighboursofxjorxjisamongknearestneighboursofxi0otherwise]]>最后，再根據相似矩陣W，分別計算出對角矩陣D和拉普拉斯矩陣LD＝diag(Dii)L＝D-W其中Dii=Σjwij(i,j=1,2,...,M).]]>
3.根據權利要求1所述的基于統計不相關和正交特性的局部保留映射人臉識別方法，其特征是，所述第三步，具體實現如下根據求得的相似矩陣Wij，對角矩陣D和拉普拉斯矩陣L，設訓練樣本集X＝{x1，x2，…，xM}，SL＝XLXT，SD＝XDXT，I＝diag(1，1，...，1)，協方差矩陣ST＝E[(X-EX)(X-EX)T]，Φ＝[φ1，φ2，...，φk]為投影矩陣，并定義Φk-1＝[φ1，φ2，...，φk-1]局部保留映射方法的目標函數是minΣi,j||yi-yj||2wij]]>其中，yi是節點xi對應于低維空間的投影結果，通過幾何知識，滿足最小化目標函數的投影矩陣最終轉化為一般的特征值問題XLXTΦ＝λXDXTΦ為了得到不相關且正交的投影向量φk，在式XLXTΦ＝λXDXTΦ的基礎上增加統計不相關和正交兩個約束ΦkTSTΦi=0ΦkTΦi=0(i=1,2,...,k-1)]]>由于φk是歸一化的向量，滿足ΦkTΦk=1,]]>則局部保留映射又增加了一個約束ΦkTSDΦk=1]]>采用拉格朗日乘子法，聯合以上公式進行求解，統計不相關且正交的投影向量φk，按照如下步驟迭代計算a.計算矩陣SD-1SL的特征值，并選取最小特征值對應的特征向量作為投影向量φ1；b.求解如下特征方程式的特征值，并取最小特征值對應的特征向量作為不相關且正交的投影向量φk，R(k)SLφ＝λSDφ其中R(K)=I-STΦk-1M-1N-ΦK-1P-1Q]]>M=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1STΦk-1)-(Φk-1TSD-1Φk-1)-1(Φk-1TSD-1STΦk-1)]]>N=(Φk-1TSTSD-1Φk-1)-1(Φk-1TSTSD-1)-(Φk-1TSTΦk-1)-1(Φk-1TSD-1)]]> Q=(Φk-1TSTSD-1STΦk-1)-1(Φk-1TSTSD-1)-(Φk-1TSD-1STΦk-1)-1(Φk-1YSD-1)]]>最后，令投影矩陣Φ*＝[φ1，φ2，...，φd]，并聯合主成分分析的投影矩陣ΦPCA，則統計不相關且正交的局部保留映射投影矩陣ΦUOLPP表示為ΦUOLPP＝ΦPCAΦ*。
全文摘要
一種圖像處理技術領域的基于統計不相關和正交特性的局部保留映射人臉識別方法。本發明首先對輸入訓練樣本圖像進行主成分分析，得到主成分分析的投影矩陣；然后建立一個連接圖，得到任意兩個節點之間的相似性，并按照最近鄰原則，確定所有節點的鄰接點，計算出輸入數據的相似矩陣；再將這一相似矩陣應用到局部保留映射方法中，加入統計不相關和正交兩個約束條件，采用疊代算法，根據特征值問題并結合主成分分析的投影矩陣求出不相關且正交的投影矩陣，得出訓練投影系數矩陣和測試投影系數矩陣；最后再用最小距離方法進行識別。本發明具有最小的冗余，并有利于實現原始數據的重構，應用到人臉識別中，可以提高識別性能。
文檔編號G06K9/00GK1936924SQ20061011704
公開日2007年3月28日 申請日期2006年10月12日 優先權日2006年10月12日
發明者敬忠良, 邱亞丹, 趙海濤 申請人:上海交通大學