本發明涉及進行包含使用了拍攝圖像的實物體的識別的信息處理的信息處理系統、其中包含的攝像裝置、墊(mat)、以及所使用的圖像生成方法。
背景技術:
已知通過相機對用戶的身體、標記進行拍攝,將該像的區域置換為其他的圖像并顯示在顯示器的游戲(例如,參照專利文獻1)。通過檢測并分析拍攝圖像中的像,取得被攝體、相機自身的位置、運動或識別被攝體是什么的技術被廣泛導入利用了被搭載于游戲裝置、信息終端的相機以及利用了安全相機、車載相機、機器人搭載相機等的信息處理中。
在上述那樣的技術中,如何準確地取得對象物的像、其造形的特征始終是重要的課題。因此提出了準確地提取拍攝圖像中的物體的輪廓、特征的部位的各種技術(例如,參照專利文獻2)。
現有技術文獻
專利文獻
專利文獻1:歐洲專利申請公開第0999518號說明書
專利文獻2:(日本)特開2010-182078號公報
技術實現要素:
拍攝圖像上的特征的部位依賴于明亮度等拍攝環境、圖像傳感器等所使用的設備的性能、從攝像至特征檢測為止被施加于數據的各種處理、具體而言解馬賽克處理、校正處理、壓縮編碼處理、通信處理等中的條件、方法,其提取容易度變動。作為這樣多個主要原因復雜地關聯的結果,由于進行使用了所檢測出的特征的信息處理,所以不容易找出用于滿足系統的制造成本、處理成本的觀點上的制約且得到充分的處理精度的最佳條件。
本發明是鑒于這樣的課題而完成的,其目的在于,提供能夠高效地找出用于高精度地進行使用了拍攝圖像的信息處理的處理條件的技術。
為了解決上述課題,本發明的某方式涉及信息處理裝置。該信息處理裝置的特征在于,具備:圖圖像取得部,從攝像裝置取得表示規定的圖案的評價用圖的拍攝圖像的數據并作為圖像而在存儲器中展開;特征點提取部,從拍攝圖像提取特征點;正解坐標取得部,以與特征點提取部不同的方法,取得應從拍攝圖像提取的特征點的位置坐標作為正解坐標;以及性能指標計算部,基于特征點提取部提取到的特征點和正解坐標,計算將得到適于特征點提取的圖像的性能數值化后的性能指標并進行輸出。
本發明的其他方式涉及評價用圖。該評價用圖是用于評價信息處理裝置得到適于特征點提取的圖像的性能的評價用圖,其特征在于,包含用于從該拍攝圖像檢測角部的棋盤狀的黑以及白的矩形、和在各矩形的內部表示的灰色的圖形,該在各矩形的內部表示的灰色的圖形具有用于基于角部的檢測結果而取得坐標并與另外進行的特征點提取處理的結果比較的特征點。
本發明的再其他方式也涉及評價用圖。該評價用圖是用于評價信息處理裝置得到適于特征點提取的圖像的性能的評價用圖,其特征在于,包含從該拍攝圖像檢測的配置為在上下左右形成一個量的空隙的多個黑圓、和在各圓的內部以及所述空隙表示的灰色的圖形,該在各圓的內部以及所述空隙表示的灰色的圖形具有用于基于該圓的檢測結果而取得坐標并與另外進行的特征點提取處理的結果比較的特征點。
本發明的再其他方式涉及評價系統。該評價系統的特征在于,包含拍攝表示規定的圖案的評價用圖的攝像裝置、和取得該拍攝圖像的數據并評價得到適于特征點提取的圖像的性能的信息處理裝置,信息處理裝置具備:圖圖像取得部,從攝像裝置取得拍攝圖像的數據并作為圖像而在存儲器中展開;特征點提取部,從拍攝圖像提取特征點;正解坐標取得部,以與特征點提取部不同的方法,取得應從拍攝圖像提取的特征點的位置坐標作為正解坐標;性能指標計算部,基于特征點提取部提取的特征點和正解坐標,計算將性能數值化后的性能指標;以及調整部,在性能指標沒有達到預先設定的目標值時,對攝像裝置中的處理所使用的設定的其中一個進行調整,攝像裝置具備:參數存儲部,儲存通過調整部而被調整的設定;以及數據形成部,按照參數存儲部儲存的設定而生成拍攝圖像的數據并發送至信息處理裝置。
本發明的再其他方式涉及性能評價方法。該性能評價方法的特征在于,包含:從攝像裝置取得表示規定的圖案的評價用圖的拍攝圖像的數據并作為圖像而在存儲器中展開的步驟;從拍攝圖像提取特征點的步驟;以與提取特征點的步驟不同的方法,取得應從拍攝圖像提取的特征點的位置坐標作為正解坐標的步驟;以及基于在提取特征點的步驟中提取到的特征點和正解坐標,計算將得到適于特征點提取的圖像的性能數值化后的性能指標并進行輸出的步驟。
另外,將以上的結構要素的任意的組合、本發明的表現在方法、裝置、系統、記錄介質、計算機程序等之間轉換后的組合、表現作為本發明的方式也是有效的。
根據本發明,高效地找出用于高精度地進行使用了拍攝圖像的信息處理的條件。
附圖說明
圖1是表示能夠應用本實施方式的評價系統的結構例的圖。
圖2是表示本實施方式中的信息處理裝置的內部電路結構的圖。
圖3是例示在本實施方式中被設想為調整的對象的主要原因的圖。
圖4是表示本實施方式的評價時的信息處理裝置以及攝像裝置的功能塊的結構的圖。
圖5是例示本實施方式中的評價用圖的圖。
圖6(a)~(b)是用于說明本實施方式中的正解坐標取得部從圖5的評價用圖的拍攝圖像取得正解坐標的方法的圖。
圖7(a)~(b)是在本實施方式中將正解坐標取得部取得了坐標的小矩形的角部、和特征點提取部提取的特征點進行比較的圖。
圖8是例示在本實施方式中,對拍攝了評價用圖的圖像提取的特征點的分布、和所計算出的f值的圖。
圖9是例示在本實施方式中,對拍攝了評價用圖的圖像提取的特征點的分布、和所計算的f值的圖。
圖10是例示在本實施方式中,對拍攝了評價用圖的圖像提取的特征點的分布、和所計算出的f值的圖。
圖11是例示在本實施方式中,對拍攝了評價用圖的圖像提取的特征點的分布、和所計算出的f值的圖。
圖12是例示s/n比的變化相對于單元尺寸的變化的圖。
圖13是表示在本實施方式中,目標值存儲部中儲存的目標值的設定信息的數據結構例的圖。
圖14是表示在本實施方式中信息處理裝置評價了特征點提取性能的基礎上對調整對象參數進行調整的處理過程的流程圖。
圖15是表示本實施方式中的評價用圖的另一例的圖。
標號說明
8評價系統,10信息處理裝置,12攝像裝置,16顯示裝置,22cpu,24gpu,26主存儲器,60數據形成部,62攝像部,64參數存儲部,70圖圖像取得部,71圖像儲存部,72特征點提取部,74正解坐標取得部,76性能指標計算部,78比較部,80目標值存儲部,82調整部,84參數候選存儲部,200評價用圖,300評價用圖。
具體實施方式
本實施方式涉及為了高精度地進行使用了從拍攝圖像提取的特征點的信息處理而事先進行的性能評價以及根據需要的調整。該性能評價、調整也可以在開發、制造信息處理系統的階段由廠商等進行,也可以由購入了產品的用戶在實際的使用環境中進行。沒有特別限定使用特征點進行的游戲等信息處理的內容。以后,將利用所提取的特征點進行某些信息處理的階段稱為“應用時”、將之前進行性能評價、調整的階段稱為“評價時”。
圖1表示能夠應用本實施方式的評價系統的結構例。評價系統8包含對評價用圖200進行拍攝的攝像裝置12、從所拍攝到的圖像提取特征點并對其結果進行評價的信息處理裝置10、和將評價結果等信息作為圖像而輸出的顯示裝置16。另外,同圖所示的系統結構是評價時的系統結構,在應用時,也可以是攝像裝置12對與用途相應的被攝空間進行拍攝,信息處理裝置10進行用戶請求等的信息處理。此外,顯示裝置16也可以顯示該信息處理的結果。
攝像裝置12具有對對象物進行拍攝的相機、對其輸出信號實施解馬賽克處理等一般的處理從而生成拍攝圖像的輸出數據并向信息處理裝置10送出的機構。相機具備ccd(電荷耦合器件(chargecoupleddevice))傳感器、cmos(互補金屬氧化物半導體(complementarymetaloxidesemiconductor))傳感器等在一般的數碼相機、數碼攝像機中利用的可見光傳感器。攝像裝置12具備的相機也可以只有一個,也可以是將兩個相機以已知的間隔配置于左右的所謂立體相機。
信息處理裝置10例如也可以是游戲裝置、個人計算機,通過加載評價、應用所需的程序來實現信息處理功能。或也可以將信息處理裝置10設為針對于性能評價、調整的裝置。在該情況下,在應用時調換為游戲裝置、個人計算機等與用途相應的裝置即可。
顯示裝置16也可以是液晶顯示器、等離子顯示器、有機el顯示器等一般的顯示器。在評價時顯示裝置16顯示信息處理裝置10進行的評價的結果、所提取的特征點等信息。在不需要這樣的信息的提示的情況下,在評價時也可以沒有顯示裝置16。
攝像裝置12、信息處理裝置10、顯示裝置16的連接也可以是有線也可以是無線。在本實施方式中特別是根據攝像裝置12拍攝的圖像,評價是否以充分的精度提取了特征點。并且根據需要,對攝像裝置12內部的處理、從攝像裝置12向信息處理裝置10的數據發送、特征點的提取處理等的條件進行調整。由于這樣決定適當的條件并活用于應用是目的,所以攝像裝置12、通信部件沿襲在應用時設想的結構。
圖2表示信息處理裝置10的內部電路結構。信息處理裝置10包含cpu(中央處理單元(centralprocessingunit))22、gpu(圖形處理單元(graphicsprocessingunit))24、主存儲器26。cpu22基于操作系統、應用等的程序,對信息處理裝置10內部的結構要素中的處理、信號傳輸進行控制。gpu24進行圖像處理。主存儲器26由ram(隨機存取存儲器(randomaccessmemory))構成,存儲處理所需的程序、數據。
這些各部經由總線30而相互連接。在總線30上還連接有輸入輸出接口28。在輸入輸出接口28上,連接有由usb、ieee1394等周邊設備接口、有線或無線lan的網絡接口構成的通信部32,硬盤驅動、非易失性存儲器等存儲部34,向顯示裝置16、揚聲器等輸出裝置輸出數據的輸出部36,從攝像裝置12輸入數據的輸入部38,對磁盤、光盤或半導體存儲器等可拆卸記錄介質進行驅動的記錄介質驅動部40。
cpu22通過執行在存儲部34中存儲的操作系統從而控制信息處理裝置10的整體。cpu22還執行從可拆卸記錄介質讀出而加載到主存儲器26或經由通信部32下載的各種程序。gpu24具有幾何引擎的功能和繪制處理器的功能,按照來自cpu22的描繪命令進行描繪處理,將顯示圖像儲存至未圖示的幀緩沖器。并且將幀緩沖器中儲存的顯示圖像轉換為視頻信號并輸出至輸出部36。
在評價時信息處理裝置10從拍攝了評價用的圖的圖像提取特征點,以后述的方法計算表示其性能的數值作為性能指標。并且使顯示裝置16顯示提取結果、性能指標,或基于其調整拍攝條件、處理條件。但是也可以是僅進行結果的顯示,看到它的開發者、用戶通過人手而使條件變化,而不需要將它們全部實施,也可以僅自動調整處理條件而不進行信息顯示。在任何情況下,通過直至得到良好的性能為止反復調整,從而最終得到用于在特征點提取的觀點上取得最佳的圖像的條件。
在此作為調整對象的“條件”也可以是在從攝像至特征點提取處理為止的期間會對提取精度有影響的主要原因的其中一個,也可以是一個也可以是多個組合。圖3例示被設想為調整的對象的主要原因。如圖所示,認為攝像裝置12具有的圖像傳感器的種類、拍攝條件、根據傳感器的輸出值而生成圖像數據時使用的算法、使用的濾波器、在對圖像數據進行壓縮編碼時的方式、設定值、向信息處理裝置10發送數據時的無線方式等各種主要原因對拍攝圖像、進而特征點的提取精度有影響。
例示的要素以往在顯示了圖像時人看到后適宜識別的方向上進行追求。但是這樣決定的條件不一定對特征點提取有利。因此,認為即使利用從以那樣的條件取得的拍攝圖像提取的特征點進行信息處理,也不會得到滿足的處理精度,或沒有注意到易于估計進一步的精度提高。
因此,在本實施方式中,在至特征點的提取為止的階段,從提取性能的觀點來評價圖像,從而將對處理精度給予的影響的原因與后級的信息處理分開。此外,將性能指標數值化,能夠進行容易的比較,從而能夠從圖示的大量的主要原因確定影響大的主要原因,或高效地進而自動地決定最佳的條件。另外,作為調整對象的主要原因如圖所示,包含圖像傳感器的種類、算法等單獨有實體的主要原因、和曝光時間、伽馬值等數值。在以后的說明中將它們總括而稱為“調整對象參數”。
圖4表示評價時的信息處理裝置10以及攝像裝置12的功能塊的結構。圖4所示的各功能塊在硬件上能夠由cpu、gpu、主存儲器等實現,在軟件上由從硬盤、記錄介質加載到主存儲器的計算機程序等實現。從而,這些功能塊能夠通過僅硬件、僅軟件、或它們的組合以各種各樣的形式來實現對本領域技術人員來說應當理解,不限定于其中一個。
攝像裝置12除了由圖像傳感器構成的攝像部62之外,還包含形成應發送至信息處理裝置10的拍攝圖像的數據的數據形成部60、儲存用于拍攝條件、數據形成的參數的設定值的參數存儲部64。在該參數中,包含調整對象參數。攝像部62包含ccd、cmos等圖像傳感器,拍攝評價用圖。此時,以按照參數存儲部64中儲存的曝光時間、光闌值、增益值等設定值的條件進行攝像。
數據形成部60根據按從攝像部62輸出的每個像素的電信號而生成拍攝圖像的數據。具體而言,進行解馬賽克處理、缺陷像素的校正處理、伽馬校正等。此外,數據形成部60對所生成的圖像的數據進行壓縮編碼,以規定的通信協議來發送給信息處理裝置10。關于用于這些各種處理的算法、濾波器等,也按照參數存儲部64中儲存的設定。
信息處理裝置10包含取得拍攝了評價用圖的圖像的數據的圖圖像取得部70、儲存拍攝圖像的數據的圖像儲存部71、以與應用時相同的方法從拍攝圖像提取特征點的特征點提取部72、以適于評價用圖的方法取得正確的特征點的坐標的正解坐標取得部74、計算特征點提取的性能指標的性能指標計算部76、將預先設定的目標值和性能指標進行比較的比較部78、儲存該目標值的目標值存儲部80、基于比較結果對調整對象參數進行調整的調整部82、以及儲存調整對象參數的設定候選的參數候選存儲部84。
圖圖像取得部70從攝像裝置12取得拍攝了圖的圖像的數據,遵照所采用的壓縮編碼形式進行解碼、擴展并在圖像儲存部71中展開。特征點提取部72從圖像儲存部71讀出圖像的數據,以與應用時相同的算法來提取特征點。作為以圖像識別等目的來提取特征點的技術,harris、eigen、fast(快速分割測試特征(featuresfromacceleratedsegmenttest))、sift(尺度不變特征轉換(scale-invariantfeaturetransform))、surf(快速魯棒特征(speededuprobustfeatures))等各種算法被實用化。
在本實施方式中采用哪個都可以,根據信息處理的目的等進行適當選擇。或還能夠將算法本身設為調整對象參數。各個算法是一般的算法所以在此省略說明。
正解坐標取得部74從圖像儲存部71讀出圖的拍攝圖像的數據,使用適于評價用圖的規定的算法,取得本來應提取的特征點在圖像平面上的位置坐標(以后,稱為“正解坐標”)。即,以與特征點提取部72提取特征點不同的針對于評價用圖的方法來取得正解坐標。具體例如后述。
性能指標計算部76將從評價用圖的相同的拍攝圖像,由特征點提取部72提取的特征點、和由正解坐標取得部74取得的正解坐標進行對照,從而將特征點的提取性能作為數值來表示。性能指標計算部76也可以進而生成在拍攝圖像上以圖形等表示特征點提取部72提取的特征點、和正解坐標取得部74取得的正解坐標的圖像,并顯示在顯示裝置16。由此,開發者、用戶能夠在感覺上理解特征點的提取準確地進行到什么程度。
比較部78從目標值存儲部80讀出預先設定的性能指標的目標值,與性能指標計算部76計算出的實際的性能指標進行比較。關于性能指標的目標值,使用所提取到的特征點進行信息處理的結果,通過實驗等求得保證得到充分的處理精度的值。目標值也可以通過信息處理的內容、檢測對象的被攝體等而設定多個。在該情況下,按這些要素的每些,得到最佳的調整對象參數。
調整部82根據性能指標是否達到目標值來判定是否需要調整。判定結果也可以顯示在顯示裝置16。此外,在判定為需要調整時,調整部82決定調整對象參數的新的設定。如上所述,對調整對象參數來說,考慮曝光時間、光闌值、壓縮率等連續地使數值變化的調整對象參數、從算法、濾波器等單獨的實體選擇的調整對象參數。
在參數候選存儲部84中,關于使數值變化的調整對象參數儲存可調整的數值范圍及其變化的方法所涉及的規則,關于從候選選擇的調整對象參數儲存可選擇的候選及其選擇規則。調整部82按照所設定的規則來決定新的設定,更新在攝像裝置12的參數存儲部64中儲存的設定。在調整時,也可以反映實際的性能指標與目標值的差分。即,差分越大則使調整對象參數的調整幅度越大。
另外,通過一次評價來調整的參數也可以是一個,也可以是多個組合。也可以是開發者、用戶能夠事先指定其對象。此外,關于圖像傳感器的種類等自動調整困難的參數,能夠在顯示裝置16中顯示判定結果等從而設為開發者等的研究材料。若攝像裝置12使用以更新后的設定新拍攝并發送的評價用圖的攝像圖像,再次反復進行性能評價、調整的循環,能夠高效地確定最佳的條件。
圖5例示評價用圖。評價用圖200也可以是在板、墊等物體的表面描繪了圖圖案,也可以將制成為電子數據的圖圖案顯示在顯示裝置16。通過以規定的距離從正面拍攝那樣的評價用圖200,從而得到圖示那樣的圖案作為拍攝圖像。圖示的評價用圖200由在相鄰之間白黑反轉的棋盤狀的多個大矩形(例如大矩形202)、和在各大矩形的內部示出的灰色的小矩形(例如小矩形204)構成。
期望在評價用圖200中小矩形的灰色濃度具有濃淡度。在該例中,在是否能夠將小矩形的四角(角部)作為特征點而準確且不浪費地提取的觀點上進行特征點提取性能的評價。即,將應用時的被攝體的像疑似地以小矩形表示而評價提取性能。從而小矩形所示的灰色的深淺度越多,越表示實際的拍攝圖像中的像的多樣性,能進行正確的評價。
圖6是用于說明正解坐標取得部74從圖5中示出的評價用圖的拍攝圖像取得正解坐標的方法的圖。另外同圖(a)、(b)精選評價用圖200的像之中一部分而示出。正解坐標取得部74首先如同圖的(a)中白叉記號所示,提取大矩形的角部作為特征點,取得其位置坐標。從棋盤狀的圖案圖的拍攝圖像提取矩形的角部作為特征點的方法在相機校準中被廣泛已知(例如參照(日本)特開2014-92460號公報),提取算法也使用一般的算法而高精度地實施。
例如能夠利用在計算機視覺的領域中廣泛使用的開源的opencv中的cornersubpix函數(http://docs.opencv.org/2.4/modules/imgproc/doc/feature_detection.html)。正解坐標取得部74使用這樣保證了精度的方法,取得拍攝圖像中的大矩形的角部的位置坐標。并且如同圖的(b)中白圓所示,基于與大矩形的角部的相對位置來提取小矩形的角部。
具體而言,如同圖右側所示,基于大矩形的像的一個角部的位置坐標(x0,y0)、和橫向、縱向的邊的長度δx、δy,求得對應的小矩形的像的角部的位置坐標(x,y)。在原來的評價用圖中,若把將大矩形縮小為n%(n<100)的尺寸的小矩形配置于大矩形的中心,則小矩形的角部的位置坐標(x,y)如下表示。
【數1】
在此右邊的正負的符號根據大矩形與小矩形的對應的角部的位置關系而切換。另外為了更高精度地求得正解坐標,期望對拍攝了評價用圖的圖像,實施去除基于透鏡等的失真的校正處理。在這樣的校正處理中,能夠將使用了棋盤狀的圖案圖的一般的方法、例如由上述的opencv提供的函數直接應用于本實施方式的評價用圖。
像這樣,通過將在以往相機校準中使用的圖案包含于評價用圖的一部分,從而能夠同時達成特征點的提取性能評價以外的校準處理。此外,通過將小矩形的至少一個設為與調整曝光、白色平衡的灰色卡同色,從而也能同時進行這些調整。
另一方面,如上所述,特征點提取部72從相同的拍攝圖像以與應用時相同的算法來提取小矩形的角部。即,相對于正解坐標取得部74使用針對于棋盤狀的圖案的算法,特征點提取部72使用即使是任意的被攝體也能夠提取特征點的算法。
例示的評價用圖設想能夠提取其中的角部的算法,所以在大矩形的內部示出較小的矩形。其中,也可以根據在應用時使用的特征點提取算法,將在大矩形的內部示出的圖形的形狀設為矩形以外。只要與大矩形的角部的位置關系已知,就能夠與圖形無關地取得正解坐標,所以能夠與矩形同樣地評價提取性能。
圖7將正解坐標取得部74取得了坐標的小矩形的角部、和特征點提取部72提取的特征點進行比較。(a)、(b)所示的評價用圖的拍攝圖像之中,(a)以四邊形包圍示出正解坐標取得部74取得的角部的位置,(b)以四邊形包圍示出特征點提取部72提取的特征點。
如(a)所示,正解坐標取得部74能夠通過上述的方法準確地提取小矩形的角部。另一方面,特征點提取部72不能提取小矩形的角部,或誤提取角部以外的部位。另外在(b)中,將包圍誤提取的特征點的四邊形以更濃的線來表示。
若在評價用圖的一方向上以大矩形和小矩形的對比度逐漸變強的方式使小矩形的灰色濃度變化,則能夠易于掌握對比度與誤提取的頻度的關系。性能指標計算部76將特征點提取部72提取的特征點如(b)所示那樣顯示,從而用戶能以目視來確認誤提取、提取遺漏的趨勢,進行對策的研究。
性能指標計算部76在這樣的誤提取、提取遺漏的觀點上將提取性能數值化,從而能夠容易進行多個條件下的結果比較,或自動進行調整對象參數的調整。具體而言,將用于表示信息檢索的性能等的尺度即f值(f-measure)如下計算。
【數2】
即f值是precision(適合率)與recall(再現率)的調和平均。在此precision(適合率)是特征點提取部72提取的特征點的個數n之中正解的個數r的比例,recall(再現率)是應提取的正解的個數、即正解坐標取得部74取得的正解坐標的個數c之中特征點提取部72提取為特征點的個數r的比例,分別如下被提供。
【數3】
通過利用f值,除了所提取的特征點中的錯誤的多少這樣的含義下的“精度”之外,還表示包含提取遺漏的多少的觀點的總括的提取性能。圖8~11例示對在各種條件下拍攝了評價用圖的圖像提取的特征點的分布、和所計算出的f值。在各圖中,將通過具有四種不同的攝像元件的相機而拍攝的結果進行比較,a、b、c具有單元尺寸為大、中、小的rgb(紅綠藍)傳感器,d具有rgb·ir(紅外線)傳感器。
但是,無論是哪個傳感器,都從根據rgb的信號而最終生成的亮度圖像提取特征點。圖8表示在700勒克斯的比較亮的地點拍攝,進行通常的增益調整的情況下的結果。在這樣的好條件下的拍攝中,能減少單元尺寸、有無紅外線傳感器導致的影響而穩定地得到良好的f值。
圖9表示在與圖8相同的明亮度的地點拍攝,不進行增益調整的情況下的結果。若與進行了增益調整的情況進行比較,則無論哪個傳感器f值都惡化,但惡化的程度不一樣,單元尺寸小的c的傳感器和還檢測紅外線的d的傳感器惡化顯著。
圖10表示在比圖8、9暗的100勒克斯的地點拍攝,進行了通常的增益調整的情況下的結果。在該情況下,在單元尺寸小的c的傳感器中f值進一步惡化。此外已知在單元尺寸大的a、b的傳感器中,相對于該程度的照度的變化具有穩健性。
圖11表示在比圖10更暗的10勒克斯的地點拍攝,進行了通常的增益調整的情況下的結果。其中在還檢測紅外線的d的傳感器中拍攝的圖像由于噪聲而沒有進行正常的特征點提取所以設為未圖示。在該情況下,在單元尺寸為中程度的b的傳感器中,f值也顯著惡化。
即在設想了這樣的暗處的情況下,已知對可忍受使用了特征點的信息處理來說,需要使用單元尺寸為規定值以上的傳感器。另外,沒有示出b、c的傳感器中的圖像的下方提取到的特征點是基于在從上方累計的誤檢測的個數超過了規定值時將以后的特征點從顯示對象除去這樣的軟件上的規則。
圖12例示s/n比的變化相對于單元尺寸的變化。如圖所示,s/n比具有相對于單元尺寸的增加線性地增加的特性。另一方面,在圖8~11的結果中,f值相對于單元尺寸的變化不能說是線性,此外根據拍攝環境的照度而其關系較大地變化。例如在相同的單元尺寸下,以某照度為邊界而f值劇烈地惡化,成為該邊界的照度根據單元尺寸而不同。
從而特征點提取處理的性能的惡化不僅依賴于噪聲,還認為各種主要原因復雜地相關。根據本實施方式中說明的方法,通過將那樣的性能數值化從而容易進行各種條件下的比較。由此能夠區分多個主要原因來評價性能,所以能高效且容易地進行決定最佳的參數的組合,或確認特征點的信息是否能夠維持耐受應用時的使用的精度。
圖13表示目標值存儲部80中儲存的目標值的設定信息的數據結構例。目標值設定表260包含應用欄262以及目標值欄264。應用欄262設定作為在各個游戲等應用時用戶選擇而進行信息處理的單位的應用的識別信息。在目標值欄264中,與各應用對應而設定特征點提取性能指標的目標值。
根據應用,存在要求較高的提取性能的情況,另一方面,還存在不那么追求特征點的提取性能處理也沒有破綻的情況。此外,檢測對象、所設想的運動也是各種,由此特征點的提取容易度也不同。從而通過按每個應用來設定目標值,能夠求得或切換與狀況相稱的調整對象參數,使得處理成本沒有浪費地增大。
接著,說明能夠通過上述的結構而實現的信息處理裝置10的動作。圖14是表示在信息處理裝置10評價了特征點提取性能的基礎上對調整對象參數進行調整的處理過程的流程圖。該流程圖在攝像裝置12拍攝了評價用圖時開始。首先,信息處理裝置10的圖圖像取得部70取得該評價表圖的拍攝圖像的數據(s10)。
從攝像裝置12的攝像至信息處理裝置10取得數據為止的各種處理設為與應用時同樣。即,關于調整對象參數,也被給予在應用時設想的初始值。圖圖像取得部70將所取得的數據適當進行解碼、擴展等并儲存至圖像儲存部71。接著,特征點提取部72讀出該圖像的數據,以在應用時設想的算法提取特征點(s12)。
此時,若所提取到的特征點的數目沒有超過規定的閾值th(s14的否),則判定為需要調整對象參數的調整而不進行性能評價,使調整部82進行參數的調整(s22)。具體而言,調整部82從參數候選存儲部84讀出下一設定候選,更新攝像裝置12的參數存儲部64中的設定。在此,閾值th設定特征點提取明顯不適合而不用計算性能指標的較低的值。
若所提取到的特征點的數目超過規定的閾值th(s14的是),則正解坐標取得部74取得正解坐標(s16),性能指標計算部76計算性能評價的指標(s18)。具體而言,按照正解坐標的個數、特征點提取部72提取到的特征點之中正解的個數、非正解的個數來計算f值。此時,性能指標計算部76也可以將在拍攝圖像上以正解、非正解以不同的顏色、形狀來表示所提取到的特征點的圖像顯示在顯示裝置16。
若比較部78將所計算出的性能指標和從目標值存儲部80讀出的目標值進行比較的結果,性能指標沒有達到目標值(s20的是),則調整部82對調整對象參數進行調整(s22)。具體而言,從參數候選存儲部84讀出下一設定候選,更新攝像裝置12的參數存儲部64中的設定。若進行參數的調整,則反映它而重新取得所拍攝、發送的新的拍攝圖像的數據(s10),進行s12~s20的處理。
將其反復,若在s20中特征點提取性能的指標達到目標值則結束處理(s20的否)。由此在攝像裝置12的參數存儲部64中,設定得到充分的特征點提取性能的處理條件。
圖15表示評價用圖的另一例。評價用圖300具有將規定尺寸的黑圓(例如圓302)在上下左右形成一個量的空隙的基礎上排列,在其內部以及空隙部分表示規定尺寸的灰色的三角形(例如三角形304)的圖案。在該情況下,首先,通過圓形模型的擬合從拍攝圖像檢測黑圓的像。并且如同圖右側所示,求得各圓的中心坐標(x0,y0)、(x1,y1)、以及通過它們的縱向、橫向的直線的交點的坐標(x1,y0)、(x0,y1),求得以這些坐標為重心的規定尺寸的三角形的頂點坐標作為正解坐標。
并且,單獨通過應用時的算法提取三角形的頂點作為特征點,能夠與使用了圖5的評價用圖的情況同樣地求得性能指標。像這樣,評價用圖的圖案是存在準確地求得某部位的坐標的算法的成為基準的單色的圖形、和表示為與該圖形具有規定的位置關系的具有近似表示應用時的對象物的像的特征點的形狀的灰色的圖形的組合即可,形狀、配置沒有被限定。
例如也可以將圖5的評價用圖200中的小矩形設為三角形,也可以將圖15的評價用圖300中的三角形設為矩形。此外也可以代替兩者的評價用圖中的大矩形、圓而是柵格狀的直線等。也可以代替小矩形、三角形而設為直線、星形、多邊形等。
以上,根據所敘述的本實施方式,使用拍攝了評價用圖的圖像,從提取處理的觀點評價是否適當地得到提取特征點的階段下的圖像。一般而言,從攝像至信息處理裝置中的數據展開為止的圖像所涉及的處理的條件被最佳化為人眼看到良好的圖像。另一方面,那樣的條件不限于在特征點提取的觀點下適合。從而從特征點提取的觀點,對這些處理、所使用的設備給予調整的余地,從而能夠更高精度地提取特征點,進而還能夠提高使用其的信息處理的精度。
對于特征點的提取的系統結構的適應性作為提取性能指標而數值化。此時,使用與在應用時使用的特征點提取算法不同的方法,求得本來應提取的特征點的坐標,求得加進了誤提取以及提取遺漏這兩者的尺度。評價用圖設為與能夠準確地求得本來應提取的特征點的坐標的算法對應的圖案。例如,在棋盤狀的圖案的各矩形的內部表示灰色的小矩形。并且使用一般的算法而首先高精度地檢測棋盤狀的圖案的角部,基于與其的相對位置而求得小矩形的角部坐標。將其與以應用時的算法提取到的特征點進行比較,從而能夠求得上述那樣的尺度。
即使會對特征點提取處理有影響的主要原因存在多數,條件多樣化,也能夠通過將提取性能指標作為數值來計算而進行容易的比較。此外裝置還能夠將其識別,判定是否需要調整,或為了改善性能而進行了調整。作為結果,能夠高效地取得用于使用從拍攝圖像提取到的特征點進行的信息處理的精度提高的處理條件。
以上,基于實施方式說明了本發明。上述實施方式為例示,本領域技術人員應該理解能夠對這些各結構要素、各處理進程的組合進行各種各樣的變形例,此外這樣的變形例也處于本發明的范圍。
例如在本實施方式中,為了適當地得到特征點,對從攝像裝置的攝像至信息處理裝置中的圖像數據的展開為止進行的處理進行了調整,但本發明的用途不限于此。例如在以具有rgb·ir傳感器的相機進行拍攝的情況下,對rgb信號漏入ir信號的結果,有時在rgb圖像中產生噪聲。根據本發明,能夠明確地確定從拍攝了評價用圖的圖像提取到的特征點之中誤提取的特征點,所以能夠通過該誤提取的產生量來評價ir信號的漏入的程度。
在該情況下,通過使用在對來自圖像傳感器的rgb信號的處理盡可能少的階段中的圖像來計算指標,從而能夠與后級的處理引起的誤提取分開。此外,若使用基于ir信號的圖像來計算指標,則還能夠評價在ir傳感器中產生的噪聲的量。