用測量儀器和像機裝置提供點云的制作方法
【專利摘要】用測量儀器和像機裝置提供點云。方法包括:根據部分覆蓋物體的掃描區,用測量儀器掃描周圍,參照儀器的坐標系,生成與掃描區對應的掃描點云,在儀器側生成覆蓋對應于掃描區的區域的、表示參照圖像的第一圖像,由于儀器用于獲取第一圖像所基于的數據的位置和取向,參照測量坐標系獲知參照圖像的姿勢。第一系列圖像被圖像捕捉單元從相應姿勢捕捉并部分覆蓋掃描區。應用算法,包括:基于參照圖像和第一系列至少兩個圖像,識別表示第一組參照點的第一組圖像點,第一組參照點中的各點出現在參照圖像和第一系列的至少一個圖像中,關于第一組參照點中的點的位置信息由掃描點云提供,用第一組參照點和位置信息,參照坐標系確定第一系列的圖像的第二姿勢。
【專利說明】
用測量儀器和像機裝置提供點云
技術領域
[0001]本發明涉及利用具體為激光掃描儀的大地測量裝置以及結構上分離的像機來提供物體的點云的方法和系統。
【背景技術】
[0002]為了收集有關物體的具體為地形信息的尺度信息,通常可以利用按預定方式在該物體上方移動的激光束來掃描這種物體的表面。對物體的精確掃描例如通過像地面激光掃描儀或者全站儀的大地測量裝置(例如,Leica P20、Leica Multi Stat1n 50)來提供。通過掃描物體來創建所謂的(3D)點云,3D點云通過公共坐標系中的具有限定位置的一定量的點來表示該物體。
[0003]點云通過確定每一個測量點的距離和在確定該距離時激光束的關聯方向來導出。這種測量點的點至點分辨率和得到的點云分別根據在表面上移動激光束的速度和用于觸發單個測量(例如,針對每一個測量點一個測量)的觸發間隔來限定。
[0004]除了生成點云以外,經常通過大地測量裝置的捕捉單元來捕捉物體的圖像。圖像提供有關物體的進一步信息,例如,有關物體的顏色或紋理。
[0005]由于通常從一個站點僅可測量到物體的一部分,而其它表面隱藏,因而變得必需在相對于物體的至少兩個不同位置來設立測量裝置,使得通過組合可以測量到物體的整個表面。
[0006]測量儀器需要到物體的直接視線以進行測量。在具有障礙物的情況下,例如,建筑物前面的、遮蔽正面的一部分的樹木導致所謂的“掃描陰影”(參見圖la)。在實踐中,在這種情況下,測量儀器還設立在提供了到缺失部分的直接視線的不同位置處。因此,需要超過一次地設立測量儀器,并且每一次額外的設立都費時并且減少了用戶的生產率。
[0007]而且,利用地面激光掃描儀的最高分辨率的全圓頂掃描(S卩,在水平方向上從0°至360°并且在垂直方向上-45°至90°的掃描區域)可能花費多達幾個小時。在該分辨率中,100米中的的點之間的距離為1.0mm。針對儀器的每一次新設立,通常獲取完整的360°全景圖像,這也花費幾分鐘。因此,重新安置激光掃描儀或類似測量儀器(例如,全站儀)并且記錄第二組測量數據(第二點云)非常耗時,而且需要專家至少相對于第二點云參照第一點云。
[0008]EP I 903 303 BI公開了一種將點云數據與圖像數據組合以便添充點云的缺失部分的方法。像機單元被用于記錄一組圖像,該組圖像被劃分成一組立體圖像對。每一個圖像對都被獨立處理。而且,由激光掃描儀獲取的全景圖像(所謂的“主圖像”)被用于與一個立體圖像對進行成對匹配,并由此向點云提供相應立體圖像對的增加的尺度信息。整個處理在具有該組圖像的全部數據并且激光掃描儀對于處理就緒的后處理步驟中執行。
[0009]已知用于登記點云的下述幾種方法,例如,首先用于粗略登記的基于標記或基于圖像的登記,并且此后用于精細調節的基于幾何學的登記(迭代最近點):
[0010]基于標記的登記:
[0011]用戶圍繞物體放置三個或更多個標記。利用測量儀器來測量標記的位置(通過標記上的無反射器測量或者利用測量桿或者通過掃描)。
[0012]利用激光掃描儀或者全站儀來掃描這些標記,而且每一個標記應當至少在移動像機單元的一個圖像或視頻幀上可見。這種編碼的標記在基于激光的點云或全景圖像中并且在來自移動像機單元的圖像上被自動(優選)地檢測(另選為人工地檢測)。使用基于圖像與基于激光的坐標幀中的標記位置間的對應來進行登記。
[0013]在非編碼的標記的情況下,可以通過分析標記對之間的距離來自動執行對應標記位置的識別。
[0014]基于圖像的登記:
[0015]登記任務可通過利用圖像處理尋找圖像中的一組共同點來解決。圖像上的對應點與3D點相關的事實被用于計算Helmert變換。至少三個測量圖像點應當在關聯點云中具有對應3D點。
[0016]基于幾何學的登記:
[0017]登記任務可通過利用3D特征描述符尋找點云中的一組共同點來解決。另選的是,基于幾何學的方法可被用于登記。兩個登記的點云應當覆蓋交疊的物體表面。這種方法比較點云之間的幾何相似性以尋找最佳變換。
[0018]人工登記:
[0019]這里,人工地選擇基于圖像和基于激光的點云中的三個或更多個公共點,例如通過顯示點云并且使用戶能夠挑選對應點。登記任務通過利用共同點對應性來計算剛體運動(或He Imert)變換來解決。
[0020]上述方法的主要缺點在于,由于后處理并且由于立體圖像的獨立處理,隨著不與掃描點云直接相關的圖像的數量增加,關于點位置的準確度的誤差增加。而且,對于源于捕捉處理之后的立體圖像處理的位置誤差的補償不可行或者僅稍稍可行。另外,根據現有技術的處理需要按后處理方式來執行,即,不是直接在測量過程期間現場執行,因此無法向用戶提供例如有關所執行的測量的質量的實際信息。
【發明內容】
[0021]因此,本發明的目的是,提供一種用于使能現場進行數據處理(在測量處理期間直接進行)并且向用戶提供實時測量數據以便改進測量處理的效率的方法和系統。
[0022]另一目的是提供一種用于在現場特別是在測量處理期間直接生成物體的公共點云的改進方法,其中,為了數據獲取而由分離的裝置收集的數據被考慮用于生成點云。
[0023]本發明的另一目的是提供一種用于使能特別是從所有側面更靈活且更容易測量物體的方法和系統。
[0024]該目的通過實現獨立權利要求的特征來實現。以另選或有利方式進一步發展本發明的特征在從屬專利權利要求中進行了描述。
[0025]本發明涉及同時使用大地測量儀器與移動圖像捕捉單元(例如,移動數字像機),其中,由測量儀器和圖像拍攝單元記錄的圖像在從運動恢復結構(SfM: Structure-from-Mot1n)或SLAM算法內一起自動處理。由此,相對于由測量儀器限定的坐標系參照由圖像拍攝單元提供的圖像數據可以利用從運動恢復結構(SfM)或SLAM算法的執行來自動且直接地提供,即,在不需要附加縮放步驟的情況下,測量儀器提供的位置信息被用作對從運動恢復結構(SfM)或SLAM算法的輸入,使得利用該算法計算或導出的每一個數據還包括相應的位置信息。
[0026]本發明涉及一種用于利用具體為激光掃描儀或全站儀的大地測量儀器以及圖像拍攝單元來提供特別是物體的3D點云的方法。該方法包括以下步驟:根據限定的掃描區域(例如,至少部分地覆蓋所述物體),利用所述測量儀器掃描周圍,并且參照由所述測量儀器限定的測量坐標系,生成與所述掃描區域相對應的掃描點云。因此,所述掃描點云包括一些3D點,這些3D點表示所述周圍和例如所述物體的至少一部分,并且所述3D點云在指定測量坐標系中被參照。
[0027]而且,在所述測量儀器的覆蓋與所述掃描區域至少基本對應的區域的一側生成第一圖像,其中,所述第一圖像表示參照圖像,由于用于獲取數據(第一圖像基于該數據)的所述測量儀器(在所述測量坐標系中的)(已知)位置和取向,參照所述測量坐標系獲知了參照圖像的姿勢。所述參照圖像可以用所述測量儀器的像機捕捉的可視圖像表示,或者可以采用人工圖像的形式從掃描點云的強度值導出。由于所述測量坐標系由所述測量儀器限定并且所述像機被指配給該儀器,因而基于相機圖像知道了所述參照圖像關于所述測量坐標系的的姿勢。
[0028]所述第一圖像可以是單個圖像、一組像機圖像(例如,圖像的拼接,像立方體圖像那樣)、或者全景圖像(作為組合一組單個圖像的結果)。在所有情況下,在所述測量儀器的坐標系中給出所述姿勢或多個姿勢。
[0029]另外,根據相應姿勢,利用所述圖像捕捉單元捕捉第一系列的至少兩個圖像,所述第一系列的至少兩個圖像中的圖像部分地覆蓋所述掃描區域(即,該區域的同樣被所述第一圖像覆蓋的部分)和成像區域。因此,這些圖像被捕捉,以使得例如所述物體的未被所述第一圖像覆蓋的額外區域同樣被覆蓋(例如,掃描陰影)。
[0030]而且,從運動恢復結構(SfM)或SLAM算法被應用,至少包括:基于所述參照圖像和所述第一系列的至少兩個圖像,識別第一組圖像點,所述圖像點表示參照點場的第一組參照點,其中,所述第一組參照點中的每一個點都出現在所述參照圖像中和所述第一系列的至少兩個圖像中的至少一個圖像中。具體地,在所述圖像中識別所捕捉周圍的相同(類似(homologous))點。有關所述第一組參照點中的點的位置信息由所述掃描點云提供。
[0031]而且,利用所述第一組參照點和所述位置信息(由所述掃描點云提供),參照所述測量坐標系,特別是基于后方交會法(resect1n)來確定所述第一系列的至少兩個圖像中的圖像的姿勢,所述姿勢表示在捕捉所述第一系列的至少兩個圖像中的圖像時,所述圖像捕捉單元相對于所述測量儀器的位置和取向。
[0032]因此,那兩個圖像被所述圖像捕捉單元捕捉,所述兩個圖像還被利用SLAM或SfM算法參照至所述測量儀器的坐標系。
[0033]根據本發明的方法的一個主要優點是,最初由所述測量儀器提供的所述位置信息利用從運動恢復結構(SfM)或SLAM算法來考慮。由此,所述第一系列圖像中的圖像的姿勢(和通過進一步的處理步驟導出的姿勢和位置)可以利用相對于所述參照坐標系(掃描坐標系)的已知位置和/或取向來確定。因此,利用這些圖像及其姿勢,可能確定的另一些點可以用關于所述參照坐標系的精確位置信息導出。
[0034]對于這種數據來說,另一參照或縮放步驟不再是必需的。
[0035]而且,所述參照點(具有來自所述測量儀器的位置信息)形成了用于利用所述像機裝置捕捉的所述圖像的姿勢估計的框架。在連續地將一個圖像對準至另一圖像時的誤差傳播導致的漂移可以通過引入來自于該參照點的全局約束來減小。
[0036]在本發明的背景下,“參照點”要被理解為通過執行根據本發明的方法而限定的點,即,所述“參照點”特別是通過基于至少兩個圖像的某種圖像處理來導出,并且例如根據位于像機視野的某些突出特征得出,例如,參照點是通過識別至少兩個圖像中的相似點而得出的。由此,這種點不應被理解為最初獲知的點,例如,用于設立大地測量儀器的比較點(基于所述比較點,可確定這種裝置的絕對位置和取向)。
[0037]換句話說,利用測量儀器獲取點云(對應圖像數據=參照圖像)。另外,利用所述像機模塊捕捉一系列的至少兩個圖像。生成第一組3d點(R1、R2、R3),S卩,在所述系列的至少兩個圖像中的圖像以及所述參照圖像中可見的特定點。從所述掃描數據導出那些點的對應深度值。基于所述第一組3d點(R1、R2、R3),特別是通過后方交會法來計算所述系列的至少兩個圖像中的第一組圖像的姿勢。基于所述系列的至少兩個圖像中的、具有已知姿勢的第一組圖像中的相似點,通過前方交會法來生成第二組3d點(S1、S2、S3)。可以基于第二組3d點(51、32、33)或者基于第一組3(1點(1?1、1?2、1?3)與第二組3(1點的組合,特別是通過后方交會法來計算所述系列的至少兩個圖像中的另一些圖像的姿勢。后兩個步驟可以重復,直到大致確定第一系列的至少兩個圖像中的所有圖像的姿勢為止。
[0038]根據本發明的實施方式,所述測量儀器的像機的視野與標準掃描區域交疊或者基本上對應于標準掃描區域,具體來說,其中,所述測量儀器的像機被構建為提供水平最大360°和垂直最大270°的視野的概覽(overview)像機。另選的是,所述像機被構建為具有較小視野的同軸像機。特別地,拍攝一組圖像以覆蓋整個掃描區域。
[0039]根據【具體實施方式】,所述物體的限定部分被所述參照圖像和第二圖像共同覆蓋。另選的是,所述參照圖像和所述第二圖像覆蓋所述物體的不同部分(沒有交疊區),但兩者還覆蓋周圍(背景)的相同區域。
[0040]根據本發明的特定實施方式,該圖像捕捉單元(像機模塊)包含像機,并且特別是包含處理(和控制)單元以及顯示器。另外,該圖像捕捉單元可以包含數據傳輸單元。所述像機是可移動的,而非固定至測量(掃描)儀器主體。另外,該圖像捕捉單元可以包含GNSS接收器模塊。另外或另選地,該圖像捕捉單元可以包含內部測量單元。另外或另選地,該圖像捕捉單元可以包含測量反射器,該測量反射器的位置可利用全站儀(例如,Leica MultiStat1n 50)或跟蹤儀(例如,Leica Absolute Tracker AT901)通過跟蹤來測量。另外或另選地,該圖像捕捉單元可以包含用于將所有輸入數據保存在所述圖像捕捉單元上的內部數據存儲部。
[0041]所述圖像拍攝單元可以處于用于激光掃描儀、全站儀或GNSS測量系統的控制器的一側。在該情況下,所述測量數據(例如,參照目標的坐標)可以例如經由無線電或者線纜從全站儀或GNSS系統直接發送至控制器,并由此直接集成在該處理中。
[0042]根據本發明,具體來說,所述計算(例如,SLAM算法)可以在所述圖像捕捉單元的所述處理單元上執行。另選的是,所述處理單元設置在所述測量儀器處或者集成在另一移動處理裝置中,并且如現有技術已知的那樣,所述數據例如經由無線電或者線纜(例如,WiF1、Bluetooth等)從和向處理單元發送。另選的是,所述數據可以傳遞至計算服務器,計算服務器可以是靠近所述像機模塊定位的計算機或智能電話,或者是連接至因特網的服務器(云計算)。
[0043]根據本發明的特定實施方式,所述圖像捕捉單元包括固定在所述像機單元的主體中的4至6個像機,例如被構建為全景像機。
[0044]根據本發明的另一特定實施方式,所述圖像捕捉單元可以由單個像機組成。特別地,所述圖像捕捉單元包括全向(全景)像機。
[0045]所述圖像捕捉單元可以具有集成掃描裝置,例如,基于圖案投影的斷面儀(profiler)或掃描儀,或者所述捕捉單元可以被構建為邊緣攝像機(rim-camera)。所述捕捉單元提供至少一個(優選為可視的)像機圖像,該相機圖像表示用于姿勢確定的相應基礎。而且,這種特定捕捉單元特別地提供在所述捕捉單元一側生成的深度圖像或局部點云。這種局部點云可以基于上述SfM或SLAM算法與最初由所述測量儀器提供的全局點云合并,即,確定相對姿勢。
[0046]而且,所述捕捉單元可以包括IMU(慣性測量單元),MU用于連續提供其位置和取向(姿勢)的變化,并由此相對于確定姿勢所基于的兩個連續像機圖像提供姿勢內插。因此,這種IMU數據使能在相應姿勢計算之間,更精確地利用掃描裝置來收集深度信息,或者校正因此獲取的掃描數據。
[0047]所述圖像捕捉單元可以被設計成,使得其可以被無人駕駛飛行器(UAV)攜帶,例如,所述圖像捕捉單元包括特定聯接部件。
[0048]具有這種捕捉單元的UAV使能自動檢測掃描場景的點云中的間隙(在所述測量儀器一側),自動控制UAV(例如,通過利用GNSS信號或者通過所述測量儀器遙控)接近所述場景中的與所述識別的間隙相對應的區域,并且利用所述捕捉單元獲取與所述間隙有關的相應測量數據。
[0049]根據本發明的另一實施方式,基于所述第一系列圖像中的圖像的姿勢,特別是通過前方交會法來確定成像區域中的第二組參照點,其中,所述成像區域不同于所述掃描區域(當然,交疊是可能的),并且導出與所述第二組參照點中的至少一個點的3D位置有關的位置信息,所述位置信息被參照至所述測量坐標系。具體地,所述掃描點云通過將所導出的3D位置信息添加至所述掃描點云來實現。
[0050]由于所述第二圖像和第三圖像(作為所述第一系列的至少兩個圖像的一部分)都(僅)部分地覆蓋所述掃描區域,并且另外共同覆蓋不同的成像區域,因而,提供對所述第二圖像和第三圖像的圖像信息的這種處理,以導出沒有位于所述掃描區域內部的點的3D位置。可以導出3D位置信息,其使能擴展有關其覆蓋區域的掃描點云,例如,有關其尺度,其例如使能填充通過掃描周圍而得到或出現的間隙(掃描陰影)。按該方式自動確定的附加3D位置信息在所述測量坐標系中被參照(存在)(而不需要進一步的參照步驟)。而且,所導出的3D位置信息提供了用于另一組參照點中的隨后識別的參照點的基礎,使得可以將相應位置信息指配給這種隨后參照點(并且可以通過利用這些隨后的參照點來計算用于隨后圖像的其它姿勢)。
[0051]由此,作為本發明的另一實施方式,利用所述圖像捕捉單元捕捉第二系列的至少一個圖像,其中,所述第二系列的至少一個圖像中的所述至少一個圖像至少部分地覆蓋所述第二組參照點和/或所述第一組參照點中的至少一個點。而且,利用所述第一和/或第二組參照點中的、被所述至少一個圖像覆蓋的至少三個參照點(總體上表示至少三個參照點特別地被部分地關聯至所述第一和第二組參照點)并且利用相應位置信息,參照所述測量坐標系,特別是基于后方交會法來確定針對所述第二系列的所述至少一個圖像的所述姿勢。
[0052]具體來說,單獨利用所述第二組參照點中的參照點,參照所述測量坐標系來確定所述第二系列圖像中的至少一個圖像的所述姿勢。
[0053]根據本發明的特定實施方式,所述第二系列的至少一個圖像中的至少一個圖像部分地覆蓋所述掃描區域,其中,基于所述參照圖像和所述第二系列的至少一個圖像中的所述至少一個圖像來確定另一參照點。
[0054]就提供高精度位置數據而言,可以基于所述第一系列的至少兩個圖像、所述第二系列的至少一個圖像中的圖像的姿勢以及所述第一和所述第二組參照點,具體來說,所述另一參照點和/或所述掃描點云數據,來應用束調節過程。
[0055]利用上述從運動恢復結構(SfM)或SLAM算法為考慮利用上述移動圖像捕捉單元捕捉的超過一個圖像作準備。可以確定所述系列的圖像中的每一個圖像的姿勢,并由此可以利用那些圖像中的至少兩個的圖像數據來生成基于擴展圖像的點云。所述姿勢可以基于通過利用所述測量儀器生成的初始掃描點云所給出的參照點的已知位置信息來確定,但另選或另外地,參照點的這種位置信息利用通過圖像捕捉單元拍攝的至少兩個圖像通過前方交會法來創建(在這種圖像的姿勢再次基于通過所述掃描點云所提供的位置信息計算之后)。要理解的是,這種參照點不必位于所述掃描區域/掃描點云內或者作為其一部分,而是具體位于掃描區域之外,并且在所述至少兩個圖像中被標識為相似點。
[0056]特別地,利用所述參照點的位置信息來計算使用所述圖像捕捉裝置拍攝的圖像的姿勢,所述位置信息通過所述掃描點云提供(兩者都是可能的:位置信息通過所述測量儀器生成和/或通過利用至少兩個圖像的前方交會法導出),特別是其中,有關所述測量坐標系的縮放隨著每一個處理步驟利用位置信息來提供,特別是有關所述參照點的和/或所述圖像捕捉單元的位置。
[0057]優選地,通過利用這種位置信息,針對要基于通過一系列圖像提供的圖像數據來生成的點云(基于圖像的點云)的縮放可用。而且,所述圖像捕捉單元相對于所述測量儀器的位置(在捕捉相應圖像時)可以精確且絕對地確定(在所述測量坐標系中)。
[0058]考慮到生成超出所述掃描點云的數據的點的位置信息,本發明的特定實施方式涉及如下執行這種計算:基于所述參照圖像和至少一個另一圖像的姿勢,利用所述參照圖像和所述至少另一圖像,通過前方交會法導出有關所述物體的點的3D位置的信息,并且通過將所導出的位置信息添加至所述掃描點云來實現所述掃描點云。特別地,所述掃描點云通過有關所述點的3D位置的所導出的信息來擴展。具體地,這種計算通過執行用于執行上述步驟而實現的相應算法來執行。
[0059]另選或另外地,根據本發明的另一實施方式,可以基于測量圖像和移動圖像來生成點云。換句話說,基于利用所述圖像捕捉單元(20、22)捕捉的所述圖像中的至少兩個圖像的姿勢,特別是通過前方交會法,針對所述成像區域中的至少一部分,來計算圖像點云,特別是通過應用密集匹配算法,,所述圖像點云至少包括根據特別是被所述物體的所述至少兩個拍攝圖像的相應的公共覆蓋區域的3D位置信息,并且被關于所述測量坐標系參照。[ΟΟ?Ο] 這種圖像點云的計算特別是通過執行稠密匹配(dense matching)算法來提供,其中,這種稠密匹配算法特別被實現為單獨的算法,或者與所述從運動恢復結構(SfM)或SLAM算法相組合(例如作為稠密光學流算法來集成)。特別地,這種稠密匹配在執行了所述從運動恢復結構(SfM)或SLAM算法之后在單獨的步驟中執行。
[0061]為了執行所述從運動恢復結構(SfM)或SLAM算法,特別是執行稠密匹配算法,利用使用所述圖像捕捉單元捕捉的至少兩個圖像(所述兩個圖像覆蓋所述物體的未被所述測量儀器覆蓋的公共部分,可以導出(所述物體的)點的附加3D位置,所述點的3D位置已經被參照至所述測量坐標系。
[0062]通過額外使用來自所述掃描點云的位置信息(有關本發明),基于圖像地導出位置數據分別為更精確(并且已經縮放)確定3D位置并且為可以連續且瞬時補償位置數據作準備。
[0063]在該背景下,根據本發明的另一特定實施方式,基于掃描點云數據補償隨著計算所述3D位置信息或所述圖像的姿勢而出現的位置誤差,特別是其中,針對使用所述圖像捕捉單元連續捕捉的圖像提供的每一個連續圖像數據來執行所述補償。
[0064]由此,可以在收集相應圖像數據之后直接應用針對點的3D位置(利用至少兩個圖像(特別是最初所述參照圖像和另兩個圖像,通過前方交會法而導出)的補償,即,初始地,基于來自所述第一系列圖像的圖像數據導出的點位置利用由所述掃描點云提供的信息來補償。在捕捉另一(第三)圖像(第二系列圖像)和利用相應的另一圖像數據以利用所述第一系列圖像基于前方交會法導出新的(附加的)3D點時,取決于被用于確定所述第二系列圖像中的一個圖像的所述姿勢的相應參照點(包括在所點云中和/或在所述另一圖像中識別),考慮到先前步驟(針對所述另一圖像)的已經補償的點位置,和/或考慮到由所述掃描點云提供的所述信息,補償這種新的3D點的位置。
[0065]具體來說,就用戶引導而言,根據本發明的另一實施方式,生成涉及所述掃描點云中的點和所述圖像點云中的點的位置準確度的質量信息。因此,使得用戶或所述系統能夠引入另一些測量步驟(例如,過濾數據或捕捉附加圖像),來提供滿足限定的測量條件的測量數據。
[0066]在該背景下,根據本發明的特定實施方式,所述質量信息被顯示在圖像中,其中,表示所述掃描點云的(所述圖像的)第一區域被第一標記覆蓋,而表示所述圖像點云的第二區域被第二標記覆蓋,所述標記特別是由不同顏色的區域來表示。根據這種輸出,使得用戶能夠決定是否要執行另一些處理步驟,以便完成有關指定需求的測量處理。
[0067]特別地,被所述掃描點云和圖像點云兩者覆蓋的區域被第三標記覆蓋,或者被所述掃描點云和圖像點云兩者覆蓋的所述區域中的所述點被篩選,使得所得到的點云僅提供所述掃描點云中的點或者僅提供所述圖像點云中的點,特別是其中,所述篩選通過操作員的輸入而引起。
[0068]根據上述實施方式,操作員(在執行所述測量步驟期間,特別是在捕捉附加圖像期間)可以直接在所述顯示器上看到哪些受關注區域已被測量(即,被所述圖像和計算出的點云覆蓋),并且針對特定區域實現了哪個點至點準確度。而且,用戶可以根據準確度需求來決定哪個點數據源應當被用于生成所得到的點云。
[0069]關于掃描周圍、捕捉圖像和執行所述處理算法的時間方面,根據本發明,所述方法(即,所述方法的每一個步驟)在測量過程期間直接且瞬時(特別是自動地)進行,其中,數據處理,特別是與從運動恢復結構(SfM)或SLAM算法有關的數據處理,在所述測量過程期間由處理單元執行。所述處理單元接收有關掃描周圍、利用所述測量儀器的所述像機捕捉第一圖像及利用所述圖像捕捉單元捕捉至少另兩個圖像的數據。
[0070]與根據現有技術已知的解決方案相反,這里,在執行所述測量期間,現場直接執行對所有數據的處置。現有技術教導對現場收集的數據進行后處理,其中,例如沒有在線反饋能夠被生成以便向用戶提供實時測量信息。作為本發明的一個大的優點,繼續考慮向要處理的數據集連續添加圖像數據,使能用于對基于圖像的位置數據的在線和更精確補償。
[0071]關于用戶引導,根據本發明的特定實施方式,在將所述圖像捕捉單元的實際視野成像的所述圖像捕捉單元一側顯示實時圖像,其中,實際被所述圖像捕捉單元成像而且(已經)被所述掃描點云覆蓋或未覆蓋的區域在所述實時圖像中被標記。
[0072]特別地,所述物體的、被使用所述圖像捕捉單元捕捉的所述圖像之一覆蓋的部分在所述實時圖像中被標記。
[0073]通過根據相應信息(例如,有關該實際圖像的哪些部分已被掃描點云或圖像點云覆蓋)這樣顯示和交疊實際圖像,向用戶提供完整性檢查,并且幫助用戶計劃進一步的測量步驟。
[0074]S卩,用戶可以實時看到與生長圖像點云結合的掃描點云,并且可以觀察到例如該結合的點云中的間隙,和在該用戶移動期間怎樣立即填充所述間隙。因此,使得用戶能夠實時檢查測量任務的進展。
[0075]根據本發明的實施方式,利用由所述掃描點云提供的所述參照點的所述位置信息,基于后方交會法來確定圖像中的至少一個圖像的姿勢,特別是其中,提供有關所述測量坐標系的縮放。
[0076]下面,參照根據本發明的涉及所述移動圖像捕捉單元和所述測量儀器的結構性實施方式,所述測量儀器和所述圖像捕捉單元在結構上彼此分離,特別是其中,所述圖像捕捉單元被具體實施為移動數字像機或者被具體實施為移動電話或由移動電話提供,和/或所述測量儀器包括用于捕捉所述參照圖像的像機。
[0077]本發明還涉及一種用于提供特別是要測量的物體的3D點云的系統,該系統包括大地測量儀器,特別是激光掃描儀或全站儀,所述大地測量儀器具有支承結構,該支承結構安裝在所述測量儀器的基部上,使得所述支承結構可圍繞由所述基部限定的第一軸樞轉。另夕卜,所述大地測量儀器包括用于生成測量射束的電磁輻射源以及用于引導所述測量射束的引導單元,所述引導單元設置在所述支承結構處,以向所述引導單元提供圍繞由所述支承結構限定的第二軸的樞轉性,所述第二軸基本上垂直于所述第一軸。
[0078]而且,所述大地測量儀器包括掃描功能,該掃描功能用于按預定方式提供所述測量射束的引導和定向并相應地測量距離,其中,根據限定的掃描區域(例如,至少部分地覆蓋所述物體)的周圍是可測量的,并且其中,參照由所述測量儀器限定的測量坐標系,掃描點云可基于所述周圍生成。提供了用于生成第一圖像的圖像生成功能,其中,至少基本上對應于所述掃描區域的區域可被覆蓋,并且其中,所述第一圖像表示參照圖像,因所述測量儀器為了獲取生成第一圖像所依據的數據的位置和取向而導致該參照圖像的姿勢參照所述測量坐標系已知。
[0079]具體來說,所述測量儀器包括用于捕捉所述第一圖像的像機,因此所述像機提供所述第一圖像的相應數據。另選或另外地,所述第一圖像可以基于由所述掃描點云的掃描數據提供的強度測量來導出,其例如導致具有根據反向散射測量光的強度的強或弱的亮區域或暗區域的單色圖像。
[0080]所述系統還包括圖像捕捉單元(例如,所述測量系統的控制器),該圖像捕捉單元用于捕捉具有相應姿勢的第一系列的至少兩個圖像,所述第一系列的至少兩個圖像可被捕捉,使得掃描區域被所述至少兩個圖像部分地覆蓋,所述圖像捕捉單元在結構上與所述激光掃描儀分離。
[0081 ] 而且,該系統包括:控制與處理單元,該控制與處理單元用于接收和處理來自所述測量儀器和所述圖像捕捉單元的數據。
[0082]根據本發明,所述控制與處理單元提供從運動恢復結構(SfM)或SLAM算法,所述算法至少通過提供執行以下步驟來限定:
[0083].基于所述參照圖像和所述第一系列的至少兩個圖像,識別第一組圖像點,所述圖像點表示參照點場的第一組參照點,其中,所述第一組參照點中的各個點都出現在所述參照圖像中和所述第一系列的至少兩個圖像中的至少一個圖像中,并且其中,有關所述第一組參照點的位置信息由所述掃描點云提供,并且
[0084].利用所述第一組參照點和所述位置信息(由所述掃描點云給出),參照所述測量坐標系,特別是基于后方交會法,確定所述第一系列圖像中的圖像的姿勢,所述姿勢表示在捕捉所述第一系列的至少兩個圖像中的所述圖像時,所述圖像捕捉單元相對于所述測量儀器的位置和取向。
[0085]根據本發明的特定實施方式,所述控制與處理單元被集成在所述測量儀器中或所述圖像捕捉單元中。根據其它實施方式,所述控制與處理單元由外部單元提供,并且向和從該單元發送數據(例如,無線地),或者所述控制與處理單元由連接至因特網的服務器單元來提供,其中,通過因特網執行數據通信,并且在所述服務器一側進行數據處理(例如,云計算)O
[0086]根據本發明,所述測量儀器可以被具體實施為地面激光掃描儀或全站儀,優選地具有像機。
[0087]特別地,被構建為相應激光掃描儀的所述測量儀器包括:反射旋轉部件(例如,鏡子或棱鏡),其被設置在所述支承結構處,以提供所述旋轉部件圍繞由所述支承結構限定的第二軸的旋轉;以及光學系統,其用于將所述測量射束引導到所述反射旋轉部件上。
[0088]根據本發明的特定實施方式,所述處理與控制單元被配置成使得在運行相應配置時執行根據上述那些方法中任一個所述的方法。
[0089]本發明還涉及一種具有計算機可執行指令的計算機程序產品,所述計算機可執行指令被執行以特別是在運行于根據上面描述的系統的控制與處理單元上時,基于
[0090]?接收掃描點云,
[0091]?接收參照圖像,以及
[0092].接收所述第一系列的至少兩個中的至少一個圖像,
[0093]來根據如上所述方法執行從運動恢復結構(SfM)或SLAM算法。
[0094]為連續執行所述計算機程序產品的相應算法,提供有關所述掃描點云、所述參照圖像以及至少另一圖像(和/或所述第一系列圖像中的更多個圖像)的信息。
【附圖說明】
[0095]下面,參照附圖中示意性地示出的工作示例,完全以示例的方式,對根據本發明的方法和系統進行更詳細描述或說明。具體地,
[0096]圖la、圖1b示出了操作員利用根據本發明的激光掃描儀和移動圖像捕捉單元導出點云;
[0097]圖2例示了根據本發明的掃描點云和基于圖像的點云以及一起處理來自掃描儀和像機的數據的結果點云;
[0098]圖3a、圖3b例示了根據本發明實施方式的、利用激光掃描儀和移動捕捉機單元生成關注物體的點云;
[0099]圖4示出了根據本發明的、用于更精確地生成點云的圖案投影;
[0100]圖5a、圖5b例示了根據本發明實施方式的、使能提供物體的擴展點云的第一工作流程;
[0101]圖6例示了根據本發明實施方式的、使能利用標記來提供物體的點云的另選工作流程;
[0102]圖7示出了根據本發明的生成點云的原理;
[0103]圖8例示了針對來自不同的源的圖像數據的基于圖像的登記;
[0104]圖9a、圖9b示出了根據本發明的另一實施方式,其中,根據本發明向用戶提供完整性檢查;
[0105]圖10a、圖1Ob例示了根據本發明的不同類型位置數據的結合;
[0106]圖11示出了根據本發明的顯示點云質量的另選方式;
[0107]圖12示出了根據本發明的另一實施方式和用于生成點云的相應方法;并且
[0108]圖13示出了用于基于兩組圖像來進行特征匹配的另選方法。
【具體實施方式】
[0109]圖1a示出了操作員100利用根據本發明的地面激光掃描儀I來測量物體10。利用這種測量生成點云,所述點云表示物體10的表面,并且覆蓋物體10的這些部分,這些部分可以根據激光掃描儀I的相對位置和從掃描儀I至物體10的相應視線來測量(S卩,可見)。地面掃描儀器I使能在很短時間以極高精度獲取數百萬個點。
[0110]如可以在圖1a中看到的,障礙物15(這里:樹)位于激光掃描儀I與要測量的物體10之間。因此,到物體10的視線不是針對物體10的整個前表面而給出的。樹15制造了針對掃描測量和針對物體10的要捕捉的圖像的掃描陰影15a。換句話說,利用激光掃描儀I生成的物體10的點云包括具有與物體10無關的點的區域,或者包括沒有點的區域(取決于測量條件)。物體數據的這種間隙還隨著利用激光掃描儀I 一側的像機拍攝物體的圖像而顯現。
[0111]而且,初始坐標系由激光掃描儀I限定,S卩,在該初始系統中自動參照該點云和利用掃描儀I捕捉的圖像。
[0112]根據本發明的一個方面,通過生成與物體10有關的另一些測量點的進一步3D位置信息,在測量處理期間擴展由激光掃描儀I生成的點云。通過附加使用(對于激光掃描儀I來說,附加的)分離且移動的圖像捕捉單元20(例如,移動數字像機或移動(智能)電話)來收集這種進一步的位置數據。
[0113]圖1b示出了操作員100手持這種圖像捕捉單元20并且在執行完掃描和捕捉之后捕捉物體10的一部分的至少一個圖像,例如,覆蓋物體10的多個部分的全景圖像。另一激光掃描儀I生成的數據提供進一步的3D數據獲取的基礎(參照)。
[0114]基于所測量的掃描儀點云,使得操作員100能夠確定與物體10有關的、可能沒有如所需地被點云覆蓋的一個或更多個區域。結果,操作員100使用移動圖像捕捉單元20來捕捉圖像,移動圖像捕捉單元20成像至少一個識別的關注區域,并且另外包括被已利用激光掃描儀I拍攝的圖像或被在獲取掃描儀點云的過程期間從測量的強度值導出的圖像所覆蓋的區域(物體1)的一部分。
[0115]根據本發明,在使用激光掃描儀I和圖像捕捉單元20執行測量的同時執行SfM(從運動恢復結構)或SLAM(即時定位與地圖構建(Simul taneous Localisat1n andMapping))算法,其中,來自激光掃描儀I和圖像捕捉單元20二者的圖像數據(捕捉或處理的圖像)(特別是涉及一系列圖像)被相互地處理。在執行該算法時,利用掃描儀拍攝的圖像和利用捕捉單元20拍攝的至少一個圖像(優選為至少兩個圖像)被處理,使得基于這些圖像識別一組圖像點,其中,所述圖像點表示參照點場的參照點,并且各個參照點都出現在所述兩個圖像中。因此,識別出相似點。而且,利用所述參照點,基于后方交會法,關于掃描儀坐標系來確定利用圖像捕捉單元20捕捉的至少一個圖像的姿勢,該姿勢表示圖像捕捉單元20為了所捕捉的圖像與激光掃描儀I相對的位置和取向。
[0116]參照點的位置從激光掃描儀I的測量獲知,S卩,所述位置由掃描點云給出。
[0117]在下一步驟中,具體地,基于所述系列圖像(這里:利用圖像捕捉單元20捕捉的至少兩個圖像,姿勢已經預先導出)和參照圖像,通過應用前方交會法來導出新的3D點,新的3D點涉及物體10上的、激光掃描儀I不可見的區域。可以將這種附加位置信息添加至掃描點云,以便生成包括有關物體10的地形的更多和/或更精確信息的點云。
[0118]通過激光掃描儀I的測量功能與移動圖像捕捉單元20的圖像捕捉功能的這樣組合,可以將圖像捕捉單元20用于填充基于激光的點云(=利用激光掃描儀I生成的點云)中的間隙或隱藏區域,或者使能簡單地擴展基于激光的點云。結果,創建包括基于激光和基于圖像的3D點的新點云。所有這種3D點最初自動(由于圖像的共同處理)登記到同一(掃描儀)坐標系中。
[0119]根據所使用的登記方法,基于圖像的點云不需要與基于激光的點云具有交疊區,只要在對應的圖像數據中存在交疊即可。
[0120]根據本發明的上述工作流程可以應用于室內和室外環境兩者。
[0121]本發明在實踐中可以用于生成從測量儀器不可見但可以利用像機并應用SFM或SLAM算法(特別是與根據本發明的稠密匹配算法(例如,SGM)組合地應用)測量的區域。
[0122]另選的是,本發明可以被用于詳細的高分辨率掃描,例如,較小的關注物體可以從高分辨率地移動像機模塊靠近關注的物體時利用像機模塊獲取的圖像數據來重建。例如,利用測量儀器低分辨率地掃描整個房間(即,環境),接著利用具有高分辨率的圖像重建某些物體(比較圖3a和圖3b)。
[0123]在缺失物體上的紋理的情況下,可以使用靜態投影儀將附加紋理圖案投影在物體表面上(參見圖4)。這幫助得到基于圖像的3D重建的更好結果,特別是在重建全息或無紋理表面方面。
[0124]圖2示出了根據本發明的與利用圖1a的激光掃描儀設置掃描物體10的結果的第一點云11和由利用根據圖1b的圖像捕捉單元20收集的圖像數據(特別是由一系列圖像提供)并處理該數據(與來自掃描儀的圖像一起)所獲得的第二點云21。第二點云21至少覆蓋該物體的區域11a,區域Ila未被第一點云11覆蓋或者未被正確覆蓋。通過利用SfM或SLAM算法處理圖像數據并且另外應用根據本發明的稠密匹配算法(其使能利用至少兩個圖像實現前方交會法),導出新的點云31,點云31包括來自第一點云11和來自第二點云21兩者的數據,并由此提供有關該物體的所有關注部分的完整地形信息。
[0125]圖3a和圖3b示出了根據本發明的實施方式的對物體1a的測量,其中,利用激光掃描儀I和移動像機單元20在室內執行該測量。生成該房間的和物體1a的一部分的(參照掃描儀I的視野、與物體1a有關的部分,S卩,該部分從掃描儀的姿勢可見)掃描儀點云12和至少覆蓋該房間的墻壁的和/或物體10的一部分的對應圖像。在隨后的步驟中,操作員在圍繞物體1a移動的同時拍攝一系列圖像,基本上每個圖像都覆蓋物體1a的一部分。在捕捉該系列圖像的同時執行根據本發明的算法,其中,該系列圖像中的至少一個圖像被與掃描儀圖像一起處理以識別圖像中的與捕捉的周圍中的相同點有關的點。即,兩個圖像中的相應相同點可位于物體1a上或房間的墻壁上。
[0126]基于所確定的相同點,利用后方交會法計算相應像機圖像的姿勢,其中,為了計算這些姿勢,不是必須考慮位于物體1a上的必要點,而是必須獲知相應(參照)點的位置,例如,根據掃描點云或者根據先前執行的前方交會法,以生成附加(對于掃描點云來說)3D位置信息。在下一步驟中,基于相應的像機圖像的計算出的姿勢(和激光掃描儀I的參照圖像的已知姿勢),利用像機圖像,通過前方交會法導出有關物體1a的至少一部分的點(被像機圖像覆蓋,但未被掃描儀點云覆蓋)的3D位置的信息。通過將所導出的位置信息添加至掃描點云并由此擴展點云數據來實現掃描點云。
[0127]針對通過移動像機20拍攝的該系列圖像中的每一個圖像執行這種處理,特別是其中,基于像機圖像數據導出表示物體20的點云13。為了處理連續的圖像,不必要必須還考慮掃描儀的圖像信息。
[0128]利用通過圖像捕捉單元捕捉的兩個圖像的姿勢信息,可以導出進一步的參照點,那些進一步的參照點是與掃描區域不同的成像區域的部分。這些參照點的位置信息可以利用所述至少兩個圖像根據前方交會法獲知。
[0129]另選的是,掃描儀點云通過添加至少利用一個像機圖像導出的進一步3D點而變得稠密,或者掃描儀點云可以針對涉及物體1a的點來替換,由此以更高的準確度來提供物體的信息,這可以通過分別處理所捕捉的圖像來達到(根據測量條件,例如,激光掃描儀I與物體1a之間的距離和該物體處的掃描儀點云的點至點分辨率)。
[0130]圖4示出了本發明的另一實施方式,其中,利用圖案投影儀40至少將圖案41投影到要測量的物體上。圖像捕捉單元20被用于捕捉該物體的圖像,其中,該圖案為收集具有改進的紋理信息的圖像作準備。根據本發明,在圖案投影和利用圖像捕捉單元20捕捉圖像之前,利用測量儀器(例如,利用全站儀或者多站(multi stat1n))掃描該物體,并且從該掃描顯現的點云表示用于縮放利用所捕捉圖像處理的數據的基礎。而且,利用測量儀器拍攝的相應圖像形成用于與一個或更多個捕捉的圖像一起處理的參照圖像。
[0131]圖5a和圖5b例示了如下根據本發明的實施方式的第一工作流程:
[0132]1、用戶100利用測量儀器2(這里:全站儀2,例如,Leica Multi Stat1n 50)執行掃描。在全站儀2的顯示器上示出了結果點云,并且使得用戶100能夠關于要測量的物體5識別點云的尺寸和尺度,和/或該點云中的間隙的位置。該點云至少表示物體5的表面的、從測量位置可見的第一部分5a。
[0133]2、生成物體5的概覽圖像,例如,利用全站儀2的概覽像機拍攝的單個圖像或者被組合成圖像拼接的一組圖像。圖像和點云被發送至處理單元4。處理單元在此由具有用于接收和發送數據的通信裝置的移動外部單元(例如,集成到測量儀器的手提箱中)提供。另選地,(在此未示出)處理單元可以通過測量儀器2或移動像機模塊4提供。
[0134]3、用戶100根據物體表面的需要另外覆蓋的區域(例如,考慮點云中的間隙),通過圍繞物體5(圖5b)移動像機模塊20(例如,智能電話)來獲取圖像數據(對應于第一組圖像)。該圖像數據應當至少部分地覆蓋物體5的、未被覆蓋的區域5b(S卩,測量儀器2不可見的區域),而且還覆蓋鄰近區域(即,該區域的同樣被測量儀器覆蓋的某些部分)或者物體5的背景中的區域。將所述獲取數據發送至處理單元4。
[0135]4、從利用測量儀器2獲取的圖像數據和點云(和利用移動像機單元20捕捉的圖像數據)生成點云。所述圖像(即,像機單元20的圖像)和來自測量儀器2的圖像的姿勢基于從運動恢復結構SfM或SLAM算法來確定(從利用測量儀器2捕捉的圖像開始,并由此向測量坐標系提供參照)。
[0136]5、在測量儀器2的圖像中檢測到的點特征的3D坐標從利用測量儀器2生成的點云(基于激光的點云)導出。為了檢測該組圖像中的點特征(表示參照點場的參照點的圖像點),可以應用特征匹配算法,例如,SIFT、SURF等。從掃描數據導出對應的3d信息并且在從運動恢復結構SfM或SLAM算法中引入這些點作為“地面控制點”,來自移動像機單元4的圖像的姿勢在由測量儀器2限定的坐標系中被確定(參見圖7)。
[0137]6、而且,還可選的是,可以應用稠密匹配算法,這導致在測量儀器2的坐標系中給出的稠密的點云。
[0138]圖6例示了如下根據本發明另一實施方式的另選工作流程:
[0139]1、用戶圍繞物體5放置三個或更多個標記6a_c。標記6a_c可以利用獨特ID來編碼,這使能向每一個標記6a_c指配單獨的ID。
[0140]2、利用測量儀器2(例如,全站儀或激光掃描儀)來測量標記6a_c的位置,通過標記上的無反射器測量或利用測量桿或通過掃描。這種掃描可以通過用戶人工執行,或者可以是自動化處理的一部分(自動搜索標記)。
[0141]3、用戶利用測量儀器2執行物體5的掃描。在顯示器上示出了結果點云,并且該點云使用戶能夠確定點云的關于要測量的物體5的尺寸和尺度,和/或該點云中的間隙的位置。該點云至少表示物體5的表面的、從測量位置可見的第一部分5a。測量儀器2的控制在控制單元22—側執行,控制單元22還提供移動像機單元并且特別是處理單元。
[0142]4、用戶根據物體表面的另外要覆蓋的區域(例如,考慮點云中的間隙),通過圍繞物體5移動像機單元(S卩,具有相應像機的控制單元22)來獲取圖像數據。該圖像數據應當至少部分地覆蓋物體5的、未被覆蓋的區域5b(S卩,測量儀器2不可見的區域,如點云中的間隙),而且覆蓋鄰近區域或物體的背景中的區域。而且,該圖像應當包含至少三個或更多個標記6a_c。將所述獲取數據發送至處理單元。
[0143]5、借助于圖像處理自動地或者通過用戶100人工地在來自像機單元的圖像中檢測標記6a_c ο
[0144]6、從利用測量儀器2獲取的圖像數據和點云和利用控制單元22捕捉的圖像數據,生成點云。所述圖像(即,控制單元22的圖像)和來自測量儀器2的圖像的姿勢基于從運動恢復結構SfM或SLAM算法來確定。標記6a-c的位置可以被引入為“地面控制點”(參照點場的參照點)。
[0145]7、而且,還可選的是,可以應用稠密匹配算法,這導致在測量儀器2的坐標系中給出的稠密的點云。
[0146]圖7示出了根據本發明的點云生成原理,其中,在測量儀器一側捕捉物體5(例如,與圖5a、圖5b、圖6之一的類似的料堆)的圖像51而開始。
[0147]接下來,利用移動圖像捕捉裝置(例如,數字像機、用于測量儀器的控制器或智能電話)來捕捉圖像52a和52b,作為第一系列圖像的前兩個圖像。圖像52a和52b覆蓋物體5的一部分,其還出現在利用測量儀器拍攝的圖像51中。由于執行SLAM或SfM算法,因而在三個圖像51、52a和52b中識別出第一組圖像點,這些點表示參照點場的參照點53b-d。由于這些點的附加位置信息已經通過測量儀器獲得,因而這些第一參照點還被已知為所謂的“地面控制點”。
[0148]測量儀器根據其用于捕捉圖像51(=測量圖像51的已知姿勢)的位置及其取向限定坐標系。
[0149]利用所識別的參照點和后方交會法的幾何原理,計算圖像52a和52b的姿勢。計算該姿勢,使得與所限定的測量坐標系有關地獲知其位置和取向。具體來說,對于這種計算來說,針對利用圖像捕捉裝置捕捉的每一個圖像52a確定投影中心52a’。對于測量儀器的圖像來說,已經獲知姿勢51’。
[0150]該姿勢計算可以基于三個公共的參照點53b_d,或者可以利用點53a_c針對圖像52a和利用點53b-d針對圖像52b來進行。所有這些點53a-d的位置信息由測量儀器提供。直至該階段使用的所有參照點都位于物體5上。
[0151]在確定了圖像52a_b的姿勢之后,利用那些圖像52a_b執行前方交會法,以便導出物體5上的點的進一步位置信息。據此,可以確定點54a的3D位置。該點54a可以用作附加參照點。
[0152]接著,該處理可以通過捕捉第二系列圖像中的下一圖像52c_h并利用附加地基于圖像的導出參照點(未示出)計算它們的姿勢來繼續,其中,附加的新點的進一步位置信息例如由物體上的點和/或背景(周圍)中的點(55a_b)導出。例如,點55a的坐標可以利用圖像52e和52f通過前方交會法來確定,其中,點55a接著可被用作用于計算圖像52g的姿勢的另一參照點。
[0153]計算圖像的姿勢可以不僅基于利用具有已知姿勢的一個或更多個圖像,而可以利用所捕捉的圖像(及其姿勢)的組合來執行。
[0154]在捕捉一些圖像(未覆蓋物體5的、已被掃描點云(及其相應圖像)覆蓋的那些部分)期間計算的位置數據的總體補償至少在最近捕捉的圖像(再次)覆蓋物體的、已被激光掃描儀覆蓋(“閉合圖像的圓圈”)的區域時執行。
[0155]從圖像52a_c(覆蓋至少一個地面控制點53b_d),通過前方交會法計算新的參照點54a-c的位置數據。該處理可引入某些誤差。下一圖像52d的姿勢基于那些計算出的(基于圖像)的參照點54a_c通過后方交會法來計算,結果也包括某些誤差。總之,在隨后計算出的姿勢的所導出的姿勢中引入了某些附加誤差。對于新的參照點的前方交會法來說,同樣向前傳播該姿勢的誤差。
[0156]到該循環結束(“閉合圖像圓圈”)時,為了計算圖像52g和52h的姿勢,再一次使用地面控制點52a、b、d( =參照點)。由于那些點是利用測量儀器測量的,因而那些點提供更精確的位置信息(沒有處理誤差)。因此,利用SLAM或SfM算法使用那些點52a、b、d為縮減和/或補償傳播位置誤差作準備。
[0157]不僅基于來自測量儀器的數據而且基于由圖像捕捉單元提供的圖像數據(圖像52a_h)的新的或附加的點云特別是利用由相應圖像提供的圖像數據的前方交會法來繼續計算或擴展。由此,通過將圖像數據連續添加至SLAM或SfM算法并且相應考慮用于處理的這種數據,迭代地生成整個物體5的點云。特別地,有關圖像52a-h的系列(除了測量儀器的圖像51以外)覆蓋關注物體5的所有區域。
[0158]在所收集的數據上應用束調節(特別是同樣連續地)為用于參照點的高度準確的位置數據而且為用于所生成的點云的3D位置作準備。由此,提供所計算出的位置數據的補償。而且,根據最終的束調節,通過測量儀器收集的參照點被引入為“地面控制點”。這種地面控制點構建束調節的基礎,并且被視為關于它們的位置是正確的(沒有顯著誤差),并由此不調整它們的位置。另選的是,考慮地面控制點的某些較小位置誤差,例如,5_的可能誤差。這種不確定性可以被引入為束調節中的加權,其可以導致這些點的位置的較小調整。而且,與基于圖像的點的誤差有關的相應加權同樣可以引入,例如,半像素的可能誤差,其中,接受在該限制內的那些點的位置調整。所謂“連接點(tie points)”(=參照點,位置在利用圖像的前方交會法的基礎上確定(例如,點54a_c))的位置借助于這種束調節來校正。
[0159]下面,參照與利用測量儀器生成的數據(例如,激光掃描儀或全站儀)相對地登記利用移動圖像捕捉單元收集的數據方面,對于登記來說,必須確定七個參數(三個平移、三個旋轉以及一個縮放),所述參數相對于基于激光的點云(利用測量儀器生成)來限定基于圖像的點云(利用來自所捕捉的系列圖像的數據生成)的相對姿勢。這可以明確地或隱含地來執行(按照根據本發明的上述工作流程之一),其中,來自測量儀器的參照數據已在從運動恢復結構或SLAM算法中引入。
[0160]涉及測量儀器的坐標系被視為參照系。用于登記的輸入可以是一個或更多個基于激光的點云、來自圖像捕捉單元的圖像數據、來自測量儀器的圖像數據或標記測量等。
[0161]在根據本發明的方法中,該點云從一開始直接在測量儀器的坐標系中生成。基于圖像的位置數據的附加登記步驟由此是不必要的。另外,由于位置數據可用于掃描儀點云,而且由于該信息在SfM或SLAM算法內處理,因而點坐標的結果姿勢具有正確位置和/或已經縮放。
[0162]關于參照點的識別,(自動)識別這種參照點(例如,“地面控制點”或“連接點”,其如上所述接著被用于SfM或SLAM算法中)可以執行如下:
[0163]基于標記的識別:
[0164]用戶在周圍(例如,圍繞物體)放置三個或更多個標記。所述標記的位置利用測量儀器來測量,通過標記上的無反射器測量或利用測量桿或通過掃描。另選的是,這些標記可以通過儀器像機來觀察,被像機自動檢測并且被激光掃描儀自動測量。該方法提高了自動化水平。
[0165]這些標記利用激光掃描儀或全站儀來掃描,而且每一個標記應當至少在來自移動像機單元的一個圖像或視頻幀上可見。這種編碼標記在基于激光的點云或全景圖像中和在來自移動像機單元的圖像中被自動(優選)地檢測(另選地,人工地檢測)。由此,在兩個圖像中識別對應標記。基于參照圖像中的圖像點的坐標和掃描數據,導出3d坐標。這些3d坐標被引入為用于移動像機圖像中的對應圖像點的參照點(地面控制點),并且被用于其姿勢的后方交會法。
[0166]基于圖像的識別:
[0167]該識別任務可通過利用特征點檢測器和描述符(例如,SIFT、SURF等)尋找圖像上的一組公共點來解決。至少兩個圖像中的至少三個點應在所捕捉的周圍中具有對應3D點。
[0168]參照圖8,第一組圖像61a_d表示利用測量儀器捕捉的圖像,例如,來自立方圖的四個圖像,其中,圖像61 c示出了對應于圖1 a的物體1與障礙物15 (樹)一起。第二組圖像62a-d對應于來自移動像機單元的圖像序列62a_d,每個圖像都至少部分地示出了物體15(沒有樹15,以便完成點云)。
[0169]利用基于圖像的自動登記方法,在圖像61c和圖像62a_d中的一個或更多個中識別出相似點63(例如,通過特征匹配)(這里示例性地示出基于圖像62b的特征匹配)。據此,可以確定參照點(地面控制點和/或連接點)。
[0170]人工識別:
[0171]這里,至少兩個圖像中的三個或更多個公共點被人工地選擇,例如通過顯示所述圖像并且使用戶能夠挑選對應點。由此,用戶可以在來自像機單元和測量儀器的圖像中挑選對應點。針對圖像中的選擇的點,從該點云導出對應的3D坐標。為避免錯誤挑選,被點云覆蓋的區域可以被顯示為疊加在圖像上。
[0172]圖9a和圖9b示出了根據本發明的另一實施方式,其中,向用戶提供了一種完整性檢查。在利用移動像機單元20的圖像獲取期間,可以確定像機單元20相對于從測量儀器獲取的點云的姿勢,例如基于特征匹配技術或者標記6a、6b的檢測。這使得基于激光的點云或缺失部分能夠顯示為移動像機單元20(這里:智能電話)的顯示器20’上的實時圖像中的交疊16。這幫助用戶識別缺失部分16,并且指導他們例如填充相應的間隙16,S卩,捕捉提供用于擴展或完成測量點云的圖像數據的圖像。
[0173]而且,由于基于圖像的點云特別是實時生成的,因而該點云還可以顯示在像機單元上以指導用戶。由此,向用戶提供物體10及其部分的實時顯示,所述部分已被點云數據覆蓋(尚未覆蓋)。
[0174]根據本發明的另一方面涉及如圖1Oa和圖1Ob所示的不同種類的位置數據的合并。
[0175]基于圖像的位置數據21和基于激光的位置數據11可以具有不同質量,S卩,這些點的3D坐標的準確度可能不同。根據本發明的當前實施方式,在基于激光的位置數據與基于圖像的位置數據的合并方面考慮了這個方面。關于存在具有例如利用測量儀器獲取的較高質量的點(基于激光的)和例如利用像機單元獲取的低質量點(基于圖像的)的交疊區域24,應用基于點質量的篩選。例如,在交疊區域24中,可以擦除低質量的點,而保持較高質量的點。在圖1Ob中,示出了組合的點云,其中,關于交疊區域24,僅存在來自測量儀器的較高質量的點(與點云11相對應的點云數據)。
[0176]圖11示出了根據本發明的顯示點云質量的另選方式。這里,針對物體的不同區域23a_d,不同點云質量可用。根據給定的測量條件,要達到針對所生成點云的期望準確度。例如,存在其中20_的準確度就足夠的區域,在其它區域中,需要至少5_的準確度。質量的可視化(例如,顏色編碼)幫助用戶決定是否得到針對特定區域的所需質量,或者是否必須進行某一附加操作以實現所需質量,例如附加掃描或捕捉更多圖像。這里:區域23a的點至點準確度為5mm、區域23b的點至點準確度為20mm、區域23c的點至點準確度為15mm,而區域23d的點至點準確度為I Omm。
[0177]圖12示出了根據本發明的另一實施方式和用于生成點云的相應方法。
[0178]在該背景下,識別來自測量儀器51的圖像和來自像機的前兩個圖像52a_b(屬于第一系列圖像)中的相似點R1_R3(例如,通過特征匹配)。執行對這些圖像52a_b的姿勢的計算(通過包括從測量儀器的測量導出的點R1-R3的3d坐標)。
[0179]接著,基于圖像52a_b,通過前方交會法來計算點S1-S3的3d坐標。在此基礎上,計算基于點S1-S3的第三圖像52c(屬于第二系列圖像)的姿勢。如果另一圖像52d(也屬于第二系列圖像)將包含點R1-R3或T中的任一個,而且該點也將被用于其姿勢確定。由此,圖像52d的姿勢基于點S2、S3以及T來確定。
[0180]最后,計算束調節,其中,優化了圖像52a_d的姿勢和點S1-S3的3d坐標。點R1-R3和T作為地面控制點被包括在束調節中。
[0181]而且,可以將稠密匹配應用于至少部分地覆蓋掃描陰影30的圖像(例如,圖像52a-d),以得到該區域的點云。
[0182]圖13示出了用于基于兩組圖像來進行純特征匹配的另選方法,一組圖像由激光掃描儀I捕捉,并且另一組圖像由像機20捕捉,該方法可以利用激光掃描儀I本身作為特征生成器來實現。更確切地,提出在投影模式中使用激光掃描儀I,其中,其根據特定圖案60(例如,像棋盤的靜止圖案)通過同步旋轉并觸發其瞄準激光系統,生成特定圖案60。該圖案本身可以是任意的,例如,編碼標記,單個點、交叉線以及其生成。特別地,該生成不限于上述過程(旋轉和觸發激光束),如其還可以投影利用公知的固定圖案/利用模板(不需要旋轉掃描儀)生成的幾何形狀補充的單一測量點。
[0183]所提出的策略在這樣的情況有用,S卩,場景/環境沒有提供像機系統20可按穩定方式跟蹤的特征點,例如,平坦的同源表面。主要優點在于,不需要在兩個系統(掃描儀I和像機20)的圖像/點云中而僅在像機圖像20中搜索特征,因為所投影的特征點在掃描儀坐標系統中已經獲知(特別是被標注),并且高度準確地參照。
[0184]可能的工作流程可以如下:首先,通過利用激光掃描儀I進行掃描來捕捉場景。當完成該任務時,激光掃描儀I被切換到投影模式,并且將圖案投影到表面上(在已經掃描區域中不必要)。第二,將移動像機20用于執行另一區域(例如,與第一掃描區域不相交)的附加掃描,使得在記錄期間,激光掃描儀I的投影圖案60在像機圖像中至少被看到一次。最后,自動(優選)或人工地檢測圖案60的所有特征點,可以確定在掃描儀坐標系中參照的、像機20的絕對取向和位置。具體來說,可以將高級算法用于最準確和可靠的特征檢測,例如,基于顏色和/或基于模板的檢測。
[0185]另選或另外地,代替在物體或場景周圍中使用標記來掃描,提出使用掃描儀外殼本身來定位標記(未示出)。此外,該提議的優點是獲知相對于激光掃描儀的坐標系在標記上跟蹤的明確定義的錨點(特征點),因為標記的位置和取向可以在工廠預先校準。該工作流程類似于一個上述的工作流程,其中,用戶在利用移動像機的第二掃描期間必須確保該掃描儀外殼在記錄圖像中被至少看到一次。利用針對標記的自動(優選)或人工檢測算法,獲知像機關于激光掃描儀的坐標系的位置和取向,并且隨后可以容易地合并所生成的點云(掃描儀和攝像機)。
[0186]盡管上面部分參照一些【具體實施方式】地例示了本發明,但必須理解,可以做出這些實施方式的不同特征的許多變型例和組合,并且這些不同特征可以與根據現有技術已知的測量原理和/或測量儀器相組合。
【主權項】
1.一種用于利用特別是激光掃描儀或全站儀的大地測量儀器(1、2)和圖像捕捉單元(20、22)來提供特別是物體(5、10、1a)的3D點云(11、21、31、12、13)的方法,該方法包括以下步驟: ?根據限定的掃描區域(5、10、10&),利用所述大地測量儀器(1、2)對周圍環境進行掃描,并且參照由所述大地測量儀器(1、2)限定的測量坐標系來生成與所述掃描區域相對應的掃描點云(5a、ll、12), ?在所述測量儀器(1、2)側生成覆蓋與所述掃描區域至少基本對應的區域的第一圖像(51、61&-(1),所述第一圖像(51、61&-(1)表示參照圖像,由于所述大地測量儀器(1、2)的、用于獲取所述第一圖像(51、61a-d)所基于的數據的位置和取向,參照所述測量坐標系而獲知所述參照圖像的姿勢, ?利用所述圖像捕捉單元(20、22)捕捉第一系列的至少兩個圖像(52a-c、52g-h、62a-d),所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)具有相應的姿勢并且部分地覆蓋所述掃描區域以及成像區域,以及 ?應用從運動恢復結構(SfM)或SLAM算法,其至少包括: □基于所述參照圖像(51、61a-d)并且基于所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d),識別第一組圖像點(53a-d、Rl-R3、63),所述第一組圖像點(53a-d、Rl-R3、63)表示參照點場的第一組參照點(53a-d、Rl-R3、63),其中,所述第一組參照點(53a_d、Rl-R3)中的每一個參照點都出現在所述參照圖像(51、61a-d)中和所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)中的至少一個圖像中,并且關于所述第一組參照點(53a-d、Rl-R3)中的參照點的位置信息由所述掃描點云(5a、ll、12)提供,以及 □利用所述第一組參照點(53a-d、Rl-R3)以及所述位置信息,特別是基于后方交會法,參照所述測量坐標系來確定用于所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)中的圖像的姿勢,所述姿勢表示在捕捉所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)中的圖像時,所述圖像捕捉單元(20、22)相對于所述大地測量儀器(1、2)的相應位置和取向。2.根據權利要求1所述的方法, 其特征在于: 基于用于所述第一系列的至少兩個圖像(52&-0、528-11、623-(1)中的圖像的姿勢,特別是通過前方交會法來確定成像區域中的第二組參照點(54a-c、55a-b、Sl-S3),其中, ?所述成像區域與所述掃描區域不同,并且 ?導出關于所述第二組參照點(54a-c、55a-b、S1-S3)中的至少一個參照點的3D位置的位置信息,所述位置信息被參照到所述測量坐標系, 特別是其中,通過將所導出的3D位置信息添加至所述掃描點云(5a、ll、12)來實現所述掃描點云(5a、11、12)。3.根據權利要求2所述的方法, 其特征在于: ?利用所述圖像捕捉單元(20、22)捕捉第二系列的至少一個圖像(52c-f),其中,所述第二系列中的所述至少一個圖像至少部分地覆蓋所述第二組參照點(54a-c、55a-b、Sl-S3)和/或覆蓋所述第一組參照點(53a-d、Rl-R3、63)中的至少一個參照點, ?利用所述第一組參照點(53a-d、R1-R3、63)和/或所述第二組參照點(54a_c、55a_b、S1-S3)中的、被所述第二系列中的所述至少一個圖像(52c-f)覆蓋的至少三個參照點并且利用相應的位置信息,特別是基于后方交會法,參照所述測量坐標系來確定用于所述第二系列中的所述至少一個圖像(52c-f)的姿勢。4.根據權利要求3所述的方法, 其特征在于: 單獨利用所述第二組參照點(54a-c、55a-b、Sl-S3)中的參照點,參照所述測量坐標系來確定用于所述第二系列中的所述至少一個圖像(52c-f)的姿勢。5.根據權利要求3或4所述的方法, 其特征在于, 所述第二系列的至少一個圖像(52c-f)中的至少一個圖像部分地覆蓋所述掃描區域,其中,基于所述參照圖像(51、61a-d)以及所述第二系列的至少一個圖像(52c-f)中的所述至少一個圖像來確定另一參照點(T)。6.根據權利要求3至5中任一項所述的方法, 其特征在于: 基于所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)中的圖像的姿勢和所述第二系列的至少一個圖像(52c-f)中的圖像的姿勢以及所述第一組參照點(53a-d、Rl-R3、63)和所述第二組參照點(54a-c、55a-b、Sl-S3)、特別是所述另一參照點(T)和/或所述掃描點云數據,應用束調節過程。7.根據權利要求1至6中任一項所述的方法, 其特征在于: 基于利用所述圖像捕捉單元(20、22)捕捉的圖像(51、52a-h、62a-d)中的至少兩個圖像的姿勢,特別是通過前方交會法,針對所述成像區域的至少一部分,特別是通過應用稠密匹配算法,來計算圖像點云(513、13、21),所述圖像點云(513、13、21)至少包括根據特別是所述物體(5、1、I Oa)的所捕捉的至少兩個圖像(51、61 a-d、5 2a-h、6 2a-d)的相應公共覆蓋區域的3D位置信息并且關于所述測量坐標系被參照。8.根據權利要求1至7中任一項所述的方法, 其特征在于: 基于掃描點云數據來補償隨著計算所述3D位置信息或圖像的姿勢而出現的位置誤差,特別是其中,針對由利用所述圖像捕捉單元(20、22)連續捕捉的圖像(52a-h、62a-d)提供的每一個連續圖像數據執行所述補償。9.根據權利要求7或8所述的方法, 其特征在于, 生成關于所述掃描點云(5a、ll、12)中的點的位置準確度和所述圖像點云(5b、13、21)中的點的位置準確度的質量信息。10.根據權利要求9所述的方法, 其特征在于, 所述質量信息顯示在圖像中,其中,表示所述掃描點云(5a、ll、12)的第一區域覆蓋有第一標記,并且表示所述圖像點云(5b、13、21)的第二區域覆蓋有第二標記,所述標記特別是通過不同顏色的區域來表示,特別是其中, ?被所述掃描點云和所述圖像點云兩者覆蓋的區域(24)覆蓋有第三標記,或者?被所述掃描點云和所述圖像點云兩者覆蓋的所述區域(24)中的點被篩選,使得僅所述掃描點云(5a、ll、12)中的點或者僅所述圖像點云(5b、13、21)中的點被提供,特別是其中,所述篩選由操作員(100)的輸入引起。11.根據權利要求1至10中任一項所述的方法, 其特征在于, 所述大地測量儀器(1、2)和所述圖像捕捉單元(20、22)在結構上彼此分立,特別是其中,所述圖像捕捉單元被具體實施為移動數字像機或者由移動電話提供。12.根據權利要求1至11中任一項所述的方法, 其特征在于, 所述方法在測量處理期間直接且即刻地執行,特別是自動地執行,其中,數據處理,特別是關于從運動恢復結構(SfM)或SLAM算法的數據處理,在所述測量處理期間由處理單元執行,所述處理單元接收有關以下的數據?對所述周圍環境的掃描, ?在所述大地測量儀器(1、2)側生成所述第一圖像(51、61a-d),以及 ?利用所述圖像捕捉單元(20、22)捕捉至少兩個其它圖像(52a-c、52g-h、62a-d)。13.根據權利要求1至12中任一項所述的方法, 其特征在于, 在所述圖像捕捉單元(20、22)側顯示現場圖像,所述現場圖像將所述圖像捕捉單元(20、22)的實際視野成像,其中,既被所述圖像捕捉單元實際成像也被所述掃描點云(5a、11、12)覆蓋或不覆蓋的區域(16)在所述現場圖像中被標記,特別是其中,所述物體的、被利用所述圖像捕捉單元(20、22)捕捉的所述圖像(51、5 2a-h、62a_d)中的一個圖像覆蓋的部分在所述現場圖像中被標記。14.一種用于提供特別是要測量的物體(5、10、10a)的3D點云的系統,該系統包括 ?大地測量儀器(1、2),特別是激光掃描儀或全站儀,該大地測量儀器具有 □支承結構,該支承結構安裝在所述大地測量儀器(1、2)的基部上,使得所述支承結構能夠圍繞由所述基部限定的第一軸樞轉, □用于生成測量射束的電磁輻射源, □用于引導所述測量射束的引導單元,所述引導單元設置在所述支承結構處,以提供所述引導單元圍繞由所述支承結構限定的第二軸的樞轉性,所述第二軸基本上垂直于所述第一軸, □掃描功能,該掃描功能用于按預定方式提供所述測量射束的引導和導向并對應地測量距離,其中,根據限定的掃描區域的周圍環境能夠被測量,并且其中,參照由所述大地測量儀器(1、2)限定的測量坐標系,能夠基于所述周圍環境產生掃描點云(5&、11、12),以及□用于生成第一圖像(51、61a-d)的圖像生成功能,其中,與所述掃描區域至少基本對應的區域被覆蓋,并且其中,所述第一圖像表示參照圖像(51、61a-d),由于所述大地測量儀器(1、2)的、用于獲取所述第一圖像(51、61a-d)所基于的數據的位置和取向,參照所述測量坐標系而獲知所述參照圖像的姿勢, ?圖像捕捉單元(20、22),該圖像捕捉單元用于以相應姿勢捕捉第一系列的至少兩個圖像(52&-(:、528-11、623-(1),所述第一系列的至少兩個圖像(523-(3、528-11、623-(1)能夠被捕捉為使得部分地覆蓋所述掃描區域,所述圖像捕捉單元(20、22)在結構上與所述大地測量儀器(1、2)分立,以及 ?控制與處理單元(4),該控制與處理單元用于接收和處理來自所述大地測量儀器(1、2)和所述圖像捕捉單元(20、22)的數據, 其特征在于, 所述控制與處理單元(4)提供從運動恢復結構(SfM)或SLAM算法,所述SfM或SLAM算法至少通過提供以下步驟的執行來限定: ?基于所述參照圖像(51、61a_d)和所述第一系列的至少兩個圖像(SSa-cdSg-hdSa-cl ),識別第一組圖像點(53a-d、R1-R3、63),所述第一組圖像點(53a_d、R1-R3、63)表示參照點場的第一組參照點(53a-d),其中,所述第一組參照點(53a-d、Rl-R3)中的每一個參照點都出現在所述參照圖像(51、6 la-d)中和所述第一系列的至少兩個圖像(52a-c、52g_h、62a-d)中的至少一個圖像中,并且關于所述第一組參照點(53a-d、Rl-R3)的位置信息由所述掃描點云(5a、11、12)提供,并且 ?利用所述第一組參照點(53a-d、Rl-R3)和所述位置信息,特別是基于后方交會法,參照所述測量坐標系來確定用于所述第一系列的至少兩個圖像(52a-c、52g-h、62a_d)中的圖像的姿勢,所述姿勢表示在捕捉所述第一系列的至少兩個圖像(52a-c、52g-h、62a-d)中的圖像時,所述圖像捕捉單元(20、22)的、相對于所述大地測量儀器(1、2)的位置和取向。15.—種具有計算機可執行指令的計算機程序產品,該計算機可執行指令被實現以特別是在運行于根據權利要求14所述的系統的控制與處理單元(4)上時基于?接收掃描點云, ?接收參照圖像,以及 ?接收所述第一系列的至少兩個圖像中的至少兩個圖像來執行根據權利要求1至13中任一項所述的方法的從運動恢復結構(SfM)或SLAM算法。
【文檔編號】G01C15/00GK106066173SQ201610247861
【公開日】2016年11月2日
【申請日】2016年4月20日 公開號201610247861.9, CN 106066173 A, CN 106066173A, CN 201610247861, CN-A-106066173, CN106066173 A, CN106066173A, CN201610247861, CN201610247861.9
【發明人】伯恩哈德·麥茨勒, A·韋利赫夫, T·菲德勒
【申請人】赫克斯岡技術中心