徠卡HxMap軟件并行處理環(huán)境 在大數(shù)據(jù)量、高效率處理要求下的應用
HxMap是徠卡航空傳感器通用數(shù)據(jù)處理平臺,可提供徠卡測量多款航攝儀的數(shù)據(jù)后處理以及三維建筑單體建模功能。HxMap平臺可提供數(shù)據(jù)預處理、質量檢查、影像調色、自動點匹配、空中三角測量、激光檢校、激光數(shù)據(jù)配準以及數(shù)字產(chǎn)品輸出等功能,為攝影測量提供了完整的數(shù)據(jù)處理工作流程。相較于原有的FramePro以及PPS處理流程,HxMap平臺操作簡便,并改進了單張影像的瀏覽方式,具有區(qū)域影像全局瀏覽等優(yōu)勢;同時在激光數(shù)據(jù)處理方面,相比原有的CloudPro簡化了激光檢校的流程,提供了可視化的點云精度檢查界面,整體操作流程簡單,易上手。目前,HxMap軟件平臺已支持徠卡DMCIII、徠卡RCD30傾斜、徠卡CityMapper、徠卡TerrainMapper以及徠卡SPL100等徠卡航測設備的數(shù)據(jù)處理,更多的設備后處理模塊將逐步整合到這個通用平臺中。

圖1. HxMap平臺概覽

圖2. HxMap平臺調色

圖3. HxMap點云質檢

圖4. HxMap激光檢校
以徠卡DMCIII相機的影像為例,航空影像具有數(shù)據(jù)量大,壓縮比大等特征,用戶在飛行一個架次影像以后,數(shù)據(jù)量可達到1T-2T之間,在數(shù)據(jù)處理的過程中,用戶發(fā)現(xiàn),單節(jié)點的計算機處理速度很難達到效率要求,對于1000多張徠卡DMCIII影像,使用高端28核處理器,僅預處理一項工作就長達40-50小時的時間,這很難達到用戶的處理需求,因此,如何提升處理效率,是航測用戶十分關心的問題。
對于徠卡SPL100設備的激光數(shù)據(jù),同樣具有數(shù)據(jù)量大,運算要求高的特征,一個架次的激光原始數(shù)據(jù)需要經(jīng)過預提取、檢校、再提取、激光配準、賦色輸出等流程,其對計算機性能的要求比影像處理更高,若使用普通計算機進行單機處理,可能會遇到內(nèi)存不足報錯、長時間運算耗時等問題,此時Condor并行處理環(huán)境就能夠有效的解決問題、提高數(shù)據(jù)處理效率。
2. Condor并行環(huán)境簡介
Condor并行環(huán)境是用于局域網(wǎng)內(nèi)批量處理數(shù)據(jù)的計算機環(huán)境,需要若干臺機器組建局域網(wǎng)并建立域環(huán)境,將任務分配給域內(nèi)相關的計算機分別處理,以提高數(shù)據(jù)處理效率。Condor環(huán)境中,需要分配不同的計算機角色,主要的角色有:
Data Storage :存儲角色,用于數(shù)據(jù)存儲的計算機
Central Manager : 管理角色,用于管理Condor集群的計算機
Submitter:任務提交者,用于提交數(shù)據(jù)處理任務的計算機
Node:節(jié)點機,用于數(shù)據(jù)處理的計算機
在Condor并行環(huán)境中,使用一臺計算機作為域控制器,操作系統(tǒng)為Windows Server。若干臺計算機作為域成員,操作系統(tǒng)為Windows-7 64 bit。域成員計算機均為工作站,計算機硬件推薦配置:
CPU: 8核以上
內(nèi)存:24G以上
硬盤:1TB以上

圖5. Condor關系圖
如圖5所示Condor環(huán)境中,Central Manager以及Submitter機器也可以作為節(jié)點機進行數(shù)據(jù)處理,以節(jié)省計算機資源。
3. Condor集群環(huán)境影像處理效率測試
在HxMap軟件中,預處理和影像輸出環(huán)節(jié)可使用單機處理,也可使用Condor環(huán)境執(zhí)行并行處理,本次使用單機和Condor環(huán)境測試了220張DMCIII影像,測試效率如表1所示。
如表1所示,使用單機28線程機器預處理徠卡DMCIII相機220張影像,原始數(shù)據(jù)量為150G,預處理后數(shù)據(jù)量為300G。預處理時間為7.6小時,平均每張影像處理需要2.1分鐘;在Condor批處理環(huán)境下使用3臺機器,線程數(shù)分別為28、12、20,處理220張影像耗時4.7小時,平均每張影像1.3分鐘,效率提高40%。在HxMap軟件標配中有4個Ingest模塊節(jié)點,最多可支持4臺計算機同時處理,若每個節(jié)點計算機的CPU性能都較高,效率會有更大提升。
Condor集群計算機CPU使用圖

圖6 Intel(R) Xeon(R)
CPU E5-2690v4 @2.6GHZ利用率

圖7 Intel(R)Core(TM)
i7-6800K CPU @3.4GHZ 利用率

圖8 Intel(R) Xeon(R)
CPU E5-2690v4 @3.0GHZ 利用率
如圖6、圖7、圖8所示,是在Condor集群環(huán)境中每臺計算機的CPU使用情況。數(shù)據(jù)運算時,CPU的使用率基本都在50%以上,甚至達到100%。通過 Condor集群環(huán)境的配置,在大數(shù)據(jù)量處理時,可增加若干個數(shù)據(jù)處理節(jié)點。
Condor集群中每臺機器分配了相應的處理任務,并且每臺機器的使用率較高,效率有很大的提升。
4. Condor集群環(huán)境激光處理效率測試
在HxMap軟件中,徠卡SPL100數(shù)據(jù)的預處理和激光配準環(huán)節(jié)推薦使用Condor環(huán)境執(zhí)行并行處理,本次使用單機和Condor環(huán)境測試了一個架次12條航線的點云數(shù)據(jù),測試效率如表2所示。
如表2所示,使用單機36線程的高配置機器處理徠卡SPL100激光雷達的數(shù)據(jù),原始數(shù)據(jù)量為1.37T,預處理環(huán)節(jié)運行8小時后計算機內(nèi)存不足導致失敗,軟件報錯;在Condor并行處理環(huán)境下使用6臺機器,配置統(tǒng)一,線程數(shù)均為12,完成所有處理環(huán)節(jié)共耗時35小時,外業(yè)航飛時間和后處理的時間比例能夠達到1:5,生產(chǎn)點密度高達30p/m2的Las點云數(shù)據(jù)。

圖9. Condor并行處理環(huán)境運行狀態(tài)
5. 結論
通過本次HxMap軟件在Condor集群環(huán)境處理測試,Condor集群環(huán)境對于徠卡DMCIII影像數(shù)據(jù)和徠卡SPL100激光點云數(shù)據(jù)的處理效率上有極大的提升。如果每臺計算機CPU配置都很高,使用4個或更多節(jié)點機器處理,數(shù)據(jù)處理效率的提升會遠遠超過40%。當航攝項目密集,數(shù)據(jù)量非常大時,可保證項目數(shù)據(jù)的高效處理。
最新最快---HxMap航測影像處理臺式、便攜式、集群配置方案23v4