精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

一種采用點云空間投影的RGB-D點云分割技術

新機器視覺 ? 來源:光學學報 ? 作者:光學學報 ? 2021-06-18 11:30 ? 次閱讀

點云分割是點云處理的一個關鍵環節,其分割質量決定了目標測量、位姿估計等任務的精確與否。

1、引言目前,以立體成像技術為核心的立體相機獲得了多樣性發展,例如雙目相機、單目結構光 相機、 TOF(timeofflight)相機等,其獲得的深度圖像(RGB-D)是在RGB 數據基礎上融合了深度數據, 在參考相機內參下深度圖像可轉化為點云數據。根據立體相機的三維數據重建感興趣區域(ROI),目標區域表面信息和背景信息的數據是混合在一起的,這給后續目標的三維測量和分析處理帶來了一 定難度,因此采用點云分割技術進行目標區域和背 景點云分離是必要的途徑。

點云分割就是將數據分割成若干個互不相交的子集。點云分割的問題一般分為4類:1)具有 人類視覺意義的形狀確定2)獲取點云中與空間方位無關的幾何特征3)點云中各個形狀邊界的確定4)具有一致性的分割結果。

目前的點云分割方法分為兩類,即主要處理點與點之間拓撲關系的傳統方法和基于深度學習的方法。

立體相機與激光雷達的不同之處在于拍攝場景信息所得的RGB-D數據具有物體表面的顏色紋理信息。不同于點云拓撲關系和深度學習的點云分割,本文介紹了一種采用點云空 間投影的RGB-D點云分割技術,首先介紹采用圖像閾值的點云分割和利用靶標世界坐標系的點云分割兩種基礎方法, 將在世界坐標系中的靶標作為參考旋轉點云,并將其投影至坐標系水平面(XOY)上,利用圖像的形態學獲得目標顯著區域,進而獲得目標點云數據。

2、圖像閾值與點云關系模型

2.1 相機數學模型

攝像機數學模型采用小孔成像的原理,在笛卡兒空間中建立景物點與成像點之間的映射關系。令點P=(Xw,Yw,Zw)為像素p(u,v)投射在世界坐標系中的點,(u,v,1)是點p在像素坐標系中的齊次坐標;(Xw,Yw,Zw,1)是點 P 在世界坐標系中的 齊次坐標。那么兩個坐標的關系為

19532c6e-cf69-11eb-9e57-12bb97331649.png

2.2 圖像閾值與點云的關系模型

RGB-D數據來自立體相機中RGB相機和 Depth相機,由于相機空間視角不同,兩組原始數據中RGB數值與深度數值不匹配。在標定立體相機的外參數后,建立RGB像素值與 Depth數值兩者之間的一一對應關系。采用圖像閾值的點云分割基本思路:根據圖像像素和點云的對應關系進行圖像分割,獲得目標區域點云。

198db636-cf69-11eb-9e57-12bb97331649.png

199fa896-cf69-11eb-9e57-12bb97331649.png

3、采用空間投影的點云分割方法

3.1 建立靶標世界坐標系

立體相機中依據 RGB 相機和Depth相機的外參數,可以把Depth相機生成的點云轉換到相機坐標系下。參考棋盤格建立世界坐標系。利用靶標世界坐標系可實現一定程度的點云分割,其基本思路是:由于場景三維點云的空間尺度與世界坐標系的空間尺度具有一致性,通過建立世界坐標系并確定待測物體在世界坐標系中的空間區域,可分割映射到世界坐標系里的點云。

19d4a6a4-cf69-11eb-9e57-12bb97331649.png

如圖1(a)所示,pc(xc,yc,zc)為相機坐標系中的點云,Pw (Xw,Yw,Zw)是世界坐標系中的點云,由(1)式可得

19ec3b2a-cf69-11eb-9e57-12bb97331649.png

如圖1(b)所示,由于靶標板(標定板)所指定的 坐標系相對于棋盤格角點所建立的世界坐標系有一 定的偏移,這里采用補償的方式進行坐標系校正。設靶標的厚度為 Δz,世界坐標系原點在待測區域的X和Y軸的偏移分別為Δx 和Δy,補償偏移量Δl3×1=[Δx Δy Δz]T,則(6)式可進一步表示為

1a04eb16-cf69-11eb-9e57-12bb97331649.png

3.2 采用空間投影的點云分割方法

參考前述的圖像閾值、靶標世界坐標系與點云區域的關系,為了突出目標區域以實現點云分割,可將點云的觀測視角旋轉至俯視角度(鳥瞰視角),如圖2所示,這樣可減少背景點云信息,使目標點云呈現更多信息,采用相機模型將點云投影至相機的圖像像素。在得到旋轉投影后場景的二維圖像后,采用圖像閾值分割的方法可快速地得到目標閾值范圍,還原后得到場景分割的目標點云。

1a308334-cf69-11eb-9e57-12bb97331649.png

參考(6)式得到世界坐標系中的點云 Pwl(Xwl, Ywl,Zwl),將其變換到場景點云的俯視角時,有:

1a4d4780-cf69-11eb-9e57-12bb97331649.png

1a5f2900-cf69-11eb-9e57-12bb97331649.png

根據單目攝像機模型,可以得到點云對應的二值圖像坐標為:

1a75938e-cf69-11eb-9e57-12bb97331649.png

1a901fb0-cf69-11eb-9e57-12bb97331649.png

4、結果對比

4.1 場景點云獲取

為了驗證算法的可行性,搭建系統硬件,如圖3 所示,系統 包 括 靶 標 (尺 寸 規 格:棋 盤 格 角 點 數 為 5×7,方格大小為 34 mm×34mm)、雙目攝像機 (MER-500-7UM)、8mm定焦鏡頭、投影儀(BenQ) 和上位機[2.53GHzIntel(R)Core (TM)2Duo CPU,2GBRAM]。

1ac1e95a-cf69-11eb-9e57-12bb97331649.png

待測場景如圖4(a)~(c)所示, RGB-D點云采用投影儀投射格雷碼編碼光柵和攝像機拍攝其光柵解碼所得,其中包含1幅明、暗視場 圖像以及40幅正交格雷碼編碼光柵圖像。建立三個層疊的米袋場景(場景1#、2#、3#),分別獲取整個場景并分割其米袋區域點云數據。根據張氏標定方法建立的靶標坐標系,獲得外參數矩陣[R3×3t3×1],將三個場景點云映射到世界坐標系中,場景圖片在靶標坐標系中的點云如圖 4(d)~(f)所示。

1ada4afe-cf69-11eb-9e57-12bb97331649.png

利用圖像閾值與點云關系實現點云分割,首先獲得場景RGB圖,利用標定參數進行徑向與切向畸變校正,結果如圖5(a)所示;利用最大類間方差法 (Otsu)對校正后的場景圖進行處理,以突出感興趣區域,結果如圖5(b)所示。

其次,對感興趣區域中的空洞進行形態學處理,即空洞填充;建立點云坐標與圖像像素坐標的映射關系,并判斷所映射的點云是否在圖像感興趣區域里。最后分割出映射到感興趣區域的點云數據,如圖5(c)所示。

采用靶標坐標系與點云區域實現點云分割,首先測量并確定目標物體的待放置空間區域,把靶標板放置在待測量物體區域內,根據靶標板手工測量或設計的規格參數確定 X 軸偏移量 Δx、Y 軸偏移 量 Δy 和靶標板厚度 Δz。其次,在攝像機標定過程 中,確定世界坐標系 X 軸和Y 軸方向,如圖5(d)所示;并利用(6)、(7)式把相對于攝像機坐標系的點云映射到依據靶標板所建立的世界坐標系中,如圖5(e)所示。最后,利用參考測量限定目標物體放置區域,實現目標點云分割,如圖5(f)所示。

在圖像閾值和靶標世界坐標系的基礎上可采用點云空間投影進行點云分割,首先測量并確定目標物體的待放置空間區域,把靶標放置在待測量物體的區域內,確定X軸偏移量Δx、Y 軸偏移量 Δy 和靶標板厚度 Δz。其次,在攝像機標定過程中,確定世界坐標系X 軸和Y 軸方向。利用(9)式把點云視角變換至場景俯視角度,利用(13)、(14)式把三維點云映射到二維圖像中,如圖5(g)所示。

利用形態學對獲得的二維圖像進行膨脹處理,如圖5(h)所示, 利 用連通域方法進行感興趣區域圖像分割,如圖5(i) 所示。最后根據建立的點云與像素之間的映射關系, 還原圖像閾值分割所對應的點云區域,如圖5(j)所示。

1b0000dc-cf69-11eb-9e57-12bb97331649.png

4.2 結果對比分析

點云分割實驗分別采用圖像閾值分割 (算法 I)、靶標坐標系(算法II)、空間投影(算法III)以及與 Halcon中的基于區域的方法(算法Ⅳ)進行對比分析,對不同算法的參考點云總數和分割后點云數 進行對比,如表1所示。

1b1d90de-cf69-11eb-9e57-12bb97331649.png

4種方法實現的點云分割(場景1#~3#的點云區域)結果如圖6所示。利用圖像閾值和點云映 射關系實現的點云分割如圖6(a)~(c)所示。立體相機的外參數誤差和相機非線性映射關系等導致攝 像機坐標系下的點云坐標與圖像像素坐標的對應關系存在一定的誤差。與此同時,點云分割密度直接受圖像閾值分割好壞的影響,在場景復雜且感興趣區域閾值分割較差的情況下,點云分割不理想。采用靶標世界坐標系和點云區域模型實現的點云分割 如圖6(d)~ (f)所示。

根據靶標坐標系的點云分割,需要測量感興趣區域的物理空間區域和應用攝像機RGB圖像建立相應的參考坐標系,根據測量目 標區域范圍可在不改變點云密度的情況下快速有效 地分割出目標物點云。基于空間投影的點云分割方法,在目標物區域建立世界坐標系,利用坐標系變換 改變目標物點云投射視角,以突出目標物的閾值特征,實現點云分割,如圖6(g)~(i)所示。基于空間投影的點云分割結果邊界清晰且質量較佳,但由于其融合圖像閾值和靶標坐標系算法,其執行速度相 對慢一些。Halcon視覺開發平臺中基于區域的點云分割方法,采用點云三角化后,根據區域的點、直徑、三角等結構元素數值選定點云區域,結果如圖 6(j)~(l)所示。

1b4f6686-cf69-11eb-9e57-12bb97331649.png

責任編輯:lq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 成像技術
    +關注

    關注

    4

    文章

    288

    瀏覽量

    31437
  • 分割技術
    +關注

    關注

    0

    文章

    4

    瀏覽量

    6222
  • 深度學習
    +關注

    關注

    73

    文章

    5493

    瀏覽量

    121001

原文標題:采用空間投影的深度圖像點云分割

文章出處:【微信號:vision263com,微信公眾號:新機器視覺】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    基于深度學習的三維分類方法

    近年來,云表示已成為計算機視覺領域的研究熱點之,并廣泛應用于自動駕駛、虛擬現實、機器人等許多領域。雖然深度學習技術在處理常規結構化的二維網格圖像數據方面取得了巨大成功,但在處理不規則、非結構化的
    的頭像 發表于 10-29 09:43 ?223次閱讀
    基于深度學習的三維<b class='flag-5'>點</b><b class='flag-5'>云</b>分類方法

    什么是三維分割

    是世界的一種非結構化三維數據表示,通常由激光雷達傳感器、立體相機或深度傳感器采集。它由系列單個組成,每個
    的頭像 發表于 10-29 09:21 ?140次閱讀

    輸電線路激光雷達監測裝置的功能特點和技術參數介紹

    鼎信智慧輸電線路激光雷達監測裝置DX-WPS100-JG2,采用普光、夜視、激光雷達體化設計,
    的頭像 發表于 10-12 09:58 ?248次閱讀

    激光雷達數據包含哪些信息

    激光雷達(LiDAR)是一種利用激光技術進行距離測量的遙感技術。它通過發射激光脈沖并接收反射回來的光束,來測量物體與激光雷達系統之間的距離。激光雷達廣泛應用于自動駕駛、地理信息系統(GIS
    的頭像 發表于 08-29 17:18 ?783次閱讀

    友思特方案 基于三維實現PCB裝配螺絲視覺檢測

    三維是完成精密化 PCB 檢測的最新視覺技術。友思特 Saccde Vision 視覺掃描系統,采用先進的三維成像技術和算法輸出直觀點云
    的頭像 發表于 08-28 16:35 ?268次閱讀
    友思特方案  基于三維<b class='flag-5'>點</b><b class='flag-5'>云</b>實現PCB裝配螺絲視覺檢測

    如何理解計算?

    計算的工作原理是什么? 計算和傳統IT技術的區別? 華納如何幫助您實現計算? 什么是
    發表于 08-16 17:02

    友思特案例 | 自研創新!三維工件尺寸測量及處理解決方案

    3D相機等新型傳感器的發展克服了傳統工件尺寸測量的各種局限,可獲取豐富的三維數據。友思特提供了一種工件3D尺寸測量和
    的頭像 發表于 06-13 14:13 ?358次閱讀
    友思特案例 | 自研創新!三維工件尺寸測量及<b class='flag-5'>點</b><b class='flag-5'>云</b>處理解決方案

    千元投影市場又現新挑戰者,大眼橙c1d高亮投影上市

    馬上臨近2024年的618大促,投影儀行業迎來了新的新品上市潮,多款不同價位的投影儀新品開始上市發售,今天,智能投影儀頭部企業大眼橙也推出了款千元級別的高亮度新品
    的頭像 發表于 04-26 15:21 ?707次閱讀
    千元<b class='flag-5'>投影</b>市場又現新挑戰者,大眼橙c1<b class='flag-5'>d</b>高亮<b class='flag-5'>云</b>臺<b class='flag-5'>投影</b>上市

    常用的RGB-D SLAM解決方案

    BundleFusion是一種稠密的實時室內場景三維重建算法框架。輸入為RGB-D相機采集的并且是對齊好的RGB圖像和深度圖的數據流。輸出為重建好的稠密三維場景模型。
    的頭像 發表于 04-16 09:37 ?906次閱讀
    常用的<b class='flag-5'>RGB-D</b> SLAM解決方案

    基于深度學習的方法在處理3D進行缺陷分類應用

    背景部分介紹了3D應用領域中公開可訪問的數據集的重要性,這些數據集對于分析和比較各種模型至關重要。研究人員專門設計了各種數據集,包括用于3D形狀分類、3
    的頭像 發表于 02-22 16:16 ?1029次閱讀
    基于深度學習的方法在處理3<b class='flag-5'>D</b><b class='flag-5'>點</b><b class='flag-5'>云</b>進行缺陷分類應用

    移動協作機器人的RGB-D感知的端到端處理方案

    本文提出了一種用于具有雙目視覺的自主機器人的三維語義場景感知的端到端流程。該流程包括實例分割、特征匹配和集配準。首先,利用RGB圖像進行單視圖三維語義場景
    發表于 02-21 15:55 ?631次閱讀
    移動協作機器人的<b class='flag-5'>RGB-D</b>感知的端到端處理方案

    15倍加速!SuperCluster:最強3D全景分割

    S3DIS Area 5的大規模全景分割結果,共有9.2 M個( 78M預采樣)和1863個真實"物"對象。SuperCluster可以在3.3秒內在單塊V100 - 32GB GPU上次推理處理如此大的掃描,并達到50.1
    的頭像 發表于 01-22 14:03 ?593次閱讀
    15倍加速!SuperCluster:最強3<b class='flag-5'>D</b><b class='flag-5'>點</b><b class='flag-5'>云</b>全景<b class='flag-5'>分割</b>!

    應用于3D對象檢測的深度學習方法

    隨著激光雷達傳感器(“光檢測和測距”的縮寫,有時稱為“激光掃描”,現在在些最新的 iPhone 上可用)或 RGB-D 攝像頭(一種 RGB-D 攝像頭)的興起,3
    的頭像 發表于 01-03 10:32 ?946次閱讀
    兩<b class='flag-5'>種</b>應用于3<b class='flag-5'>D</b>對象檢測的<b class='flag-5'>點</b><b class='flag-5'>云</b>深度學習方法

    基于3D的多任務模型在板端實現高效部署

    對于自動駕駛應用來說,3D 場景感知至關重要。3D數據就是具有3D特征的數據。方面,3
    的頭像 發表于 12-28 16:35 ?1405次閱讀
    基于3<b class='flag-5'>D</b><b class='flag-5'>點</b><b class='flag-5'>云</b>的多任務模型在板端實現高效部署

    通過將異步獲取的圖像與LiDAR對準的方案

    實現圖像與其重建對象之間的精確2D-3D對應關系對于準確的圖像定位至關重要,一種有前景的方法涉及在圖像和激光雷達平面之間建立對應關系,激光雷達平面可以被視為來自激光雷達地圖的重建對
    發表于 12-12 14:46 ?713次閱讀