基于深度相机的ORB-SLAM2在矿井救援空间构建应用.pdf
《基于深度相机的ORB-SLAM2在矿井救援空间构建应用.pdf》由会员分享,可在线阅读,更多相关《基于深度相机的ORB-SLAM2在矿井救援空间构建应用.pdf(10页珍藏版)》请在咨信网上搜索。
1、矿井在发生安全事故时,由于井下空间条件不确定,救援人员很难到达矿井地下为了解决这一问题,搭建可实现空间构建且能适应潮湿、粉尘等环境的小型轻量化矿井救援机器人,以获取矿井非现场物理空间信息选择基于深度相机的O R B S L AM 作为实时框架,框架由图像预处理、跟踪、局部建图、闭环组成在图像预处理中,通过图像金字塔、灰度质心法实现O R B特征的旋转和尺度不变性在跟踪线程中,通过基于参考关键帧方法、恒速关键帧方法、重定位方法进行粗糙跟踪,再通过局部地图跟踪进行精确跟踪,估计关键帧的位姿姿态在局部线程中,进行插入和剔除冗余关键帧,通过共视图方法生成更多的地图点在闭环线程中,检测是否存在相同信息,
2、通过s i m 相似变换进行闭环校正使用TUM数据集对算法进行仿真测试,采用E VO测试RM S E误差在 m范围内,定位精度可达到厘米级借助矿井救援机器人试验平台,利用结构光相机的O R B S L AM 的方法生成真实空间三维模型,对空间构建效果进行研究与应用,为矿山救援井下智能巡检装备提供方法 关键词矿井救援;点云构建;O R B S L AM;R G B D;机器人 中图分类号T P 文献标志码A引言非煤矿山智能化是国家“十四五”重点研发计划项目之一,是实现矿业转型、解决矿井安全问题的关键方案在矿井下发生事故后,需要救援机器人能够代替救援人员,从而减少人员损伤,因此研制煤矿救援机器人具
3、有重大意义矿井在发生事故时,常规救援方式发生二次事故,导致救援人员无法及时到达事故现场,造成收集分析灾害现场和伤员情况滞后,从而无法及时开展探测救援工作基于此这给矿井探伤机器人的研制带来很大的动力,也给矿井安全生产和生命科学带来很大的发展潜能当前,国内外对矿井灾害救援机器人的研究力度越来越大,并将其应用到矿山事故救援中但井下潮湿、光线不足、粉尘大、岔道多、巷道路面起伏不平、井巷标识少等特殊环境特征,并且巷道侧边排水沟、各类线缆、采空区、盲巷等高风险区域较多已有的智能巡检装备存在巡检指标单一、环境适应性差、设备体型偏大等问题,给巡检机器人的机械结构提出更高要求文献 设计了可远程操作的地下探测车K
4、O R E,机器人选择六足机械结构,能在更高的环境变化范围内允许位移增大,移动性好文献 提出基于A r d u i n o的ATm e g a 微控制器(MC U),使用单片机构成了一个精度高、控制平稳、稳定性好的绝对测量系统同时使用Z i g B e e收发模块传输来自矿段的数据,以监控采矿领域挖掘机的安全工作因S L AM(S i m u l t a n e o u sL o c a l i z a t i o na n dM a p p i n g,S L AM)相关技术的不断成熟和进步,使得救援机器人可更有效地获得矿井环境的空间信息,满足救援工作的需求成为可能针对矿山环境,文献 使用了
5、手持移动激光扫描仪(m o b i l e l a s e rs c a n n e r,ML S)在油页岩矿山调查和后续提取后表面 D东 北 师 大 学 报(自 然 科 学 版)第 卷建模中的适用性实验结果表明:测量技术之间的结果差异很小,满足矿山精度要求文献 评估了S L AM技术在矿山调查和后续提取后表面 D建模中的适用性常规矿山勘察结果受勘测人员主观性的影响支持S L AM的手持式扫描仪与常规勘测结果的差异很小,精度差异在水平和垂直方向分别保持在和c m以内文献 使用了移动L i D A R系统在M i k o s z w露天花岗岩矿(波兰下西里西亚、波兰西南部)进行的测量实验,以生成
6、准确的地理空间 D点云文献 使用感官定位方法融合相机和激光数据,解决两种传感器模式的缺点该方法在粒子滤波器融合过程中结合基于视觉的位置识别、基于L i D A R的定位和里程计的优势,在运营的澳大利亚地下硬岩矿进行空间建图实验视觉S L AM包括单目、双目和R G B D在深度R G B DS L AM中,可直接获得图像中各像素间相机的距离文献 测试了K i n t i n u o u s和R T A B M a p,在暗矿环境下,能够提供更好的 D重建方面的优越性文献 开发了一个S L AM前端,该前端能够通过对(I t e r a t i v eC l o s e s tP o i n t
7、,I C P)算法分析来确定几何简化,以提高未知和极端地下环境中自主导航的鲁棒性和可靠性文献 在S L AM中引入高斯混合模型(G a u s s i a nm i x t u r em o d e l s,GMM s),适用于地下环境运行中,计算受限系统的姿态估计文献 提出了半监督测图系统,系统包括里程计、闭环、手动地图接地、地图初始化个主要组成部分,系统能在最少人工干预的情况下,构建适合地下多级矿井定位的地图文献 设计了概率模型系统的S L AM方法(p s y s t e m m e m b r a n ec o m p u t i n g,PMC S L AM),在随机性和不确定性的数
8、据运算过程中以概率的表现形式,增加建图导航的预测性文献 提出了O R B S L AM 框架,由“O R B前端图优化后端词袋回环”三线程结构,是现代S L AM视觉系统中最完善、最易使用的一种实时方案 年,文献 针对针孔相机和鱼眼相机提出了O R B S L AM 框架本文考虑矿井救援环境情况,在项目前期已设计构建三维模型的矿井救援机器人试验平台,该平台具有模拟自主涉水、爬坡、越障等复杂动作的功能本文依赖该平台基于深度相机的O R B S L AM 视觉框架,对空间构建效果进行研究与应用深度相机的O R B S L AM 矿井救援空间构建方法基于深度相机的O R B S L AM 是通过点与
9、点之间的位置关系进行空间构建,能够实时检测环路并快速重定位,融合了视觉S L AM最新研究成果整体的方法架构如图所示算法主要分为图像预处理、跟踪特征点、局部空间构建、闭环检测个并行的子线程图深度相机的O R B S L AM 矿井救援空间构建方法架构第期贯怀光,等:基于深度相机的O R B S L AM 在矿井救援空间构建应用 图像预处理在图像预处理阶段,通过图像金字塔对特征点进行分配,以满足特征点的尺度不变性(见图),图为金字塔结构,金字塔的层数越高,图像越小,提取到的特征的数量越小 第层应分配的特征点数量为NNssns()其中金字塔第层为原始图像的特征点数为N,缩放因子为s,s在提取关键点
10、的特征点中,为了保证O R B结果不随机,通过灰度质心法来计算特征点的方向,如图所示P是当前的特征点的坐标,Q是所有点的灰度质心,P Q连接的地方代表关键点方向,M 是x轴方向的灰度质心,在圆中进行横坐标加权,M 是y轴方向的灰度质心,在圆中进行纵坐标加权关键点的旋转角速度为a r c t a n M,M()()综上,一旦提取到的图片旋转,使用灰度图像质心法,保证了旋转的不变性,提高图像旋转特征鲁棒性图图像预处理金字塔处理图图像预处理灰度质心法图跟踪线程流程图 跟踪线程在跟踪线程中,只有在经过参考关键帧跟踪、恒速模型跟踪、重定位跟踪第一个阶段之后,才会经历第二个阶段局部建图跟踪阶段在跟踪部分的
11、第一个阶段目的是保证关键帧能够跟上,但估计出来的位姿不够准确,第二阶段目的是获得更多的匹配关系,对第一阶段的再次优化得到相对准确的位姿具体的框架流程图如图所示首先,判断地图是否已经初始化,如果已经初始化,就进入到S L AM模式,如果没有初始化就仅做定位模式跟踪当第一次完成地图初始化的过程中,系统状态为正常模式,检查地图点,判断地图点是否为空或者重定位因为刚进入线程,速度是,所以第一次进入是参考关键帧跟踪,完成局部地图的跟踪,再筛选关键帧在第二次进入线程中,此时关键帧已有速度,系统进入恒速模型跟踪,如果该模型跟踪不上,则回到参考关键帧跟踪;如果跟踪状态不正常时,则进入重定位跟踪,尽量去挽回跟踪
12、,如果挽回的成功需要进入局部地图跟踪过程,如果没有挽回成功,因关键帧太少,系统进行重置 个阶段的跟踪对比见表基于参考关键帧的跟踪,目的是找到当前帧中某个点和这个点匹配关系在匹配过程中通过使用B o W(B a go fW o r d s)进行加速搜索,通过前面参考帧的特征点,搜索前面已经存在的特征点,进行匹配,匹配后使用东 北 师 大 学 报(自 然 科 学 版)第 卷g o进行(B u n d l eA d j u s t m e n t,B A)优化位姿,剔除离群点在整个过程中,使用频率较少,仅在参考帧出现没有速度信息、刚完成重定位、恒速模型跟踪失败的情况使用基于恒速模型跟踪的方法,假设物
13、体运动的时候两帧之间运动的时间是非常短的(O R B S A LM 帧率是 帧/s),相机不会发生突变,利用上一帧的速度来估计当前帧的位姿具体方法,根据上一帧的图片的特征点,使用(E f f i c i e n tp e r s p e c t i v e n p o i n t,E P n P)投影在当前帧中,在点周围某个区域里面寻找图像描述子距离最小的点进行匹配恒速模型跟踪过程使用频率最多,重定位方法是基于上面跟踪都失败的情况下,需要重新定位当前位置由于数据库存储着关键帧的信息,系统则需要找出和关键帧及当前帧匹配最近的关键帧,如果匹配的点较少,通过关键帧投影生成新的匹配表两个阶段种跟踪进行
14、比较跟踪种类应用场景使用频率基本过程基于参考关键帧跟踪(a)没有速度信息(b)刚 完 成 重 定 位,没 有 速 度信息(c)恒速模型跟踪失败的时候较少,仅参考帧出现小问题的时候才使用(a)匹配方法B o W,匹配关键帧在同一帧下的特征点(b)B A优化位姿,位姿比较粗糙基于恒速模型跟踪(a)应用时间最多,只用到上一帧的信息最多(a)用恒速模型先估计初始的位姿,用上一帧和上上帧的变化,作用到当前帧上,预测当前帧的位姿(b)对粗糙的位姿进行投影匹配,将前一帧的特征点根据初始的位姿投到候选点进行匹配(c)B A优化位姿,位姿比较粗糙基于重定位方法跟踪(a)跟踪丢失的时候较少(a)利用B o W找到
15、与该帧相似的候选关键帧(b)采 用E P n P计 算 位 姿 并 取 出 内 点 做B A优化(c)如果匹配点较少,通过关键帧投影生成新的匹配(d)B A优化位姿,位姿也是比较粗糙的局部地图跟踪(a)前面种跟踪方式的后处理,使用很多信息每次跟踪都使用(a)对局部地图点进行筛选,去掉不在视野内的地图点,剩下的进行匹配(b)B A优化位姿,位姿更准确前面种跟踪模式都是跟踪线程中B A优化粗糙的跟踪,只用到了当前帧或者前一帧的信息,进行匹配而局部地图跟踪是种跟踪的后处理,每次跟踪都使用 局部建图线程在局部建图线程里,针对关键帧进行处理,主要包括计算磁带B o W、生成共视图、生成地图点、剔除地图点
16、、插入关键帧、剔除冗余关键帧等目的是将关键帧和关键帧之间要进行更多的匹配,匹配到更多的 D点放到对应的地图里面,使建图更加稳定,关键帧处理之后,需要把地图点进行融合和替换,执行完队列中所有的关键帧之后进行局部B A优化,剔除离群点,结束线程在此过程中,通过共视图(见图)将生成地图点是在多个关键帧之间重新做匹配用共视图在关键帧和关键帧之间,重新生成新的地图点进行跟踪当前帧K F能够看到的是K F地图点,K F的共识关键帧K F 能看到K F 的地图点和K F 的地图点当前所有的关键帧以及子关键帧都进行遍历筛选之后,找到共视程度最高的进行遍历,搜索没有匹配上的特征点,检验投影误差,检验尺度是否连续
17、使用无向加权图的共视图,为了跟踪局部地图扩大搜索范围,去找尽量多的地图点进行投影,继而更好地进行闭环检测、重定位检测和优化当生成一些新的地图点有可能会跟原先的地图点有一些重叠或比较接近的地图点融合局部B A优化位姿和三维点,删除当前帧的共视关键帧,剔除离群点,关键帧没有被剔除则会进入到闭环线程里面如果局部线程不运行,那么跟踪不会走很长时间,运行几步系统就会丢失关键帧其原因是能被跟踪的地图点越来越少通过局部线程里面关键帧生成新的关键帧,将跟踪里面不好的地图点进行剔除掉,以及将地图点重复融合才能保障好运行时间第期贯怀光,等:基于深度相机的O R B S L AM 在矿井救援空间构建应用图共视图示意
18、图图闭环线程示意图 闭环线程闭环线程示意图见图,在运行中处和处检测到相同的信息进行闭环识别和校正更新首先通过词袋B OW查询数据库存储的关键帧,检测是否存在相同或相似的关键帧,以判断是否回到以前的位置其次在R G B D模式中,通过计算(S i m i l a r i t yT r a n s f o r m a t i o n,s i m)相似变换,O R B S L AM 使用s i m 目的是为了解决两个不同坐标系相似变换问题求得变换后的旋转R,平移t以及尺度因子s后,通过对当前的关键帧K F 没有匹配的点重新投影闭环之后的关键帧K F 上,产生新的匹配点对同理通过闭环后没有匹配的点在当
19、前关键帧中找寻更多的地图点在生成地图点的过程中如果出现了次与原来匹配相同信息,进行闭环识别再通过闭环校正将误差均摊到周围,校正完成之后会将地图更新合并,将闭环的漂移误差弥补,并整体地B A优化,该优化是对当前地图的关键帧进行轻量级的优化实验与结果分析 实验环境实验环境为U b u n t u 操作系统下的R O S M e l o d i c环境,安装g o作为计算闭环的非线性优化,O p e n C V 用于图像处理,P a n g o l i n用于视觉和导航,D b o W 用于计算位置识别,E i g e n 用于计算矩阵和数据分析安装E i g e n库和安装O p e n C V库
20、运行需要考虑U b u n t u的兼容问题,需要手动在s y s t e m h添加i n c l u d e u n i s t d h的头信息,再编译运行 矿井救援机器人试验平台设计一种实现地图构建的矿井救援机器人,其设计的整体结构如图所示其结构主要包括救援车本体()、探测系统()、控制系统()、供电系统()为了防止电路进水短路,选择 D打印技术,材料选择有机塑料P L A,提高密封性和轻便性激光雷达底板盖用螺钉与车外底壳固定,隔绝灰尘,便于保护好电路履带选用T S 型号,便于在复杂路面不平的场景运行电机选用的型号是 V 码,减速比,安置在救援车的履带上,作用是驱动车轮进行运动摄像头支撑
21、板固定深度体感摄像头,放在车的最前面,使用螺丝与外壳板进行固定,形状为长方体,为了防止在救援运动的时候摄像头抖动,无法准确地获取数据深度体感摄像头结构如图所示,静态拍照分辨率和深度分辨率是 像素,深度最大的数值是 帧/s,深度的相机工作范围是 m,使用普通的U S B 接口固定在车外壳上,作用是实时东 北 师 大 学 报(自 然 科 学 版)第 卷获得R G B D图像,包括深度图像和红外图像激光雷达选用的是单目雷达里,雷达面有R O ST O F测距S L AMT E C传感器便于直接获得雷达信息,便于激光雷达进行建图定位和导航图一种实现地图构建的矿井救援的整体结构图视觉相机结构控制系统使用
22、S TM 开发版,型号是S TM F V E T,主频为 H z,内核是C o r t e x M,频率低,寿命长,稳定性高,适用于工业领域 F l a s h大小是 k B,引脚数目为 ,L Q F P引线封装,温度范围是 ,作用是控制救援车的驱动,传递各种传感器的数据,也便于使用蓝牙控制研发基于空区探测无人车系列的S TM 控制板,如图所示控制板中嵌入MP U 、C P 串口、E L E/C C D巡线串口、PM 串口、CH 串口、I/O串口等嵌入式元件结合传感器和芯片元件用户手册绘制电路图,实现多种传感器一体的智能控制电路板,并辅助小型嵌入式移动电脑通过底层控制方法实现机器人的控制与数据
23、获取、处理与运输树莓派选用的型号是 B G,作用是处理收集到的数据图救援车内控制板结构图具体的救援车的运行步骤:将救援车进入矿井之前,启动救援车,进入矿井巷道之后,开启救援车电源,在电脑中连接救援车的蓝牙,通过电脑开启雷达装置、摄像头装置,并且检查救援车的驱动;当救援车进入到矿井困难的时候,通过R O S操作系统发布k e y b o a r d_t e l e o p话题信息,使用键盘控制车进行移动;在矿井工作日常作业中,将救援车放入矿井入口中,通过电脑控制救援车,让车缓慢进行运动,通过深度体感摄像头获取图像和深度信息,进行 D建图最后采用深度相机的O R B S L AM 方法实现空间构建
24、的工作,探测完成后,通过电脑控制救援车原路返回第期贯怀光,等:基于深度相机的O R B S L AM 在矿井救援空间构建应用图 数据集可视化运行效果 数据集模拟实验为了模拟矿井的数据,选用T UM数据集进行模拟方法试验,该数据集具有R G B彩色信息话题/c a m e r a/r g b/i m a g e_c o l o r,以及深度R G B D信息话题/c a m e r a/d e p t h/i m a g e,并且拍摄环境偏暗条件、环境凌乱、空旷等,适合模拟矿井救援环境图 是数据集r g b d_d f r e i b u r g _l o n g_o f f i c e_h o
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 深度 相机 ORB SLAM2 矿井 救援 空间 构建 应用
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。