基于多尺度梯度域引导滤波的煤矿井下图像增强方法

牟琦, 葛相甫, 王新月, 李磊, 李占利

牟琦,葛相甫,王新月,等. 基于多尺度梯度域引导滤波的煤矿井下图像增强方法[J]. 工矿自动化,2024,50(6):79-88, 111. DOI: 10.13272/j.issn.1671-251x.2023080126
引用本文: 牟琦,葛相甫,王新月,等. 基于多尺度梯度域引导滤波的煤矿井下图像增强方法[J]. 工矿自动化,2024,50(6):79-88, 111. DOI: 10.13272/j.issn.1671-251x.2023080126
MU Qi, GE Xiangfu, WANG Xinyue, et al. A coal mine underground image enhancement method based on multi-scale gradient domain guided image filtering[J]. Journal of Mine Automation,2024,50(6):79-88, 111. DOI: 10.13272/j.issn.1671-251x.2023080126
Citation: MU Qi, GE Xiangfu, WANG Xinyue, et al. A coal mine underground image enhancement method based on multi-scale gradient domain guided image filtering[J]. Journal of Mine Automation,2024,50(6):79-88, 111. DOI: 10.13272/j.issn.1671-251x.2023080126

基于多尺度梯度域引导滤波的煤矿井下图像增强方法

基金项目: 国家重点研发计划资助项目(2022YFB3304401)。
详细信息
    作者简介:

    牟琦(1974—),女,陕西西安人,副教授,博士,研究方向为计算机视觉和图像处理、人工智能,E-mail:muqi@xust.edu.cn

  • 中图分类号: TD67

A coal mine underground image enhancement method based on multi-scale gradient domain guided image filtering

  • 摘要: 煤矿井下图像存在较严重的光照不均匀和噪声干扰,现有基于Retinex的方法直接应用于煤矿井下图像增强易出现光晕伪影、边缘模糊、过增强和噪声放大等问题。针对上述问题,提出了一种基于多尺度梯度域引导滤波的煤矿井下图像增强方法。首先,将多尺度思想引入梯度域引导滤波中,实现对非均匀光照的准确估计,有效解决了增强图像时光晕伪影及边缘模糊的问题。然后,利用Retinex模型分离出光照分量和反射分量:对于光照分量,通过自适应伽马校正函数逐像素地修正光照信息,实现对图像暗区域增强的同时,抑制亮区域过增强,并使用限制对比度自适应直方图均衡化方法调整图像对比度;对于反射分量,将梯度域引导滤波与多尺度细节提升相结合,在准确去除噪声后提升纹理细节,避免了增强图像时噪声放大的问题。最后,将处理后的光照分量及反射分量融合,计算图像增益系数,并使用线性色彩恢复方法实现对原始RGB图像的逐像素增强,提升方法处理效率。实验结果表明,从主客观角度与现有方法相比,经所提方法处理后的图像在色彩保持、对比度、噪声抑制、细节保留等方面均取得了较好的增强效果,同时处理效率较高。
    Abstract: There are serious issues with uneven lighting and noise interference in coal mine underground images. The existing Retinex based methods are directly applied to enhance coal mine underground images, which are prone to problems such as halo artifacts, blurred edges, over enhancement, and noise amplification. In order to solve the above problems, a coal mine underground image enhancement method based on multi-scale gradient domain guided image filtering is proposed. Firstly, the multi-scale idea is introduced into gradient domain guided image filtering to achieve accurate estimation of non-uniform lighting, effectively solving the problems of halo artifacts and edge blurring in enhanced images. Secondly, the Retinex model is used to separate the lighting component and reflection component. For the lighting component, the lighting information is corrected pixel by pixel through an adaptive gamma correction function, which enhances the dark areas of the image while suppressing the over enhancement of the bright areas. The image contrast is adjusted using a contrast limited adaptive histogram equalization method. For the reflection component, gradient domain guided image filtering is combined with multi-scale detail enhancement to accurately remove noise and improve texture details, avoiding the problem of noise amplification during image enhancement. Finally, the processed lighting and reflection components are fused, and the image gain coefficient is calculated. The linear color restoration method is used to enhance the original RGB image pixel by pixel, improving the processing efficiency of the method. The experimental results show that, from a subjective and objective perspective, compared with existing methods, the images processed by the proposed method have achieved better enhancement effects in color preservation, contrast, noise suppression, detail preservation, and other aspects, while also having higher processing efficiency.
  • 近年来,我国煤矿安全生产形势不断好转,随着煤矿智能化技术的不断发展,煤矿“机械化换人、自动化减人”专项计划有效推动落实,采煤工作面和掘进工作面远程控制、煤矿井下车辆无人驾驶远程控制等自动化采掘技术、智能化辅助运输技术成为不断推动各项技术装备部署、积极落实减人目标的具体技术手段[1-3]。目前工作面远程控制等自动化采掘技术应用较多,减人效果显著,而智能化辅助运输技术仍有待开展系统性研究和应用。煤矿井下辅助运输承担着设备、材料、人员的运输任务,是煤矿井下生产建设的重要保障环节,根据统计,我国煤矿井下辅助运输作业人员占煤矿井下人员的1/3以上[4]。因此,研究煤矿井下自动驾驶技术、实现无人化运输,对于支撑“机械化换人、自动化减人”具有重要意义,能够为煤矿井下全面无人化生产与管理打下良好基础[5]

    当前在地面交通领域中,C−V2X(Cellular−Vehicle to Everything,蜂窝车联网)、5G等通信技术及人工智能技术的快速发展,有力推动了自动驾驶和智能网联汽车的发展。国内外主流车企先后规划了L3级以上自动驾驶车辆的实施方案。自动驾驶具有高度安全性和高度可靠性要求,只有通过C−V2X等网联化技术建立V2V(车与车)、V2I(车与路侧设备)、V2P(车与人)、V2N(车与网络)的低时延、高可靠信息传输通道,通过多维度、全方面的感知信息共享和协同控制调度,与车辆自身感知能力融合互补,才能满足自动驾驶的高度安全性和高度可靠性需求,因此,网联化的协同式自动驾驶成为国内外自动驾驶发展模式的主流技术路线。

    现阶段,自动驾驶在露天煤矿的应用具有一定的研究基础,由于露天煤矿场景相对封闭,矿卡驾驶路线固定,行驶速度较低,且露天煤矿场地开阔,GNSS(Global Navigation Satellite System,全球卫星导航系统)信号和无线通信信号传输环境均较为优越,实现自动驾驶的技术难度相对较低。集成GNSS RTK(Real Time Kinematic,实时动态)定位、激光+视觉+毫米波感知、融合信息处理与决策规划、5G+C−V2X等技术的无人矿卡已在中煤平朔集团有限公司、 华能伊敏煤电有限责任公司、紫金矿业集团青海有限公司果洛矿区、国家能源集团神华宝日希勒能源有限公司露天煤矿等现场开展了应用[6]

    井工煤矿运输环境与露天煤矿差异显著,目前公开研究成果相对较少。煤矿井下无GNSS信号覆盖,需要解决高精定位问题。巷道中照度低、遮挡物与障碍物较多、煤尘粉尘普遍存在等因素均会对单车感知产生不利影响。同时,出于安全管控和提升生产效率的需要,煤矿井下运输车辆既需要单车的自动运行,又需要统一协调调度车辆的整体运行情况,实现“人−车−巷−云”协同控制。

    本文系统梳理了地面交通领域的自动驾驶技术发展现状和技术特点,分析了煤矿井下环境对井下自动驾驶技术应用的影响,指出了煤矿井下自动驾驶研究的关键技术,构建了适用于井下网联式自动驾驶系统参考架构,介绍了井下网联式自动驾驶技术演进和发展路径。

    地面交通领域自动驾驶技术经过长期研究和试验,学术界、产业界已对技术路线形成一致共识,即基于智能化和网联化技术融合实现高等级自动驾驶(L4和L5),满足极高的安全性和可靠性要求[7]。煤矿井下自动驾驶需要面临安全生产和车辆安全运行的双重严苛要求,同样需要基于智能化和网联化技术融合互补确保高度的安全性。本节首先分析地面交通领域自动驾驶智能化和网联化技术的发展现状及技术特点,结合煤矿现场的实际需求,系统分析并指出智能化、网联化技术在煤矿井下应用的优势和关键技术问题。

    智能化技术包括感知定位技术、决策规划技术、控制执行技术。

    感知定位技术基本原理如图1所示,基于激光雷达、毫米波雷达、摄像头等对道路实际环境进行实时精确感知,结合GNSS高精定位信息,与预先制作的高精地图进行语义级特征匹配,确定自动驾驶汽车自身位置及周边物体(障碍物)位置[8]

    图  1  自动驾驶感知定位技术基本原理
    Figure  1.  Basic principle of perception positioning technology of automatic driving

    决策规划技术包括行为决策、路径规划、轨迹规划等技术,用于确定车辆运行策略。

    控制执行技术主要是通过执行车辆的动力学控制技术实现对车辆的控制,支持车辆运行策略的实现。

    网联化技术通过C−V2X的PC5直连通信接口实现V2V、V2I、V2P通信,通过Uu接口蜂窝通信实现V2N通信[9],建立人−车−路−网络之间低时延、高可靠信息传输通道,实现多维度、全方面的感知信息共享和协同调度控制,弥补车辆传感器感知盲区等不足。C−V2X技术的两类通信接口如图2所示,其中Uu接口是针对车联网需求增强的4G/5G技术。

    图  2  C−V2X通信接口
    Figure  2.  C-V2X communication interface

    煤矿井下巷道环境对智能化技术的应用有显著影响,为了实现煤矿井下智能化技术的安全可靠应用,需要针对以下关键技术开展研究:

    (1) 无GNSS的移动高精定位技术:GNSS信号无法实现井下覆盖,自动驾驶技术最为常规的GNSS RTK技术无法适用。需要基于已有精确定位技术(如超宽带(Ultra Wide Band,UWB))开展增强研究,以适应自动驾驶最高厘米级的高精度定位需求。

    (2) 激光雷达的井下现场试验:激光雷达主要包括飞行时间(Time of Flight,TOF)激光雷达和调频连续波(Frequency Modulated Continuous Wave,FMCW)激光雷达。TOF激光雷达是目前的主流技术,原理简单;FMCW激光雷达原理复杂,但能够通过匹配滤波避免多个激光雷达共存时的相互干扰。需要针对煤矿井下受限空间环境特点,在多车辆、巷道侧部署激光雷达,验证TOF激光雷达能否在相互干扰状况下稳定工作。此外,煤尘、粉尘粒度与激光雷达典型波长相近,需要验证吸收效应对检测精度的影响。

    (3) 基于毫米波雷达的井下障碍物检测技术:毫米波雷达分为脉冲式和FMCW式两类,FMCW毫米波雷达是目前主流类型。毫米波雷达能够精确测量被测目标的相对距离和相对速度,具有体积小、精度相对高、稳定性强、抗干扰能力强、不受雨雪天气影响等优点,探测距离最远可达300 m,可作为井下障碍物检测的主要技术。

    (4) 井下低照度视频实时增强和特征匹配技术:煤矿井下AI(Artificial Intelligence,人工智能)视频分析、矿山电子封条等技术应用广泛,应用门槛低,但井下低照度下能否实时完成图像增强和特征匹配需要开展针对性的现场试验[10]

    (5) 井下环境高精地图技术:高精地图技术目前在地面的应用受到地理信息安全、信息安全政策法规的限制。煤矿井下属于封闭场景,车辆、设备均可封闭管控,结合三维GIS(Geographic Information System,地理信息系统)等现有成熟技术,煤矿井下的高精地图应用壁垒显著降低。

    (6) 井下自动驾驶车辆决策规划技术:由于煤矿井下环境封闭,智慧运输的交通环境、道路分布的复杂度远低于地面交通,煤矿井下规划决策可重用地面常规技术。

    (7) 井下自动驾驶车辆控制执行技术:井下车辆线控、电子电气架构设计需要考虑防爆要求,但可重用地面常规技术。

    网联化技术在地面交通和露天煤矿应用的主流方案是C−V2X直连通信+5G蜂窝通信,井工煤矿目前主要采用5G技术开展远程驾驶应用测试。C−V2X中的LTE(Long Term Evolution,长期演进)−V2X直连通信能够提高最大20 ms空口时延[11],NR(New Radio,新空口)−V2X直连通信设计目标是3 ms空口时延,支持单播、组播、广播传输方式,并支持基于反馈的传输[12],时延更低,可靠性更高,但尚未进入技术应用阶段。目前C−V2X在煤矿井下应用的公开研究资料较少。

    煤矿5G技术近年来成为研究热点,5G系统在煤矿的建设推进迅速[13-14]。5G远程驾驶、5G+UWB车辆管理已开展了现场试验和初步应用,能够支撑V2N业务需求[15]。然而,煤矿井下通信中上行链路传输资源需求显著,因此矿用5G系统需支持1D3U的帧结构配置。煤矿井下自动驾驶的网联技术还需要聚焦其他频谱资源,以减轻5G上行传输的负载。C−V2X直连通信可使用智能交通系统专用频段,即Band47(5 855~5 925 MHz),包括工信部已经分配的5 905~5 925 MHz及5G NR−V2X潜在可能使用的40 MHz候选频谱(5 865~5 905 MHz)。

    因此,开展煤矿井下自动驾驶C−V2X直连通信研究具有显著的必要性,主要方向如下 :

    (1) 井下巷道5.9 GHz频段信号传输特性:5.9 GHz频段是专用于智能交通系统的频段,需要在煤矿井下开展信号传输特性研究,为井下C−V2X系统信号覆盖方案设计提供依据。

    (2) 井下直连通信时间同步机制:根据中国通信行业标准规定,LTE−V2X设备必选的时间同步方式为GNSS[16-17],需要针对井下无GNSS场景开展直连通信时间同步机制研究和试验。

    (3) 井下自动驾驶场景及应用协议:C−V2X应用层协议是针对地面交通领域的,还需开展井下自动驾驶场景研究,定义针对井下的应用层协议。

    (4) 多接入技术适配机制:在C−V2X+5G多种无线接入技术共存的情况下,需要构建多业务的需求模型,研究业务与接入技术映射和选择机制。

    综上分析可知,煤矿井下开展自动驾驶研究与应用存在空间封闭受限、低照度、遮挡物及障碍物较多、无GNSS信号等关键技术问题。但与地面交通领域自动驾驶技术存在无人驾驶的法规限制、多异构信息物理系统接口互通存在难题、网联化设备渗透率低、运营主体及商业模式尚不清晰、安全认证管理机构尚不明确等问题相比,煤矿井下网联化自动驾驶技术应用的前景则具有显著优势,主要体现在如下方面:

    (1) 应用目标明确:少人化、无人化的煤矿辅助运输。

    (2) 管理运营主体明确:矿方为管理方,煤矿系统服务提供商为建设服务方。

    (3) 煤矿井下自动驾驶场景封闭、路线固定,且车辆运行速度相对慢,最高运行速度为30 km/h。

    (4) 车辆智能化及网联化装备渗透率可控,具备统一装配的条件。

    (5) 煤矿5G广泛建设,已有成熟的应用案例。

    (6) 煤矿井下车辆通常为定制化开发,接口开放,不存在门槛。

    煤矿井下智能化、网联化关键技术总结见表1

    表  1  煤矿井下智能化、网联化关键技术
    Table  1.  Key technologies of underground intelligent technologies and network connected technologies
    分类细分技术技术优势需要研究或解决的技术问题
    智能化 GNSS RTK 井下不可用,需要采用其他定位技术(如UWB)
    激光雷达 检测精度高,点云数据匹配计算量相对小 成本高,需要验证TOF激光雷达的多设备相互干扰情况、煤
    尘粉尘的干扰情况
    毫米波雷达 检测精度相对高,适用于障碍物检测 目前尚未发现公开的毫米波电磁成像地图产品
    摄像头 检测精度高,技术成熟 需要验证井下低照度环境的实时特征匹配性能
    高精地图 煤矿井下地图采集制作的限制条件少 需要建立井下地图采集制作的标准体系
    决策规划 煤矿井下可重用地面经典方法和机制 需要符合煤矿井下巷道特征
    控制执行 煤矿井下可重用地面经典方法和机制 线控、电子电气架构设计需符合煤矿安全要求
    网联化 5G通信 煤矿5G建设和应用基础较好 上行资源紧张,依赖基站信号覆盖
    C−V2X直连通信 专用频段上无系统间干扰,时延低,可靠性高 需要开展5.9 GHz频段传输特性研究,研究时间同步、应用层
    协议、业务与链路的映射与选择机制
    下载: 导出CSV 
    | 显示表格

    基于对煤矿井下自动驾驶关键技术的分析,笔者提出了煤矿井下网联式自动驾驶系统参考架构,结合各项关键技术的现状及演进预期,分析了煤矿井下网联式自动驾驶演进路径。

    煤矿井下网联式自动驾驶系统参考架构如图3所示,包括煤矿井下自动驾驶车辆、井下巷道基础设施、煤矿云/边缘计算平台及煤矿自动驾驶应用服务平台。

    图  3  煤矿井下网联式自动驾驶系统参考架构
    Figure  3.  Reference architecture of underground coal mine network connected and automatic driving system

    煤矿井下自动驾驶车辆包括以下模块:

    (1) 感知定位系统:包括检测传感器、矿井高精定位系统,实现环境感知和高精定位等功能。其中检测传感器包括用于环境要素匹配的检测传感器和用于障碍物检测的传感器,前者可为低照度高清摄像头或者激光雷达,后者可以为毫米波雷达。矿井高精定位系统目前可为UWB定位系统,未来还可应用基于3GPP Release 17及其演进版本的蜂窝网定位系统,或者3GPP Release 18正在研究的直连通信定位系统。

    (2) 网联协同系统:包括C−V2X直连通信模组和5G通信模组。其中LTE−V2X直连通信宜承载交通调度指令广播和车辆行驶状态广播,NR−V2X直连通信宜承载车巷传感器数据交互共享、高等级自动驾驶规划决策等业务,5G通信宜承载井下高精地图下发和自动驾驶版本更新等业务。

    (3) 车载操作系统:包括应用开发程序、中间件、适配器等基础组件及环境感知融合、自主驾驶决策规划、车辆控制执行、车辆监测监控等算法软件的运行环境。其中,高精地图需要按照自车传感器类型进行制作,对车辆运行的全部井下环境进行采集。

    (4) 车辆基础组件:包括车辆线控系统、电子电气架构、安全动力系统等,提供车辆运行、控制等基础功能。车辆线控系统包括线控转向、线控制动、线控换挡、线控油门、线控悬挂5个关键模块,是煤矿井下自动驾驶车辆改造最为关键的环节。

    巷道应部署C−V2X RSU(Road Side Unit,路侧单元)、5G基站及感知设备等,用于提供车辆、人员、平台之间的通信链路,获取车辆运行和人员情况,提供巷道侧感知数据、平台侧控制/调度指令等,弥补单车感知不足,降低车端计算能力要求,实现车巷协同。

    巷道侧的感知设备需要具备环境因素精确感知能力,通过煤矿云/边缘计算平台的下沉或者与计算平台的高速数据交互,获取感知数据和无线定位数据融合结果,生成巷道内移动物体的结构化信息;通过C−V2X RSU广播类似地面环境的RSM(Road Safety Message,道路安全消息),实现巷道数字地理空间要素的播发和构建,是车巷协同的关键。

    煤矿云/边缘计算平台用于提供煤矿自动驾驶系统的算力资源、信息物理系统协同控制模型等。其中,信息物理系统协同控制模型需要满足“环境实时仿真+精准预测+动态控制”的要求。环境实时仿真即通过强大算力和鲁棒算法快速精确实现感知数据和无线定位数据融合,构建巷道数据空间;精准预测需要结合环境实时仿真快速分析巷道内移动物体和环境变化因素,实时提供车辆运行策略;动态控制则是对车辆运行策略的微观转化,即通过执行基于车辆动力学模型的车辆微观动作组合指令,实现车辆控制,执行车辆运行策略,实时给车辆基础组件提供可执行、可量化的指令。自动驾驶的信息物理系统协同控制模型构建是自动驾驶全息数字巷道的关键要素。

    煤矿自动驾驶应用服务平台用于为车辆远程监控、车辆自主驾驶、井下运输调度等应用场景提供服务,向上为井上人员提供监测、控制的界面操作接口,向下为计算平台提供模型更新的数据接口,为井下自动驾驶车辆提供控制指令接口。

    煤矿自动驾驶的应用目标是实现“机械化换人、自动化减人”,基于这一目标,结合当前煤矿领域相关技术发展现状及演进趋势,煤矿井下网联式自动驾驶的演进路径将经历3个阶段,最终实现高度无人化的智能运输。

    (1) 第1阶段:远程自动驾驶。当前我国煤矿5G通信系统建设已进入快速发展期,已经具备支持3GPP定义的远程自动驾驶的基础能力。煤矿井下远程自动驾驶主要通过高精摄像装置实时回传车辆运行的现场环境,结合UWB高精定位结果,依托5G低时延、大带宽、高可靠的特性,位于地面远程控制中心的操作人员根据现场图像实时操作远程控制装置,下发对应指令给车辆执行。

    煤矿井下网联式自动驾驶的第1阶段实现车辆驾驶人员由井下向井上的转移。我国目前已拥有了煤矿井下远程驾驶的应用案例,如国家能源集团神东煤炭上湾煤矿、陕煤榆北煤业公司曹家滩煤矿成功开展了测试验证和初步应用。

    (2) 第2阶段:具有紧急接管边界的车辆自动驾驶。3GPP TS 22.186定义了支持自动驾驶的车联网应用场景指标[18]表2),远程驾驶应用基于蜂窝网络(5G),但高级自动驾驶、传感器共享等场景还需要依托C−V2X直连通信实现车巷协同。

    表  2  3GPP TS22.186定义的车联网应用场景指标
    Table  2.  Application scene indicator of V2X defined in 3GPP TS 22.186
    应用场景时延/ms可靠性/%数据传输速率/(Mbit·s−1)
    远程驾驶599.99925(上行)
    1(下行)
    车辆编队1099.9965
    高级自动驾驶399.99953
    传感器数据共享399.9991000
    下载: 导出CSV 
    | 显示表格

    煤矿井下网联式自动驾驶同样需要依托演进的自动驾驶网联化和智能化技术不断发展。C−V2X中的NR直连通信能够支持单播、组播、广播通信方式,承载多样化业务传输;支持直连通信反馈机制,终端自主资源分配机制下支持重评估和抢占机制,具有高可靠传输性能;支持多种基带参数配置,能够实现在最低0.125 ms时域资源粒度下支持更低时延性能;预期即将开展国内标准化及相关的测试验证。随着C−V2X直连通信设备和各种感知定位设备在煤矿井下现场系统性试验验证的开展,煤矿井下网联式自动驾驶的第2阶段将向基于车巷协同的车辆自动驾驶方向发展,自动驾驶的通信资源和链路可以向低时延、高可靠、大带宽的C−V2X直连通信转移,从而减轻5G网络的上行链路负载。但限于自动驾驶和井下生产的双重安全性要求,需设定自动驾驶车辆紧急接管的边界条件,将远程遥控自动驾驶作为接管手段,井上操作人员具有最高控制权,确保井下自动驾驶的安全性。

    (3) 第3阶段:车辆自主驾驶。煤矿井下自动驾驶最终目标是实现高度无人化的智能运输。随着自动驾驶技术、煤矿井下智能化和网联化技术的长期试验、系统验证,随着自动驾驶的功能安全和预期功能安全关键机制的全面细化明确,煤矿井下的自动驾驶安全边界将得到明确定义,以实现高度安全可靠的车辆自主驾驶。

    煤矿井下网联式自动驾驶第3阶段将实现“人−车−巷−云”协同控制、安全高效自主运行、支持高度无人化的智能运输。

    (1) 系统分析了地面自动驾驶智能化技术和C−V2X、5G等网联化技术的现状及特点;结合煤矿井下需求与环境,详细分析并指出智能化、网联化技术在煤矿井下自动驾驶应用的优势和技术问题,指出煤矿井下开展自动驾驶研究与应用存在空间封闭受限、低照度、遮挡物及障碍物较多、无GNSS信号等关键技术问题,但具有少人化/无人化需求显著、运营管理主体明确、场景封闭、路线固定、车速较慢、渗透率可控、5G建设基础较好、接口易开放等显著优势。

    (2) 提出了煤矿井下网联式自动驾驶系统参考架构,包括井下自动驾驶车辆、巷道基础设施、煤矿云/边缘计算平台、煤矿自动驾驶应用服务平台;设计了煤矿自动驾驶车辆架构,包括感知定位系统、网联协同系统、车载操作系统、车辆基础组件。

    (3) 提出煤矿井下网联式自动驾驶演进将经历3个阶段:第1阶段为远程自动驾驶,实现车辆驾驶人员从井下到井上的转移;第2阶段为具有紧急接管边界的车辆自动驾驶,以车辆自动驾驶为主,将远程紧急接管作为安全保障手段;第3阶段为“人−车−巷−云”协同控制,井下自动驾驶车辆安全高效自主运行,实现高度无人化智能运输。

  • 图  1   基于多尺度GDGIF的煤矿井下图像增强方法流程

    Figure  1.   Flow of coal mine underground images enhancement method based on multi-scale gradient domain guided filtering (GDGIF)

    图  2   自适应伽马校正结果

    Figure  2.   Adaptive gamma correction results

    图  3   光照不足图像增强结果

    Figure  3.   Enhancement results of insufficient lighting images

    图  4   光照不均匀图像增强结果

    Figure  4.   Enhancement results of uneven lighting images

    图  5   有噪声图像增强结果

    Figure  5.   Enhancement results of noisy images

    图  6   图像增强细节对比

    Figure  6.   Image enhancement detail contrast

    图  7   光照分量处理结果主观对比

    Figure  7.   Subjective comparison of lighting component processing results

    图  8   反射分量处理结果主观对比

    Figure  8.   Subjective comparison of reflection component processing results

    图  9   采用线性色彩恢复前后运行时间对比

    Figure  9.   Comparison of running time before and after linear color restoration

    表  1   光照不足图像增强后的客观指标对比

    Table  1   Comparison of objective indicators of insufficient lighting images after enhancement

    图像 方法 对比度变化率 色调变化率 能量梯度/1011 方差/109 自相关函数/109
    场景1 原图 3.7006 0.0285 0.0651 0.0550
    MSR方法 5.8865 24.8618 0.0281 4.0457 1.6612 1.5083
    MSRCR方法 6.5680 8.7692 1.1135 3.1408 0.6210 0.4817
    NPE方法 6.0668 32.4399 0.0578 7.3827 2.3033 2.0880
    文献[13]方法 5.3232 11.7606 0.0025 3.7495 0.8331 0.6932
    SRLIE方法 6.3004 7.1466 0.0819 0.6554 0.5423 0.4789
    文献[16]方法 5.4670 9.4856 0.0071 3.3099 0.6775 0.5279
    本文方法 6.0595 27.1673 0.0170 18.4625 1.8830 1.6420
    场景2 原图 2.2705 0.0142 0.0419 0.0395
    MSR方法 4.6642 36.6351 0.1440 3.4645 1.5758 1.4915
    MSRCR方法 6.8957 29.4952 1.0857 9.3618 1.2672 1.0972
    NPE方法 4.5409 72.8817 0.0742 12.4535 3.1708 3.0054
    文献[13]方法 3.7798 20.1045 0.0607 4.3327 0.8909 0.8446
    SRLIE方法 5.5819 8.8160 0.0736 0.4410 0.4157 0.4010
    文献[16]方法 3.9513 9.7210 0.0700 2.2207 0.4481 0.4014
    本文方法 4.4048 38.0720 0.0988 14.9444 1.6573 1.5196
    场景3 原图 6.1595 0.6860 0.2941 0.2667
    MSR方法 7.3049 0.6172 0.0230 3.7913 0.5044 0.4251
    MSRCR方法 7.4457 1.4760 0.4080 6.6102 0.7489 0.6135
    NPE方法 7.4347 0.8684 0.0052 2.9075 0.5706 0.4758
    文献[13]方法 6.9556 1.0378 0.0267 3.3654 0.6071 0.5372
    SRLIE方法 7.2143 0.7327 0.0013 6.0787 0.5241 0.4243
    文献[16]方法 7.2542 0.9368 0.0069 5.8487 0.5859 0.4777
    本文方法 7.5721 2.1572 0.0060 15.1204 0.9552 0.7847
    下载: 导出CSV

    表  2   光照不均匀图像增强后的客观指标对比

    Table  2   Comparison of objective indicators of uneven lighting images after enhancement

    图像 方法 对比度变化率 色调变化率 能量梯度/1011 方差/109 自相关函数/109
    场景4 原图 6.3582 0.1057 0.7753 0.7626
    MSR方法 6.8935 −0.3635 0.1976 0.0276 0.4907 0.4531
    MSRCR方法 7.2880 0.7271 0.4387 0.9089 1.3167 1.2255
    NPE方法 7.1122 −0.0713 0.1279 0.2362 0.7256 0.6748
    文献[13]方法 6.8919 0.4901 0.0815 0.2372 1.1574 1.1317
    SRLIE方法 6.9172 0.0049 0.1109 0.4741 0.7981 0.7585
    文献[16]方法 7.0076 0.1236 0.1041 0.4953 0.8753 0.8257
    本文方法 7.3756 0.7282 0.1104 0.1477 1.3624 1.2867
    场景5 原图 6.8731 4.1316 2.0520 1.9688
    MSR方法 7.4342 −0.2985 0.0049 6.9938 2.0619 1.9503
    MSRCR方法 7.5521 −0.3144 0.3124 13.6200 1.4388 1.2524
    NPE方法 7.3378 −0.3520 0.0035 3.6159 1.5882 1.4974
    文献[13]方法 7.1349 −0.0272 0.0032 5.4609 2.0646 1.9621
    SRLIE方法 7.4616 −0.2029 0.0041 14.7030 2.0804 1.8946
    文献[16]方法 7.3964 0.0362 0.0057 11.6369 2.3043 2.2220
    本文方法 7.6240 −0.0095 0.0053 21.2435 2.3077 2.0989
    场景6 原图 6.9058 2.1236 1.2952 1.1667
    MSR方法 7.3849 −0.2688 0.0278 4.2159 0.9806 0.8356
    MSRCR方法 7.5106 0.1842 0.0590 5.6076 1.4880 1.4880
    NPE方法 7.5147 −0.0426 0.0021 2.9998 1.2639 1.1009
    文献[13]方法 7.2822 0.4765 0.0146 3.8806 1.9159 1.7521
    SRLIE方法 7.5766 0.1840 0.0182 15.0448 1.5822 1.2868
    文献[16]方法 7.6350 0.3503 0.0071 9.6458 1.7720 1.4997
    本文方法 7.6898 0.6975 0.0046 15.1745 2.2122 1.9108
    下载: 导出CSV

    表  3   有噪声图像增强后的客观指标对比

    Table  3   Comparison of objective indicators of noisy images after enhancement

    图像 方法 对比度变化率 色调变化率 能量梯度/1011 方差/109 自相关函数/109
    场景7 原图 7.4796 1.1089 1.9205 1.8342
    MSR方法 6.7098 −0.6366 0.1581 0.9117 0.6847 0.5985
    MSRCR方法 7.5967 0.1879 0.3258 12.7740 2.3104 2.0120
    NPE方法 7.3893 −0.2476 0.0021 1.2927 1.4258 1.3161
    文献[13]方法 7.5420 0.0686 0.0032 1.3811 2.0567 1.9576
    SRLIE方法 7.4700 −0.1171 0.0010 6.5847 1.6743 1.4649
    文献[16]方法 7.5153 −0.0468 0.0022 4.8278 1.8161 1.6207
    本文方法 7.6492 0.0988 0.0008 8.1902 2.1155 1.8958
    场景8 原图 7.5702 0.8719 0.5965 0.6024
    MSR方法 7.2635 −0.4969 0.0956 2.1923 0.3936 0.3317
    MSRCR方法 7.6873 −0.2781 0.7638 7.3505 0.5826 0.4513
    NPE方法 7.5994 −0.2304 0.0268 1.2377 0.6167 0.5484
    文献[13]方法 7.6109 −0.0994 0.0616 1.1409 0.7187 0.6616
    SRLIE方法 7.7672 −0.0684 0.0135 6.7768 0.7477 0.6147
    文献[16]方法 7.7835 −0.0220 0.0134 4.4739 0.7822 0.6681
    本文方法 7.8190 0.0970 0.0062 9.6410 0.8761 0.7370
    下载: 导出CSV

    表  4   不同方法处理图像的平均时间对比

    Table  4   Comparison of average time of images processed by different methods s

    方法 平均运行时间
    MSR方法 0.510
    MSRCR方法 1.593
    NPE方法 19.109
    文献[13]方法 0.350
    SRLIE方法 75.561
    文献[16]方法 0.465
    本文方法 1.007
    下载: 导出CSV

    表  5   光照分量处理结果客观对比

    Table  5   Objective comparison of lighting component processing results

    方法 对比度变化率 色调变化率 能量梯度/1011 方差/109 自相关函数/109
    原图 7.3510 1.4961 1.5800 1.4998
    仅使用自适应伽马校正 7.7851 0.3955 0.0069 6.8291 2.2033 2.0339
    仅使用CLAHE 7.5874 1.4987 0.0076 13.4309 3.2212 3.6376
    自适应伽马校正+CLAHE 7.8128 1.3546 0.0084 14.7554 3.3903 3.1379
    下载: 导出CSV

    表  6   反射分量处理结果客观对比

    Table  6   Objective comparison of reflection component processing results

    方法 对比度变化率 色调变化率 能量梯度/1011 方差/109 自相关函数/109
    原图 7.4236 1.0021 0.6663 0.6130
    仅使用GDGIF去噪 7.6786 0.3246 0.0166 3.6185 0.8806 0.7758
    仅使用多尺度细节提升 7.7891 0.6205 0.0181 12.0516 1.0743 0.8447
    GDGIF去噪+多尺度细节提升 7.7903 0.6280 0.0154 10.8591 1.0949 0.8569
    下载: 导出CSV
  • [1] 王国法,刘峰,庞义辉,等. 煤矿智能化——煤炭工业高质量发展的核心技术支撑[J]. 煤炭学报,2019,44(2):349-357.

    WANG Guofa,LIU Feng,PANG Yihui,et al. Coal mine intellectualization:the core technology of high quality development[J]. Journal of China Coal Society,2019,44(2):349-357.

    [2] 张立亚,郝博南,孟庆勇,等. 基于HSV空间改进融合Retinex算法的井下图像增强方法[J]. 煤炭学报,2020,45(增刊1):532-540.

    ZHANG Liya,HAO Bonan,MENG Qingyong,et al. Method of image enhancement in coal mine based on improved retex fusion algorithm in HSV space[J]. Journal of China Coal Society,2020,45(S1):532-540.

    [3] 程德强,钱建生,郭星歌,等. 煤矿安全生产视频AI识别关键技术研究综述[J]. 煤炭科学技术,2023,51(2):349-365.

    CHENG Deqiang,QIAN Jiansheng,GUO Xingge,et al. Review on key technologies of AI recognition for videos in coal mine[J]. Coal Science and Technology,2023,51(2):349-365.

    [4] 张谢华,张申,方帅,等. 煤矿智能视频监控中雾尘图像的清晰化研究[J]. 煤炭学报,2014,39(1):198-204.

    ZHANG Xiehua,ZHANG Shen,FANG Shuai,et al. Clearing research on fog and dust images in coalmine intelligent video surveillance[J]. Journal of China Coal Society,2014,39(1):198-204.

    [5] 王国法,张良,李首滨,等. 煤矿无人化智能开采系统理论与技术研发进展[J]. 煤炭学报,2023,48(1):34-53.

    WANG Guofa,ZHANG Liang,LI Shoubin,et al. Progresses in theory and technological development of unmanned smart mining system[J]. Journal of China Coal Society,2023,48(1):34-53.

    [6]

    LI Chongyi,GUO Chunle,HAN Linghao,et al. Lighting the darkness in the deep learning era[Z]. 2021. DOI: 10.48550/arXiv.2104.10729.

    [7] 王焱,关南楠,刘海涛. 改进的多尺度Retinex井下图像增强算法[J]. 辽宁工程技术大学学报(自然科学版),2016,35(4):440-443. DOI: 10.11956/j.issn.1008-0562.2016.04.020

    WANG Yan,GUAN Nannan,LIU Haitao. An improved multi-scale Retinex algorithm for mine image enhancement[J]. Journal of Liaoning Technical University(Natural Science),2016,35(4):440-443. DOI: 10.11956/j.issn.1008-0562.2016.04.020

    [8] 甘建旺. 矿井图像的去噪与增强算法研究[D]. 北京:北京石油化工学院,2021.

    GAN Jianwang. Research on denoising and enhancement algorithm of mine image[D]. Beijing:Beijing Institute of Petrochemical Technology,2021.

    [9]

    JOBSON D J,RAHMAN Z,WOODELL G A. Properties and performance of a center/surround Retinex[J]. IEEE Transactions on Image Processing,1997,6(3):451-462. DOI: 10.1109/83.557356

    [10]

    JOBSON D J,RAHMAN Z. A multiscale Retinex for bridging the gap between color images and the human observation of scenes[J]. IEEE Transactions on Image Processing,1997,6(7):965-976. DOI: 10.1109/83.597272

    [11]

    RAHMAN Z,JOBSON D,WOODELL G A. Retinex processing for automatic image enhancement[J]. Journal of Electronic Imaging,2004,13(1):100-110. DOI: 10.1117/1.1636183

    [12] 程德强,郑珍,姜海龙. 一种煤矿井下图像增强算法[J]. 工矿自动化,2015,41(12):31-34.

    CHENG Deqiang,ZHENG Zhen,JIANG Hailong. An image enhancement algorithm for coal mine underground[J]. Industry and Mine Automation,2015,41(12):31-34.

    [13] 智宁,毛善君,李梅. 基于双伽马函数的煤矿井下低亮度图像增强算法[J]. 辽宁工程技术大学学报(自然科学版),2018,37(1):191-197. DOI: 10.11956/j.issn.1008-0562.2018.01.034

    ZHI Ning,MAO Shanjun,LI Mei. An enhancement algorithm for coal mine low illumination images based on bi-gamma function[J]. Journal of Liaoning Technical University(Natural Science),2018,37(1):191-197. DOI: 10.11956/j.issn.1008-0562.2018.01.034

    [14]

    HE Kaiming,SUN Jian,TANG Xiaoou. Guided image filtering[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2012,35(6):1397-1409.

    [15] 王星,白尚旺,潘理虎,等. 一种矿井图像增强算法[J]. 工矿自动化,2017,43(3):48-52.

    WANG Xing,BAI Shangwang,PAN Lihu,et al. A mine image enhancement algorithm[J]. Industry and Mine Automation,2017,43(3):48-52.

    [16] 洪炎,朱丹萍,龚平顺. 基于TopHat加权引导滤波的Retinex矿井图像增强算法[J]. 工矿自动化,2022,48(8):43-49.

    HONG Yan,ZHU Danping,GONG Pingshun. Retinex mine image enhancement algorithm based on TopHat weighted guided filtering[J]. Journal of Mine Automation,2022,48(8):43-49.

    [17] 苏波,李超,王莉. 基于多权重融合策略的Retinex矿井图像增强算法[J]. 煤炭学报,2023,48(增刊2):813-822.

    SU Bo,LI Chao,WANG Li. Mine image enhancement algorithm based on Retinex using multi-weight fusion strategy[J]. Journal of China Coal Society,2023,48(S2):813-822.

    [18]

    KOU Fei,CHEN Weihai,WEN Changyun,et al. Gradient domain guided image filtering[J]. IEEE Transactions on Image Processing,2015,24(11):4528-4539. DOI: 10.1109/TIP.2015.2468183

    [19] 马龙,马腾宇,刘日升. 低光照图像增强算法综述[J]. 中国图象图形学报,2022,27(5):1392-1409. DOI: 10.11834/jig.210852

    MA Long,MA Tengyu,LIU Risheng. The review of low-light image enhancement[J]. Journal of Image and Graphics,2022,27(5):1392-1409. DOI: 10.11834/jig.210852

    [20]

    WEI Chen,WANG Wenjing,YANG Wenhan,et al. Deep Retinex decomposition for low-light enhancement[Z]. 2018. DOI: 10.48550/arXiv.1808.04560.

    [21]

    ZHANG Yonghua,ZHANG Jiawan,GUO Xiaojie. Kindling the darkness:a practical low-light image enhancer[C]. The 27th ACM International Conference on Multimedia,Nice,2019:1632-1640.

    [22]

    JIANG He,CAI Huangkai,YANG Jie. Learning in-place residual homogeneity for image detail enhancement[C]. IEEE International Conference on Acoustics,Speech and Signal Processing,Calgary,2018:1428-1432.

    [23]

    JIANG He,ASAD M,LIU Jingjing,et al. Single image detail enhancement via metropolis theorem[J]. Multimedia Tools and Applications,2024,83(12):36329-36353.

    [24]

    WANG Liwen,LIU Zhisong,SIU W C,et al. Lightening network for low-light image enhancement[J]. IEEE Transactions on Image Processing,2020,29:7984-7996. DOI: 10.1109/TIP.2020.3008396

    [25]

    ZUIDERVELD K. Contrast limited adaptive histogram equalization[J]. Graphics Gems,1994,5:474-485.

    [26]

    KIM Y,KOH Y,LEE C,et al. Dark image enhancement based on pairwise target contrast and multi-scale detail boosting[C]. IEEE International Conference on Image Processing,Quebec City,2015:1404-1408.

    [27]

    WANG Shuhang,ZHENG Jin,HU Haimiao,et al. Naturalness preserved enhancement algorithm for non-uniform illumination images[J]. IEEE Transactions on Image Processing,2013,22(9):3538-3548. DOI: 10.1109/TIP.2013.2261309

    [28]

    LI Mading,LIU Jiaying,YANG Wenhan,et al. Structure-revealing low-light image enhancement via robust Retinex model[J]. IEEE Transactions on Image Processing,2018,27(6):2828-2841. DOI: 10.1109/TIP.2018.2810539

图(9)  /  表(6)
计量
  • 文章访问数:  128
  • HTML全文浏览量:  30
  • PDF下载量:  22
  • 被引次数: 0
出版历程
  • 收稿日期:  2023-08-30
  • 修回日期:  2024-06-21
  • 网络出版日期:  2024-06-26
  • 刊出日期:  2024-06-29

目录

/

返回文章
返回