An enhancement method for low light images in coal mines
-
摘要: 煤矿井下照明有限，并且具有大量粉尘、雾气，使得采集到的图像对比度低、光照不均、细节信息弱，并含有大量噪声。基于传统模型的图像增强方法鲁棒性较差，常会引起图像过度增强和色彩失真；基于深度学习的图像增强方法大多没有考虑增强引起的噪声放大。针对上述问题，提出了一种面向煤矿井下低光照图像的增强方法。采用卷积神经网络构建图像增强网络，该网络包括特征提取模块、增强模块和融合模块。特征提取模块对输入图像进行不同程度的卷积，提取多层次的图像特征，得到多个特征层；增强模块对提取到的特征层通过子网络进行增强，强化不同程度的细节特征；融合模块将增强后的特征层进行融合，输出增强图像。之后通过结构损失函数、内容损失函数和区域损失函数的约束，提高图像质量并有效抑制图像颜色失真与噪声放大，得到最终的增强图像。实验结果表明，该方法能够有效提升煤矿井下低光照图像的亮度和对比度，并且具有较强的噪声抑制能力，使图像能更好地恢复原有的细节信息，同时避免出现过曝光或颜色失真。Abstract: Underground lighting in coal mines is limited. There is a large amount of dust and mist, resulting in low contrast, uneven lighting, weak detail information, and a large amount of noise in the collected images. The image enhancement methods based on traditional models have poor robustness, often causing excessive image enhancement and color distortion. Most image enhancement methods based on deep learning do not consider the noise amplification caused by enhancement. In order to solve the above problems, an enhancement method for low light images in coal mines is proposed. The image enhancement network is constructed by using convolutional neural networks. The network includes feature extraction modules, enhancement modules, and fusion modules. The feature extraction module convolves the input image to varying degrees, extracts multi-level image features, and obtains multiple feature layers. The enhancement module enhances the extracted feature layers through sub-networks to enhance different levels of detail features. The fusion module fuses the enhanced feature layers and outputs enhanced images. Then, through the constraints of the structure loss function, content loss function and area loss function, the image quality is improved. The image color distortion and noise amplification are effectively suppressed to obtain the final enhanced image. The experimental results show that this method can effectively improve the brightness and contrast of low light images in coal mines. The method has strong noise suppression capability, enabling the image to better restore the original details while avoiding overexposure or color distortion.
-
Keywords:
- low light images of coal mines /
- image enhancement /
- image denoising /
- deep learning /
- loss function
-
0. 引言
煤矿井下环境的复杂扰动和回采过程中煤层顶板、底板的不规则变化，造成液压支架支护位姿发生变化，可能造成支护失效，导致安全事故发生[1-3]。迅速且精确地获取液压支架支护位姿信息是当前综采工作面智能化进程中亟待攻克的关键技术挑战之一[4-5]。
在液压支架姿态感知研究方面，郭周斌[6]采用压力传感器、行程传感器和倾角传感器对液压支架位姿进行感知，但未考虑到井下恶劣环境导致传感器产生误差，未采取有效的滤波手段，缺乏多传感器间的数据融合。谢明明[7]采用双轴倾角传感器对液压支架构件的倾角数据进行采集，实现了对液压支架关键构件姿态角度的计算。王忠乐[8]利用测高传感器配合倾角传感器对液压支架高度、倾角变化情况进行分析，实现了支架姿态实时监测，但仅在底座上安装1个倾角传感器，可能导致测得的姿态与真实姿态存在较大误差。谢嘉成[9]将双轴倾角传感器布置在液压支架关键构件处，实现了对液压支架的位姿监测，但在复杂工况下监测误差可能较大。张坤等[10]利用超声波传感器与九轴姿态传感器实现了对超前液压支架姿态的感知，但仅采用卡尔曼滤波算法易陷入局部极小值点，寻优结果存在误差。崔宽宽[11]将倾角传感器部署于液压支架顶梁、底座与后连杆中，通过卡尔曼滤波算法提升位姿监测的准确性，但卡尔曼滤波算法常用于求解线性问题，而液压支架位姿感知属于非线性系统状态估计问题，可能导致估计误差偏大。Chen Ningning等[12]将研制的光纤光栅倾角传感器和光纤光栅压力传感器安装于液压支架上，实现了对液压支架位姿数据和压力数据的实时监测，虽然光纤光栅传感器具有高精度和抗电磁干扰的优点，但传感器受到噪声、振动等因素的干扰，未采用滤波算法进一步提升精度。Chen Hongyue等[13]采用广角超声波传感器与倾角传感器协同监测，通过融合算法对传感器数据进行融合，实现恶劣井下环境下液压支架的姿态感知，但仅能感知得到偏航角与横滚角数据，未涉及俯仰角数据。Gao Kuidong等[14]将拉线位移传感器、视觉传感器、惯性测量单元应用于液压支架位姿感知，并引入粒子群优化算法，但视觉传感器在井下恶劣环境中易受煤炭粉尘、外界振动等因素的影响，导致位姿感知精度不高，同时所需成本较高。
为了精确感知扰动环境下液压支架位姿，本文提出一种基于多传感器融合的液压支架位姿精确感知方法。在液压支架顶梁、掩护梁、后连杆和底座4个构件上部署九轴姿态传感器采集数据，并解算出其所在构件的横滚角、俯仰角和偏航角等位姿数据；通过无迹卡尔曼滤波（Unscented Kalman Filter，UKF）算法和改进梯度下降（Improved Gradient Descent，IGD）算法对位姿数据进行滤波处理；采用自适应加权融合算法对滤波处理后的液压支架顶梁和底座的偏航角和横滚角数据进行融合处理，实现液压支架位姿精确感知。
1. 液压支架支护位姿精确感知流程
液压支架支护位姿精确感知流程如图1所示。通过在液压支架各关键构件中部署九轴姿态传感器，解算出其所在构件的横滚角、俯仰角和偏航角等位姿数据，并通过IGD−UKF算法进行滤波处理；为消除外界振动、噪声等因素引起的液压支架顶梁和底座传感器数据误差，利用自适应加权融合算法对滤波处理后的液压支架顶梁与底座横滚角和偏航角位姿数据进行融合，输出精确的液压支架位姿数据。
![]()
图 1 液压支架支护位姿精确感知流程Figure 1. Precise perception process for position and posture of hydraulic supports2. 液压支架关键构件位姿数据解算
建立地理惯性坐标系[15]，定义正东方向为xn轴正方向，正北方向为yn轴正方向，根据右手正交坐标系定则，定义垂直于大地内部指向天空为zn轴正方向；建立液压支架顶梁坐标系，定义xb轴正方向为液压支架随采煤机推移方向，zb轴正方向垂直于液压支架顶梁向上，yb轴正方向指向液压支架一侧且与xb轴、zb轴组成右手正交坐标系。将九轴姿态传感器分别布置于液压支架顶梁、掩护梁、后连杆和底座4个构件上，如图2所示。九轴姿态传感器由三轴陀螺仪、三轴加速度计、三轴磁力计组成，分别采集所安装构件的相关数据，经解算得到所安装构件的俯仰角、横滚角和偏航角等位姿数据[16-18]，并用四元数法[19]表示。
3. 基于IGD−UKF的液压支架关键构件位姿数据滤波
在液压支架支护过程中，由于液压支架工作循环中各构件间相互运动，受摩擦、振动、噪声等扰动因素影响，若仅依靠在液压支架关键构件上九轴姿态传感器的输出数据来判断液压支架位姿，会出现较大的计算误差。因此采用IGD−UKF滤波算法[20]对液压支架关键构件的位姿数据进行滤波处理。IGD−UKF算法流程如图3所示，通过状态预测和观测预测得到变量和误差协方差矩阵，并计算增益矩阵，在目标函数的迭代过程中添加扰动因子，在状态更新中利用IGD优化UKF算法的噪声协方差，输出最优后验估计，提高复杂环境下状态估计的精度。
4. 基于自适应加权融合算法的液压支架横滚角和偏航角数据融合
液压支架随采煤机向前推进过程中，因截割量存在差别会导致底板出现凹凸不平。为使液压支架保持有效支护，即液压支架顶梁与顶板贴合、底座与底板贴合，在这种情况下可能会导致液压支架顶梁与底座发生不同角度的俯仰；但对于横滚角和偏航角来说，液压支架在支护中由于自身无法发生扭转，理论上液压支架顶梁和底座的横滚角和偏航角是相同的；但在实际工作过程中，因为振动、噪声等其他外界因素的影响，液压支架顶梁和底座的横滚角和偏航角也会出现偏差。为消除偏差，采用自适应加权融合算法对权重进行自适应分配，将多个传感器数据进行融合[21]。
自适应加权融合算法通过数学优化方法在约束条件下求解最优权重，确保融合结果满足总方差最小原则。自适应加权融合算法流程如图4所示。对经IGD−UKF滤波算法处理的液压支架顶梁和底座的横滚角和偏航角数据点进行方差求解，判断是否满足总方差最小原则，若满足则根据数据点方差大小对数据点权重进行自适应分配，以保证输出最终位姿融合结果具有较高的准确性。
最终获得的融合数据可表示为
$$ x' = \sum\limits_{i = 1}^j {{\omega _i}\bar{{x_i}} \left( k \right)} $$ (1) 式中：$ \bar{{x_i}} \left( k \right) $为传感器i采集k组数据得到的均值；$ {\omega _i} $为传感器i测得数据的权值；j为传感器个数。
融合数据的方差为
$$ {\bar \sigma ^2} = \frac{1}{j}\sum\limits_{i = 1}^j {{\omega _i}\mu _i^2} $$ (2) 式中$ \mu _i^{} $为传感器i的测量值与真实值间误差。
随着权重分配的动态调整，方差趋于减小，从而提高数据精度。
5. 液压支架支护位姿精确感知实验
搭建液压支架位姿感知实验平台，如图5所示。通过顶板控制油缸带动顶板运动，以模拟顶板对液压支架顶梁施加的压力，同时顶板和底板均可前后左右倾斜，以模拟开采中顶板和底板的变化；将HWT905−CAN九轴姿态传感器分别安装在液压支架顶梁、掩护梁、后连杆和底座上，并通过RS485−USB模块建立九轴姿态传感器与数据采集平台之间的通信；通过实验控制台控制液压支架与顶板运动，液压泵站为各液压部件的伸缩提供动力；九轴姿态传感器采集液压支架在顶梁低头和抬头、底座低头和抬头、液压支架左倾和右倾、液压支架左偏和右偏等情况下的位姿数据，采集频率为10 Hz。采集数据时对液压支架顶梁进行手动敲击，以模拟振动干扰。
![]()
图 5 液压支架位姿感知实验平台Figure 5. Experimental platform for position and posture perception of hydraulic supports5.1 IGD−UKF算法滤波效果
选取九轴姿态传感器采集并解算出的底座和顶梁各600组包含俯仰角、横滚角、偏航角的数据导入Matlab软件中，分别利用UKF算法和IGD−UKF算法进行滤波处理，效果如图6所示。可看出相对于UKF算法，IGD−UKF算法处理后的数据曲线波动趋于平缓，在抑制振荡、减小振幅上的效果明显。
![]()
图 6 UKF与IGD−UKF滤波效果对比Figure 6. Comparison of filtering effects between UKF and IGD-UKF5.2 自适应加权融合算法的融合效果
将经过IGD−UKF算法处理后的液压支架顶梁与底座的横滚角、偏航角数据导入自适应加权融合算法模型中，得到的融合结果与仅经过IGD−UKF算法处理后的液压支架顶梁与底座的横滚角、偏航角进行对比，如图7所示，可看出自适应加权融合算法抑制了顶梁与底座横滚角、俯仰角数据波动。利用Matlab软件标记出图7的最小误差与最大误差，通过提取各样本点数据的绝对误差并求解平均值，得到平均绝对误差，结果见表1，可看出自适应加权融合算法提升了液压支架位姿的感知精度。
![]()
图 7 液压支架顶梁与底座姿态角融合前后效果对比Figure 7. Comparison of effects before and after fusion of attitude angles of top beam and base of hydraulic supports表 1 自适应加权融合算法融合位姿数据误差结果Table 1. Error results of position and posture data fused by adaptive weighted fusion algorithm（°） 液压支架姿态角 最小误差 最大误差 平均绝对误差 偏航角 0.001 8 0.025 1 0.004 8 横滚角 0.001 4 0.028 1 0.004 7 6. 结论
1） 将九轴姿态传感器安装于液压支架顶梁、掩护梁、后连杆和底座进行数据采集并解算出所在构件的位姿数据，利用IGD−UKF算法对位姿数据进行滤波处理，抑制了数据振荡。通过自适应加权融合算法对滤波处理后不同构件的相同位姿数据进行融合，以减小振动等对液压支架位姿感知精度的干扰。
2） 搭建了液压支架位姿感知实验平台，开展了IGD−UKF算法滤波实验和自适应加权融合算法融合实验，得出液压支架偏航角误差为0.001 8～0.025 1°，平均绝对误差为0.004 8°，横滚角误差为0.001 4～0.028 1°，平均绝对误差为0.004 7°，实现了液压支架位姿的精确感知。
-
![]()
图 1 面向煤矿井下低光照图像的增强网络整体结构
Figure 1. Overall structure of enhancement network for underground coal mine low-light image
![]()
图 7 不同方法下图像增强效果对比
Figure 7. Comparison of image enhancement effect under different methods
![]()
图 8 不同方法下图像客观评价结果对比
Figure 8. Comparison of image objective evaluation results under different methods
![]()
图 9 不同特征层数下图像增强效果对比
Figure 9. Comparison of image enhancement effect under different feature layers
![]()
图 10 EM添加Concat层前后增强效果对比
Figure 10. Comparison of enhancement effect before and after enhancement module adding Concat layer
![]()
图 11 添加内容损失函数前后增强效果对比
Figure 11. Comparison of enhancement effect before and after adding context loss function
表 1 本文方法下图像增强客观评价结果
Table 1 Objective evaluation results of image enhancement of the proposed method
图像编号 PSNR SSIM 原始图像 增强图像 原始图像 增强图像 T112 13.54 21.89 0.43 0.78 T118 14.55 18.65 0.13 0.74 T120 12.19 21.21 0.30 0.73 
下载: 导出CSV
表 2 EM添加Concat层前后NIQE值对比
Table 2 Comparison of NIQE value before and after enhancement module adding Concat layer
图像编号 NIQE 无Concat层 添加Concat层 T801 2.41 2.35 T822 3.78 3.59 T828 4.49 4.24 T841 2.83 2.58 平均值 3.38 3.19
下载: 导出CSV
-
[1] 钱鸣高,许家林,王家臣. 再论煤炭的科学开采[J]. 煤炭学报,2018,43(1):1-13. QIAN Minggao,XU Jialin,WANG Jiachen. Further on the sustainable mining of coal[J]. Journal of China Coal Society,2018,43(1):1-13.
[2] 谢斌红,袁帅,龚大立. 基于RDB−YOLOv4的煤矿井下有遮挡行人检测[J]. 计算机工程与应用,2022,58(5):200-207. XIE Binhong,YUAN Shuai,GONG Dali. Detection of blocked pedestrians based on RDB-YOLOv4 in coal mine[J]. Computer Engineering and Applications,2022,58(5):200-207.
[3] 李少荣. 基于改进直方图均衡化的红外图像增强技术的研究[J]. 工业控制计算机,2022,35(12):52-53,56. DOI: 10.3969/j.issn.1001-182X.2022.12.019 LI Shaorong. Infrared image enhancement technology based on improved histogram equalization[J]. Industrial Control Computer,2022,35(12):52-53,56. DOI: 10.3969/j.issn.1001-182X.2022.12.019
[4] 吕侃徽,张大兴. 基于自适应直方图均衡化耦合拉普拉斯变换的红外图像增强算法[J]. 光学技术,2021,47(6):747-753. DOI: 10.13741/j.cnki.11-1879/o4.2021.06.018 LYU Kanhui,ZHANG Daxing. Infrared image enhancement algorithm based on adaptive histogram equalization coupled with Laplace transform[J]. Optical Technique,2021,47(6):747-753. DOI: 10.13741/j.cnki.11-1879/o4.2021.06.018
[5] 杨微,姚冰莹,朱晓凤. 基于Retinex理论的低照度图像增强技术研究[J]. 现代计算机,2020(29):48-54. DOI: 10.3969/j.issn.1007-1423.2020.29.008 YANG Wei,YAO Bingying,ZHU Xiaofeng. Reserch on low illumination image enhancement technology based on Retinex theory[J]. Modern Computer,2020(29):48-54. DOI: 10.3969/j.issn.1007-1423.2020.29.008
[6] 陈超. 改进单尺度Retinex算法在图像增强中的应用[J]. 计算机应用与软件,2013,30(4):55-57. DOI: 10.3969/j.issn.1000-386x.2013.04.016 CHEN Chao. Application of improved single scale Retinex algorithm in image enhancement[J]. Computer Applications and Software,2013,30(4):55-57. DOI: 10.3969/j.issn.1000-386x.2013.04.016
[7] 赵晓霞,王汝琳,李雪艳. 基于多尺度Retinex的雾天降质图象增强算法[J]. 工矿自动化,2009,35(10):62-66. ZHAO Xiaoxia,WANG Rulin,LI Xueyan. Enhancement algorithm of fog-degraded image based on multiscale Retinex[J]. Industry and Mine Automation,2009,35(10):62-66.
[8] WANG Shuhang,ZHENG Jin,HU Haimiao,et al. Naturalness preserved enhancement algorithm for non-uniform illumination images[J]. IEEE Transactions on Image Processing,2013,22(9):3538-3548. DOI: 10.1109/TIP.2013.2261309
[9] GUO Xiaojie,LI Yu,LING Haibin. LIME:low-light image enhancement via illumination map estimation[J]. IEEE Transactions on Image Processing,2016,26(2):982-993.
[10] 胡建平,郝梦云,杜影,等. 结构和纹理感知的Retinex融合红外与可见光图像[J]. 光学精密工程,2022,30(24):3225-3238. DOI: 10.37188/OPE.20223024.3225 HU Jianping,HAO Mengyun,DU Ying,et al. Fusion of infrared and visible images via structure and texture-aware Retinex[J]. Optics and Precision Engineering,2022,30(24):3225-3238. DOI: 10.37188/OPE.20223024.3225
[11] DONG Xuan, WANG Guan, PANG Yi, et al. Fast efficient algorithm for enhancement of low lighting video[C]. IEEE International Conference on Multimedia and Expo, Barcelona, 2011: 1-6.
[12] LORE K G,AKINTAYO A,SARKAR S. LLNet:a deep autoencoder approach to natural low-light image enhancement[J]. Pattern Recognition,2017,61:650-662. DOI: 10.1016/j.patcog.2016.06.008
[13] TAO Li, ZHU Chuang, XIANG Guoqing, et al. LLCNN: a convolutional neural network for low-light image enhancement[C]. IEEE Visual Communications and Image Processing, Petersburg, 2017: 10-13.
[14] WANG Wenjing, WEI Chen, YANG Wenhan, et al. GLADNet: low-light enhancement network with global awareness[C]. 13th IEEE International Conference on Automatic Face & Gesture Recognition, Xi'an, 2018: 15-19.
[15] WEI Chen, WANG Wenjing, YANG Wenhan, et al. Deep Retinex decomposition for low-light enhancement[C]. British Machine Vision Conference, Newcastle, 2018: 1-12.
[16] 王满利, 张航, 李佳悦, 等. 基于深度神经网络的矿井下低光照图像增强算法[J/OL]. 煤炭科学技术: 1-13[2023-04-20]. https://doi.org/10.13199/j.cnki.cst.2022-1626. WANG Manli, ZHANG Hang, LI Jiayue, et al. Deep neural network-based image enhancement algorithm for low-illumination images underground mines[J/OL]. Coal Science and Technology: 1-13[2023-04-20]. https://doi.org/10.13199/j.cnki.cst.2022-1626.
[17] GUO Chunle, LI Chongyi, GUO Jichang, et al. Zero-reference deep curve estimation for low-light image enhancement[C]. IEEE/CVF Conference on Computer Vision and Pattern Recognition, Seattle, 2020: 13-19.
[18] LYU Feifan, LU Feng, WU Jianhua, et al. MBLLEN: low-light image/video enhancement using CNNs[C]. British Machine Vision Conference, Newcastle, 2018: 220-233.
[19] 朱新山,姚思如,孙彪,等. 图像质量评价:融合视觉特性与结构相似性指标[J]. 哈尔滨工业大学学报,2018,50(5):121-128. ZHU Xinshan,YAO Siru,SUN Biao,et al. Image quality assessment:combining the characteristics of HVS and structural similarity index[J]. Journal of Harbin Institute of Technology,2018,50(5):121-128.
[20] 孙彦景,杨玉芬,刘东林,等. 基于内在生成机制的多尺度结构相似性图像质量评价[J]. 电子与信息学报,2016,38(1):127-134. SUN Yanjing,YANG Yufen,LIU Donglin,et al. Multiple-scale structural similarity image quality assessment based on internal generative mechanism[J]. Journal of Electronics & Information Technology,2016,38(1):127-134.
[21] 单月,刘段,万晓霞. 无参考图像质量评价研究现状与前景分析[J]. 包装工程,2022,43(13):296-304. DOI: 10.19554/j.cnki.1001-3563.2022.13.037 SHAN Yue,LIU Duan,WAN Xiaoxia. Current research status and prospect of no-reference image quality assessment[J]. Packaging Engineering,2022,43(13):296-304. DOI: 10.19554/j.cnki.1001-3563.2022.13.037
计量
- 文章访问数: 531
- HTML全文浏览量: 219
- PDF下载量: 106
