Drill pipe counting method based on improved spatial-temporal graph convolution neural network
-
摘要: 针对现有钻杆计数方法存在劳动重复、计数误差较大、未考虑动作的时序信息等问题，提出了一种基于改进时空图卷积神经网络（MST−GCN）模型的钻杆计数方法。首先，通过矿用监控摄像头获取井下打钻视频数据，采用Alphapose算法在图像序列中提取人体的关键点信息，得到单帧图像上的人体骨架和连续图像序列上的骨架序列数据，进而构建表征人体动作的骨架序列；然后，在时空图卷积神经网络（ST−GCN）模型的基础上设计了MST−GCN模型，采用远空间分区策略关注骨架上距离较远的关键点运动信息，通过注意力机制网络SENet融合原空间特征与远空间特征，从而有效识别骨架序列上的动作类别；最后，在打钻视频上利用支持向量机辨识打钻姿势来决定是否保存骨架序列，若骨架序列长度保存到150帧则使用MST−GCN模型识别动作类别，并根据实际打钻时间设置相邻动作的识别间隔，从而记录动作数量，实现钻杆计数。实验结果表明：在自建的数据集上，MST−GCN模型的识别准确率为91.1%，比ST−GCN、Alphapose−LSTM和NST−GCN动作识别模型的准确率分别提升了6.2%，19.0%和4.8%，模型的损失值收敛在0.2以下，学习能力更强。在相同条件的打钻视频上，MST−GCN模型、人工方法和改进ResNet方法的平均误差依次为0.25，0.75，21次，说明MST−GCN模型的计数效果更好。在真实打钻1 300根的现场应用中，MST−GCN模型的平均误差为9根，误计数结果低，能够满足实际需求。Abstract: There are some problems in the existing drill pipe counting methods, such as repeated labor, large counting error, and failure to consider the timing information of actions. In order to solve the above problems, a drill pipe counting method based on an improved multi spatial-temporal graph convolution neural network (MST-GCN) model is proposed. Firstly, the video data of underground drilling is obtained through the mine monitoring camera. The Alphabose algorithm is used to extract the key points of the human body from the image sequence. The human skeleton on a single frame image and the skeleton sequence data on a continuous image sequence are obtained. The skeleton sequence representing human actions is built. Secondly, the MST-GCN model is designed based on the spatial-temporal graph convolution neural network (ST-GCN) model. The far space partition strategy is used to focus on the motion information of the key points that are far away from the skeleton. The squeeze and excitation network (SENet) is used to fuse the original space features and the far space features, so as to effectively identify the action categories on the skeleton sequence. Finally, support vector machine is used to identify the drilling pose on the drilling video to decide whether to save the skeleton sequence. If the sequence length is saved to 150 frames, the MST-GCN model is used to identify the action category. The identification interval of adjacent actions is set according to the actual drilling time, so as to record the number of actions and realize the drill pipe counting. The experimental results show that the recognition accuracy of the MST-GCN model is 91.1% on the self-built data set, which is 6.2%, 19.0% and 4.8% higher than that of ST-GCN, Alphapose-LSTM and NST-GCN, respectively. The loss value of the MST-GCN model converges below 0.2, and the learning capability is stronger. On the drilling videos under the same conditions, the average error values of the MST-GCN model, the artificial method and the improved ResNet method are 0.25, 0.75 and 21 respectively, which shows that the counting effect of the MST-GCN model is better. The average error of MST-GCN model is 9 and the miscount is low in the field application of drilling 1 300 pieces, which can meet the actual requirements.
-
Keywords:
- gas extraction /
- drilling /
- drill pipe counting /
- drilling pose /
- human skeleton /
- action recognition /
- MST-GCN model
-
0. 引言
带式输送机是矿井主运输系统的关键设备，提高其智能化水平对提高能源利用率、降低矿井运营成本、保障安全生产具有重要意义。带式输送机智能化的关键在于依据输送量的多少实现智能调速，带式输送机上煤流量的精准实时计量是当前需要解决的主要问题。
煤流量测量方法主要分为接触式和非接触式。目前，在煤矿场景中常用的接触式测量方法是电子胶带秤，电子胶带秤具有检测精度较高、检测结果直接的优点，但对安装环境、带式输送机工况、物料特性都有一定的要求，且依赖人工定期校准和维护[1]。非接触式测量方法中应用较多的主要包括二维图像法、双目视觉法、激光雷达法。二维图像法是通过分析带式输送机输煤图像，分别提取出煤和输煤胶带的边缘，利用煤占胶带的比例估计煤量，是一种定性的分析方法[2-3]。双目视觉法是利用预先标定的双目摄像头采集输煤图像，进行图像特征匹配和深度值计算，利用一段区域内的三维坐标解算输煤量[4]。激光雷达法利用激光雷达分别扫描带式输送机空载状态和输煤状态下的表面点云，对煤料的横截面面积进行采样计算，并在胶带输送方向上进行积分得到输煤量[5]。在煤矿井下输煤场景中，需要在斜巷中进行煤量测量，但电子胶带秤一般安装在水平地面上，以保证测量精度，因此，煤矿井下输煤量检测的研究方向为非接触式测量[6]。在定量计算输煤量的方法中，双目视觉方法属于被动式测量，受测量环境复杂的光照条件及煤料单一的颜色纹理的影响，测量精度较低[7]。在常规的双目视觉系统中，视差计算依赖于图像特征点提取匹配[8]，常用的加速稳健特征（Speeded Up Robust Feature，SURF）和尺度不变特征转换（Scale-Invariant Feature Transform，SIFT）匹配算法对图像质量要求高，应用在煤炭这种颜色纹理比较单一的场景容易失效，且需要消耗大量的计算资源，难以保证实时性[9]；激光雷达的测距精度较高，但在煤量测量时，有效视场范围较小，对应的测量点数较少，扫描频率也较低[10]，在胶带运行速度较快时，精度会大幅降低。
针对上述问题，本文融合了双目视觉法和激光雷达法的部分优势，提出了一种基于双目结构光视觉的煤流量测量方法。将线结构光引入双目视觉系统，利用线结构光的约束，将图像特征点匹配简化成左右2幅图像行之间的匹配。在保证双目系统相机光轴平行度的基础上，使用对应行匹配计算三维坐标点，提高采样频率和分辨率，进而提高煤流量测量精度，降低测量系统对光照和环境的依赖。
1. 测量原理
双目立体视觉[11]利用2个相机完成镜头前目标的图像采集，由于左右相机进行图像采集时的拍摄角度和位置的区别，因此同一时刻相机采集目标物的2幅图像存在一定的视差，根据视差得出目标的空间坐标[12-13]。双目视觉测距模型如图1所示。
设左相机位于世界坐标系$ o\text{-}xy {\textit{z}} $原点处且无旋转，图像坐标系为$ {O}_{{\rm{l}}} \text{-}{X}_{{\rm{l}}}{Y}_{{\rm{l}}} $，有效焦距为$ {f}_{{\rm{l}}} $；右相机坐标系为$ {o}_{{\rm{r}}}{ \text{-}}{x}_{{\rm{r}}}{y}_{{\rm{r}}} {\textit{z}} _{{\rm{r}}} $，图像坐标系为$ {O}_{{\rm{r}}}{ \text{-}}{X}_{{\rm{r}}}{Y}_{{\rm{r}}} $，有效焦距为$ {f}_{{\rm{r}}} $。$ o\text{-}xy {\textit{z}} $坐标系与$ {o}_{{\rm{r}}}{ \text{-}}{x}_{{\rm{r}}}{y}_{{\rm{r}}} {\textit{z}} _{{\rm{r}}} $坐标系可通过空间转换矩阵$ {{\boldsymbol{M}}}_{{\rm{lr}}} $互相转换。
$$ \left[\begin{array}{c}{x}_{{\rm{r}}}\\ {y}_{{\rm{r}}}\\ { {\textit{z}} }_{{\rm{r}}}\end{array}\right]={{\boldsymbol{M}}}_{{\rm{lr}}}\left[\begin{array}{c}{x}_{{\rm{l}}}\\ {y}_{{\rm{l}}}\\ { {\textit{z}} }_{{\rm{l}}}\\ 1\end{array}\right]=\left[\begin{array}{c}{r}_{1} \;\; {r}_{2} \;\; {r}_{3} \;\; {t}_{{{x}}}\\ {r}_{4} \;\; {r}_{5} \;\; {r}_{6} \;\; {t}_{{{y}}}\\ {r}_{7} \;\; {r}_{8} \;\; {r}_{9} \;\; {t}_{ {\textit{z}} }\end{array}\right]\left[\begin{array}{c}{x}_{{\rm{l}}}\\ {y}_{{\rm{l}}}\\ { {\textit{z}} }_{{\rm{l}}}\\ 1\end{array}\right] $$ (1) $$ {{\boldsymbol{M}}}_{{\rm{lr}}}={\boldsymbol{RT}} $$ (2) 式中：r1−r9为旋转矩阵分量；tx，ty，tz为平移矩阵分量；R为$ o{\text{-}}xy{\textit{z}} $坐标系与$ {o}_{{\rm{r}}} {\text{-}}{x}_{{\rm{r}}}{y}_{{\rm{r}}} {\textit{z}} _{{\rm{r}}} $之间的旋转矩阵，${\boldsymbol{R}}=\left[\begin{array}{c}{r}_{1} \;\; {r}_{2}\;\; {r}_{3}\\ {r}_{4}\;\; {r}_{5}\;\; {r}_{6}\\ {r}_{7}\;\; {r}_{8} \;\; {r}_{9}\end{array}\right]$；T为$ o-xy{\textit{z}} $坐标系与原点之间的平移矩阵，${\boldsymbol{T}}={\left[{t}_{{{x}}} \; \; {t}_{{{y}}}\; \;{t}_ {\textit{z}} \right]}^{{\rm{T}}}$。
对于o-xyz坐标系中的空间点，两相机图像坐标系中的投影点之间对应关系为
$$\left[\begin{array}{c} X_{{\rm{r}}} \\ Y_{{\rm{r}}} \\ 1 \end{array}\right]=\left[\begin{array}{cccc} f_{{\rm{r}}} r_1&f_{{\rm{r}}} r_2&f_{{\rm{r}}} r_3&f_{{\rm{r}}} t_{{{x}}} \\ f_{{\rm{r}}} r_4&f_{{\rm{r}}} r_5&f_{{\rm{r}}} r_6&f_{{\rm{r}}} t_{{{y}}} \\ r_7&r_8&r_9&t_ {\textit{z}} \end{array}\right]\left[\begin{array}{c} \dfrac{Z X_{{\rm{l}}}}{f_{{\rm{l}}}} \\ \dfrac{ {\textit{z}} Y_{{\rm{l}}}}{f_{{\rm{l}}}} \\ {\textit{z}} \\ 1 \end{array}\right]$$ (3) 空间点三维坐标为
$$ \left\{\begin{array}{l}x=\dfrac{ {\textit{z}} {X}_{{\rm{l}}}}{{f}_{{\rm{l}}}}\\ y=\dfrac{ {\textit{z}} {Y}_{{\rm{l}}}}{{f}_{{\rm{l}}}}\\ {\textit{z}} =\dfrac{{f}_{{\rm{l}}}({f}_{{\rm{r}}}{t}_{{{x}}}-{X}_{{\rm{r}}}{t}_{ {\textit{z}} })}{{X}_{{\rm{r}}}\left({r}_{7}{X}_{{\rm{l}}}+{r}_{8}{Y}_{{\rm{l}}}+{f}_{{\rm{l}}}{r}_{9}\right)-{f}_{{\rm{r}}}({r}_{4}{X}_{{\rm{l}}}+{r}_{5}{Y}_{{\rm{l}}}+{f}_{{\rm{l}}}{r}_{3})}\end{array} \right. $$ (4) 若左右两相机安装情况较为理想，则$ {Y}_{{\rm{l}}}= {Y}_{{\rm{r}}}={Y}^{{'}} $，且左右镜头焦距相等，$ {f}_{{\rm{l}}}={f}_{{\rm{r}}} $，则
$$ \left\{\begin{array}{l}{X}_{{\rm{l}}}=f\dfrac{x}{ {\textit{z}} }\\ {X}_{{\rm{r}}}=f\dfrac{B-x}{ {\textit{z}} }\\ {Y}^{{{'}}}=f\dfrac{y}{ {\textit{z}} }\end{array}\right. $$ (5) 式中：f为相机的焦距；B为右相机的基线距离。
空间点的世界坐标为
$$ \left\{\begin{array}{c}x=\dfrac{B{x}_{{\rm{l}}}}{{X}_{{\rm{l}}}-{X}_{{\rm{r}}}}=\dfrac{B{X}_{{\rm{l}}}}{D}\\y=\dfrac{B{Y}^{\mathrm{{'}}}}{{X}_{{\rm{l}}}-{X}_{{\rm{r}}}}=\dfrac{{BY}^{\mathrm{{'}}}}{D}\\ {\textit{z}} =\dfrac{Bf}{{X}_{{\rm{l}}}-{X}_{{\rm{r}}}}=\dfrac{Bf}{D}\end{array}\right. $$ (6) 式中D为左右相机采集到的2幅图像的视差，$ D= {X}_{{\rm{l}}}-{X}_{{\rm{r}}} $。
2. 测量系统设计
根据双目结构光测量原理设计满足实际使用要求的双目煤流量测量系统，如图2所示。该测量系统主要由工业相机、镜头、线激光器、编码器、同步电路控制器组成，沿胶带输送方向顺序布置。线激光器采用直射式投射到胶带和输送物料表面，2个工业相机等间隔位于激光器两侧，编码器用于测量胶带运动速度。
双目煤流量测量系统选用板级互补金属氧化物半导体（Complementary Metal Oxide Semiconductor，CMOS）工业相机，分辨率为1 544×2 048，实际测量时，采集区域分辨率为256×2 048，按此分辨率设计最大帧率为1 000 帧/s，双目基线距离为120 mm；镜头选用500万像素6 mm定焦高清镜头；线激光器选用输出波长450 nm、额定线宽2 mm的半导体线激光器。
利用线激光器对胶带表面进行投影，用双目煤流量测量系统采集到的图像如图3所示。可看出图像的线激光边缘部分为空载胶带，中间部分为煤料部分，空载胶带的线激光图像反映出胶带的基本截面形状，负载胶带的线激光图像受到煤料表面的调制，反映出煤料和胶带边缘部分的截面形状。
中心线坐标提取是获取煤料点云的重要环节，直接决定三维点云的精度[14]。中心线的提取流程是根据检测系统、胶带、待测煤料的位置，确定图像的感兴趣区域（Region of Interest，ROI）；按RGB图像各个通道的重要性，运用加权平均值法[15]对左图像和右图像进行预处理，转换为左灰度图和右灰度图。
$$ f(x,y)=0.299 r (x,y)+0.597g (x,y)+0.114b(x,y) $$ (7) 式中：f(x，y)为在图像坐标( x ， y )处的灰度值；$ r(x，y) $，$ g(x，y) $，$ b(x，y) $分别为在图像坐标(x，y)处的颜色分量。
对左、右灰度图位于ROI内的部分进行水平扫描，每个扫描点的窗口能量为
$$ E\left(x,y\right)= \sum\limits_{i=-n}^{n} \sum\limits_{j=-n}^{n}(x+i)I(x+i,y+j) $$ (8) 式中：n为从左灰度图所选窗口中心到边缘的距离；i， j分别为计算点距离窗口中心点在x、y方向的偏移量；$ I(x+i,y+j) $为坐标$ (x+i,y+j) $处的图像灰度。
对由左灰度图和右灰度图中坐标$ y $相同的水平扫描行构成的水平极线进行扫描，得到左灰度图和右灰度图的线激光成像点$ ({{x}_{{\rm{l}}},y)}_{{{k}}} $和$ {({x}_{{\rm{r}}},y)}_{{{k}}} $。在理想条件下，左右序列中行数k相同的点构成匹配点对。
在实际测量煤流量时，胶带以速度v匀速输送，使用双目煤流量测量系统先采集空载胶带的表面点云，再采集负载胶带上煤料的表面点云。煤料点云的合成原理如图4所示，以负载点云为上表面，空载点云为下表面，即可得到胶带所运煤料截面点云，假设前后2帧点云的采集时间间隔均为∆t，在x方向上2帧点云的间隔为v∆t。
在胶带变速输送时，利用编码器将变速过程划分为多个匀速输送过程，把相邻的编码器信号之间的输送视为匀速过程，生成煤料的点云数据。
3. 煤流量计算
获取煤料三维点云后，计算单位时间内输送煤料的体积，即煤流量，如图5所示。将空载胶带点云与世界坐标系o-xyz形成的体积记为$ {V}_{{\rm{ref}}} $，负载胶带点云与世界坐标系o-xyz形成的体积记为$ {V}_{{\rm{mess}}} $，则输送煤料的体积为$ {V}_{{\rm{s}}}={V}_{{\rm{ref}}}-{V}_{{\rm{mess}}} $。
采用微元法将待测点云分成多个微元求取体积，再积分计算总体积。本文提出了均匀网格化和三角网格化2种方法。
1） 均匀网格化。均匀网格化是以xoy平面为底面，对点云进行均匀采样[16]，如图6所示。采样间隔为$ \Delta d=sv\Delta t $，s为采样比例，选取在煤料点云到xoy平面投影的采样区域内最接近采样区域中心的点为采样点，采样点z坐标的值为$ {h}_{u} $，其中s＜1，s越小，采样间隔越小，则计算精度越高。
以采样区域面积为底面积，以$ {h}_{u} $为高，计算长方体体积，共计m个采样长方体，则任一采样长方体体积为$ {V}_{u}^{\mathrm{{'}}}={\Delta d}^{2}{h}_{u} $，其中，$ \Delta d $为采样长方体的正方形底边长，对某一阶段扫描到的煤料点云的体积为
$$ V=\sum _{u=1}^{m}{V}_{u}^{{'}}=\sum _{u=1}^{m}{\Delta d}^{2}{h}_{u} $$ (9) 2） 三角网格化。三角网格化可把杂乱的三维点云转换为空间三角网格，反映目标物体的拓扑连接关系[17]。三角网格化中最常用的是Delaunay三角[18]。
Delaunay三角网格化法利用空圆和最小角性质对点云进行三角剖分，空圆特性表示在Delaunay三角中任一三角网格的外接圆内不存在其他点，最小角特性表示Delaunay三角的最小角最大，交换2个相邻三角形成的凸四边形对角线后，2个内角的最小角不再增大[19]。对点云进行Delaunay三角网格化，如图7所示。
将点云三角网格化后，p个三角网格与xoy平面构成p个上下底面不平行的三棱柱，三角网格包含3个点，坐标分别为$ ({x}_{1},{y}_{1}, {\textit{z}} _{1}) $、$ \left({x}_{2},{y}_{2}, {\textit{z}} _{2}\right) $、$ ({x}_{3},{y}_{3}, {\textit{z}} _{3}) $，其中$ {\textit{z}} _{1} \leqslant {\textit{z}} _{2} \leqslant {\textit{z}} _{3} $，三棱柱体积为
$$ {V}_{q}^{{'}}=\frac{1}{6}( {\textit{z}} _{1}+ {\textit{z}} _{2}+ {\textit{z}} _{3})({x}_{1}{y}_{2}-{x}_{2}{y}_{1}+{x}_{2}{y}_{3}-{x}_{3}{y}_{2}+{x}_{3}{y}_{1}-{x}_{1}{y}_{3}) $$ (10) 因此，整个待测点云与xoy平面构成的区域体积为
$$ V=\sum\limits_{q=1}^{p}{V}_{q}^{{'}} $$ (11) 4. 试验验证
在实验室条件下搭建了实验平台，如图8所示。实验平台由双目结构光煤流量测量系统、1 400 mm带宽的变频驱动带式输送机、用于测量胶带带速和旋转发电的托辊、DC24 V电源箱组成。其中，煤流量测量系统安装在胶带中央正上方，安装高度为1 200 mm；测速发电托辊安装在上胶带正下方，利用霍尔效应实时检测胶带速度，利用外转子发电机进行能量收集和整流输出；电源箱中的铅酸锂电池组用于储能，并向煤流量测量系统供能。
采用本文设计的实验平台，在电动机频率为20 Hz、带速为1.566 m/s的条件下分别采集空载胶带及负载胶带（250，500，750，1 000，1 250，1 500 cm3煤料）的点云，如图9所示。
依次计算世界坐标系中xoy平面与空载胶带和负载胶带表面点云形成的空间体积，求得运输煤料的体积，结果见表1。
表 1 煤料体积测量结果Table 1. Measurement results of coal material volume标准
体积/cm3均匀
网格化/cm3三角
网格化/cm3均匀网格化
相对误差/%三角网格化
相对误差/%250 228.667 252.142 8.533 0.857 500 478.458 521.172 4.908 4.234 750 695.941 764.505 7.208 1.934 1 000 1 091.213 965.941 9.121 3.406 1 250 1 321.048 1 275.572 5.684 2.046 1 500 1 423.624 1 564.014 5.092 4.268 平均相对误差/% 6.758 2.791 由表1可看出，采用均匀网格化法计算胶带上煤料体积平均相对误差为6.758%，采用三角网格化法计算胶带上煤料体积平均相对误差为2.791%。均匀网格化法的精度低于三角网格化法的精度，这是因为在均匀采样过程中，点云上采样降低了点云密度，使参与计算的点数减少，使精度降低。
为进一步验证双目结构光煤流量测量系统测量的准确性与可靠性，在某选煤厂原煤胶带进行了试验，如图10所示。双目煤流量测量系统安装于原煤胶带上方，采用精度更高的三角网格化法进行体积计算，胶带宽为1 600 mm，系统安装高度为1 200 mm。
胶带运行速度为4.6 m/s，双目煤流量测量系统参数设置见表2，双目结构光煤流量测量系统软件界面如图11所示。
表 2 检测参数设置Table 2. Test parameter settings参数名称 设置数值 曝光时间/μs 1 000 增益 2 像素数 2 048×256 堆煤密度/（t·m−3） 0.90 ![]()
图 11 双目煤流量测量系统软件界面Figure 11. Software interface of the binocular coal flow measurement system现场安装位置处用电子胶带秤作为测量对照，其测量精度为0.001 t，其软件界面如图12所示。
煤炭输运过程中，煤料之间的未填充部分为空隙，空隙受煤料颗粒大小、形状等因素的影响[20]。在实际输送量计量中，应除去空隙体积，以堆煤密度替代煤的密度，降低空隙体积的影响。
本文方法与电子胶带秤检测的煤流量曲线如图13所示。可看出本文方法与电子胶带秤波动趋势基本相同，且本文方法检测灵敏度更高。
![]()
图 13 本文方法与电子胶带秤检测结果Figure 13. Test results of this method and electronic belt weigher本文方法与电子胶带秤检测的绝对误差如图14所示，相对误差如图15所示。由图14和图15可看出，双目结构光煤流量测量系统测量结果相对电子胶带秤测量结果绝对误差最大值为87.855 t/h，绝对误差平均值为25.902 t/h，相对误差最大值为2.876%，平均相对误差为0.847%，可以满足现场使用要求。
![]()
图 14 本文方法相对电子胶带秤绝对误差Figure 14. Absolute error of this method relative to electronic belt weigher![]()
图 15 本文方法相对电子胶带秤相对误差Figure 15. Relative error of this method relative to electronic belt weigher5. 结论
1） 为了实现带式输送机煤量的精准实时非接触式测量，将双目视觉与结构光技术融合，提取双目相机左右图像激光线中心点作为点对，利用双目视觉模型实现三维点云的获取，进行煤量测量时，利用双目结构光煤流量测量系统分别采集空载和负载情况下胶带的表面点云，合成运输煤料的三维点云。
2） 分别利用点云均匀网格化法和三角网格化法进行煤量计算，实验结果表明，均匀网格化法测量平均相对误差为6.758%，三角网格化法测量平均相对误差为2.791%，三角网格化法测量精度高于均匀网格化法。
3） 工业性试验结果表明，针对带式输送机煤炭输送场景，双目结构光煤流量测量方法与电子胶带秤相比，绝对误差最大值为87.855 t/h，绝对误差平均值为25.902 t/h，相对误差最大值为2.876%，平均相对误差为0.847%，满足煤矿非接触式煤流量测量使用要求。
-
![]()
图 2 基于改进时空图卷积神经网络的钻杆计数方法原理
Figure 2. Principle of drill pipe counting method based on improved multi spatial-temporal graph convolution neural network
![]()
图 4 MST−GCN模型原理
Figure 4. Principle of multi spatial-temporal graph convolution neural network model
![]()
图 11 MST−GCN与ST−GCN模型的训练损失曲线
Figure 11. Training loss curves of MST-GCN model and ST-GCN model
表 1 消融实验结果比较
Table 1 Comparison of ablation experiment results
基准模型 编号 分区策略 特征融合 准确率/% 原空间
分区策略远空间
分区策略ADD SENet ST−GCN 1 √ × × × 84.9 2 × √ × × 83.1 3 √ √ √ × 87.9 4 √ √ × √ 91.1 
下载: 导出CSV
表 2 不同模型的动作识别结果
Table 2 Action recognition results of different models
下载: 导出CSV
表 3 3种计数方法的动作识别结果
Table 3 Action recognition results of three counting methods
打钻
视频真实钻
杆/根人工方法 改进ResNet[9] 本文方法 上杆/次 卸杆/次 上杆/次 卸杆/次 上杆/次 卸杆/次 1 80 80 80 0 88 79 80 2 100 102 101 0 134 98 102 平均误差 0.75 21 0.25
下载: 导出CSV
表 4 全部钻孔的实验结果
Table 4 The results of all drilling experiments
钻孔编号 真实钻杆/根 识别结果 上杆/次 卸杆/次 均值/次 1 40 40 38 39 2 45 45 45 45 3 43 43 43 43 4 53 53 53 53 5 47 50 43 46.5 6 56 54 54 54 7 46 46 45 45.5 8 106 119 100 109.5 9 106 113 99 106 10 80 79 80 79.5 11 80 82 79 80.5 12 80 84 80 82 13 80 83 81 82 14 80 82 80 81 15 80 83 79 81 16 80 78 75 76.5 17 98 105 102 103.5 18 100 107 96 101.5 总计 1300 1346 1272 1309
下载: 导出CSV
-
[1] 梁运培, 郑梦浩, 李全贵, 等. 我国煤与瓦斯突出预测与预警研究综述[J/OL]. 煤炭学报: 1-24[2022-12-08]. DOI: 10.13225/j.cnki.jccs.2022.0965. LIANG Yunpei, ZHENG Menghao, LI Quangui, et al. A review on prediction and early warning methods of coal and gas outburst[J/OL]. Journal of China Coal Society: 1-24[2022-12-08]. DOI: 10.13225/j.cnki.jccs.2022.0965.
[2] PAN Xiaokang,CHENG Hao,CHEN Jie,et al. An experimental study of the mechanism of coal and gas outbursts in the tectonic regions[J]. Engineering Geology,2020,279:105883. DOI: 10.1016/j.enggeo.2020.105883.
[3] 谢和平,周宏伟,薛东杰,等. 我国煤与瓦斯共采:理论、技术与工程[J]. 煤炭学报,2014,39(8):1391-1397. XIE Heping,ZHOU Hongwei,XUE Dongjie,et al. Theory,technology and engineering of simultaneous exploitation of coal and gas in China[J]. Journal of China Coal Society,2014,39(8):1391-1397.
[4] 李东前. 煤矿瓦斯防治技术研究[J]. 当代化工研究,2021(10):99-100. DOI: 10.3969/j.issn.1672-8114.2021.10.049 LI Dongqian. Study on coal mine gas prevention and control technology[J]. Modern Chemical Research,2021(10):99-100. DOI: 10.3969/j.issn.1672-8114.2021.10.049
[5] 李树刚,包若羽,张天军,等. 本煤层瓦斯抽采钻孔合理密封深度确定[J]. 西安科技大学学报,2019,39(2):183-188,216. LI Shugang,BAO Ruoyu,ZHANG Tianjun,et al. Determining the rational sealing depth for horizontal gas drainage borehole[J]. Journal of Xi'an University of Science and Technology,2019,39(2):183-188,216.
[6] 孙志飞,吴银成,胡云. 钻杆长度测量方法[J]. 工矿自动化,2015,41(3):51-53. SUN Zhifei,WU Yincheng,HU Yun. Length measurement methods of drill pipe[J]. Industry and Mine Automation,2015,41(3):51-53.
[7] 徐钊,房咪咪,周红伟,等. 基于电驻波的锚杆长度无损测量方法[J]. 工矿自动化,2013,39(9):112-115. DOI: 10.7526/j.issn.1671-251X.2013.09.029 XU Zhao,FANG Mimi,ZHOU Hongwei,et al. Non-destructive measurement method of anchor stock length based on electricity standing wave[J]. Industry and Mine Automation,2013,39(9):112-115. DOI: 10.7526/j.issn.1671-251X.2013.09.029
[8] 董立红,王杰,厍向阳. 基于改进Camshift算法的钻杆计数方法[J]. 工矿自动化,2015,41(1):71-76. DONG Lihong,WANG Jie,SHE Xiangyang. Drill counting method based on improved Camshift algorithm[J]. Industry and Mine Automation,2015,41(1):71-76.
[9] 高瑞,郝乐,刘宝,等. 基于改进ResNet网络的井下钻杆计数方法[J]. 工矿自动化,2020,46(10):32-37. GAO Rui,HAO Le,LIU Bao,et al. Research on underground drill pipe counting method based on improved ResNet network[J]. Industry and Mine Automation,2020,46(10):32-37.
[10] 党伟超,姚远,白尚旺,等. 煤矿探水卸杆动作识别研究[J]. 工矿自动化,2020,46(7):107-112. DANG Weichao,YAO Yuan,BAI Shangwang,et al. Research on unloading drill-rod action identification in coal mine water exploration[J]. Industry and Mine Automation,2020,46(7):107-112.
[11] YAN Sijie, XIONG Yuanjun, LIN Dahua. Spatial temporal graph convolutional networks for skeleton-based action recognition[C]. Proceedings of the AAAI Conference on Artificial Intelligence, New Orleans, 2018: 5361-5368.
[12] FANG Haoshu, XIE Shuqin, TAI Yuwing, et al. RMPE: regional multi-person pose estimation[C]. Proceedings of the IEEE International Conference on Computer Vision, Venice, 2017: 2334-2343.
[13] HU Jie, SHEN Li, SUN Gang. Squeeze-and-excitation networks[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Salt Lake City, 2018: 7132-7141.
[14] KE Qiuhong, BENNAMOUN M, AN Senjian, et al. A new representation of skeleton sequences for 3D action recognition[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Honolulu, 2017: 3288-3297.
[15] 卫少洁,周永霞. 一种结合Alphapose和LSTM的人体摔倒检测模型[J]. 小型微型计算机系统,2019,40(9):1886-1890. DOI: 10.3969/j.issn.1000-1220.2019.09.014 WEI Shaojie,ZHOU Yongxia. Human body fall detection model combining Alphapose and LSTM[J]. Journal of Chinese Computer Systems,2019,40(9):1886-1890. DOI: 10.3969/j.issn.1000-1220.2019.09.014
[16] 杨世强, 李卓, 王金华, 等. 基于新分区策略的ST−GCN人体动作识别[J/OL]. 计算机集成制造系统: 1-16[2022-03-29]. http://kns.cnki.net/kcms/detail/11.5946.TP.20211022.1500.014.html. YANG Shiqiang, LI Zhuo, WANG Jinhua, et al. ST-GCN human action based on new partition strategy[J/OL]. Computer Integrated Manufacturing Systems: 1-16[2022-03-29]. http://kns.cnki.net/kcms/detail/11.5946.TP.20211022.1500.014.html.
-
期刊类型引用(3)
1. 王怀琴，张德胜. 矿用本质安全型黑光摄像仪的研究与应用. 煤炭工程. 2020(01): 80-84 . 
百度学术
2. 陈辉. 矿用多路输出本安电流间接采集方法研究. 煤炭工程. 2020(08): 150-153 . 百度学术
3. 贾俊霞，李一文. 正负电源用截流型本安电路设计. 九江职业技术学院学报. 2020(04): 16-18 . 百度学术
其他类型引用(8)
计量
- 文章访问数: 265
- HTML全文浏览量: 171
- PDF下载量: 44
- 被引次数: 11
