矿用实时视频传输系统设计

李文峰1, 路建通1, 雷文礼2, 白慧1

(1.西安科技大学 通信与信息工程学院, 陕西 西安 710054; 2.延安大学 物理与电子信息学院, 陕西 延安 716000)

摘要针对现有煤矿井下视频传输系统存在视频清晰度低、传输速率不稳定、兼容性差等问题,设计了一种矿用实时视频传输系统。该系统采用960 nm红外激光作为辅助光源,利用MCCD图像传感器采集视频信号,提高了低光照强度或黑暗环境下视频清晰度;通过视频解码模块TVP5150将采集的PAL制式模拟视频信号转换为YUV数字信号,数字信号经多格式编码器进行H.264压缩编码,并在此基础上添加UDP报文头进行RTP封装,提高了视频数据传输的时效性;通过Live555流媒体服务器进行数据流化,使用ONVIF标准封装RTSP视频流,通过Socket网络编程实现实时视频流数据网络传输,提高了系统兼容性和传输速率稳定性。测试结果表明,该系统视频传输速率为2.190 Mbit/s,丢包率约为1.256%,达到实时视频传输要求。

关键词煤矿视频监控; 实时视频传输; 视频采集; 视频压缩; ONVIF

0 引言

煤矿井下环境恶劣、地势复杂[1-2],地面工作人员对煤矿井下环境进行视频监控,可实时查看煤矿开采作业及人员工作现场情况[3]。目前,煤矿井下视频传输系统大多是半数字化视频传输系统,系统采集前端主要采用CCD和CMOS图像传感器,辅助光源多采用LED红外补光灯,低光照强度或黑暗环境下视频画面不清晰;视频监控信号以电缆方式传输,传输速率不稳定、传输时延高,不能达到实时传输视频的要求,布线传输受区域限制、费用高;未采用统一的视频接口标准,兼容性较差[4-6]

本文设计了一种矿用实时视频传输系统。该系统采用MCCD图像传感器和960 nm红外激光采集视频数据,数据经H.264压缩编码后进行RTP封装,并通过流媒体服务器流化为RTSP视频流,通过ONVIF标准将RTSP视频流进行封装并通过网络传输,可提高视频清晰度、系统兼容性和传输速率稳定性。

1 系统总体设计

矿用实时视频传输系统设计需实现以下功能:在低光照强度或黑暗环境下拍摄清晰视频画面;满足本质安全(以下简称本安)要求;支持ONVIF标准、UDP协议、RTP协议及RTSP协议,提高系统兼容性和视频传输稳定性。系统技术指标:传输速率≤10 Mbit/s;丢包率≤3.5%。

系统工作原理如图1所示。系统采集前端采集的PAL制式模拟视频信号经视频解码模块转换为YUV数字信号,数字信号通过MFC(Multi Format Codec,多格式编码器)编码为H.264格式数据,在此基础上添加UDP报文头进行RTP封装,然后通过Live555流媒体服务器进行数据流化,对RTSP视频流进行ONVIF封装,最后通Socket网络编程实现实时视频网络传输功能。

图1 矿用实时视频传输系统工作原理
Fig.1 Working principle of mine-used real-time video transmission system

2 系统硬件设计

矿用实时视频传输系统主要由最小系统单元、低照度视频采集单元、通信单元、本安型供电单元等组成,如图2所示。该系统以S5PV210处理器为核心,其内嵌Linux操作系统,具有高达1 GHz的工作主频,采用ARM7指令集,支持MPEG-1/2/4,H.263,H.264等格式视频的编解码。

图2 矿用实时视频传输系统硬件组成
Fig.2 Hardware composition of mine-used real-time video transmission system

2.1 低照度视频采集单元

低照度视频采集单元包括采集前端、辅助光源、视频解码模块,其中采集前端采用MCCD图像传感器,辅助光源由960 nm红外激光和光强度传感器BH1750组成。在光照强度充足情况下,采集前端采集到PAL制式的模拟视频信号,信号经I2C通信总线配置的视频解码模块TVP5150转换为8 bit 4∶2∶2 ITU-R BT.656格式的YUV数字信号。当光照强度低于处理器预先设置的光照阈值时,系统开启960 nm红外激光对采集前端进行红外补光。

2.2 通信单元

通信单元包括串口和RJ45网口:串口用于打印系统参数并向S5PV210处理器烧录Linux内核、根文件系统、驱动及应用程序;RJ45网口遵循TCP/IP通信协议,用于本地监控显示,以及将系统接入网络实现远程监控功能。

2.3 本安型供电单元

本安型供电单元主要由交流输入、AC/DC转换器、电源管理模块及双重限压限流保护电路组成。电源管理模块以MAX8903C为核心,实现电压转换功能并输出2路电压:采集前端和辅助光源所需的3.3 V驱动电压;处理器外围电路所需的5 V驱动电压。双重限压限流保护电路采用2级串联拓扑,利用高电压浪涌抑制器LTC4366对系统上电时产生的浪涌及负载端过流、过压、短路等故障快速做出反应。

3 系统软件设计

3.1 视频采集及压缩

视频采集流程基于Linux内核中V4L2驱动框架提供的API(Application Program Interface,应用程序接口)通用函数接口实现,如图3所示。打开视频设备文件后,通过ioctl函数调用V4L2框架提供的接口对视频设备属性进行管理。为提高视频采集效率,采用内存映射方式进行视频采集[7]

图3 视频采集流程
Fig.3 Video acquisition flow

S5PV210处理器自带MFC硬件编码功能,采集到的视频数据在进行H.264压缩时通过调用MFC的接口函数实现。MFC支持linear mode和title mode 2种帧内存格式,由于在源码设计上title mode编码格式较复杂,所以选用linear mode来编码。首先打开YUV数据源文件,将获取的视频文件头写入H.264文件中,然后将YUV帧分量保存到MFC输入缓存中并转换成NV12格式,最后将其进行编码并保存。

3.2 ONVIF接口模块

ONVIF接口模块设计主要通过gSOAP工具实现[8-10],流程如图4所示。从ONVIF官网或本地获取3个WSDL文档(ws-discovery.wsdl,devicemgmt.wsdl和media.wsdl),用gSOAP工具生成的wsdl2h应用程序在Linux平台下对WSDL文档进行编译,生成ONVIF头文件onvif.h,再通过gSOAP下的soapcpp2对头文件进行交叉编译,生成RFC框架代码(soap C.c,soap H.h,soap Stub.h)和客户端/服务器端(Client/Server,C/S)代码(soap Server.c,soap Client.c),最后调用相关API功能函数实现ONVIF接口模块。

图4 ONVIF接口模块设计流程
Fig.4 ONVIF interface module design flow

3.3 实时视频传输

H.264格式视频网络传输流程如图5所示。UDP数据传输时延小、时效性较高,因此在H.264码流数据前加8 byte的UDP报文头并进行RTP封装[11-13],然后通过RTSP_live模块获取RTSP实时视频流,并将本地RTSP实时视频流与ONVIF接口模块进行封装,最后通过Socket网络编程实现实时视频流网络传输。

图5 视频网络传输流程
Fig.5 Video network transmission flow

3.3.1 RTSP实时视频流获取

视频传输线程运行环境主要包括任务调度器、RTSP客户端创建及用户验证。RTSP客户端创建后,必须监听OPTIONS消息是否发送,当监听到该消息时运行RTSP_live模块消息交互时序,如图6所示。Live555服务器被RTSP_live调用时,按照消息交互时序进行数据处理,RTSP_live模块通过函数Get Complete Frame From Sink()获取视频流。

图6 RTSP_live模块消息交互时序
Fig.6 Message interaction sequence of RTSP_live module

3.3.2 RTSP实时视频流与ONVIF接口模块封装

为实现支持ONVIF协议的实时视频功能,需要ONVIF接口模块支持Live555服务器传输本地RTSP实时视频流[14]。RTSP实时视频流与ONVIF接口模块封装过程:在源码包中查看C文件onvif.c中函数_trt_GetStreamUri()的保存地址,设置该地址与Live555服务器所在地址一致,其次填充_trt_GetStreamUri()结构体完成soap结构体初始化,调用soap_call_trt_GetStreamUri()函数获取RTSP流媒体地址,配置Makefile文件并编译,运行二进制可执行文件onvif,同时打开Live555服务器,在ONVIF测试工具ODM(ONVIF Device Manager,ONVIF设备管理器)中可查到RTSP实时视频流。

3.3.3 实时视频流网络传输

RTSP流媒体数据依托TCP/IP网络通信协议进行远程传输,因此支持ONVIF标准和RTSP协议的实时视频流通过Socket网络编程进行传输。Socket网络编程采用C/S模式,服务器端进行监听,当监听到客户端有连接请求后,服务器端接收请求并建立连接,此时服务器端和客户端可通过网络进行通信[15]

客户端首先通过socket()函数初始化Socket对象并设置参数,然后以connect()函数连接指定服务器IP地址,最后将实时视频流数据通过memset()和send()函数发送至服务器端。由于需要在PC机上接收图像信息,所以采用.NET平台的服务器,打开服务器后直接设置为监听状态,当检测到客户端端口后获取实时视频流数据,对视频流数据进行解码后再通过Windows Media Player视频软件播放视频,实现实时视频流网络传输。

4 系统测试

搭建系统测试环境,如图7所示。将系统和数字录像机通过网络交换机接入公网,直接接入数字录像机的显示器用于本地显示,在PC端和移动终端通过客户端进行实时远程监控。

图7 矿用实时视频传输系统测试环境
Fig.7 Test environment of mine-used real-time video transmission system

4.1 丢包率

采集视频数据时间设为100 s,利用抓包工具发送和接收数据包,在发送端和接收端分析抓到的RTP数据包。4组视频数据丢包率测试结果见表1,可看出平均丢包率约为1.256%,达到技术指标要求。

表1 视频数据丢包率测试结果
Table 1 Test results of video data packet loss rate

发送RTP数据包接收RTP数据包丢包率/%6 6196 5241.4356 6236 5491.1176 6316 5501.2226 6276 5441.252

4.2 传输速率

利用Winpcap工具获取采集时间为3,5,8,10 min,传输距离为100 m时的视频数据传输速率,测试结果见表2。可看出随着采集时间和接收端数据的增加,传输速率基本稳定,平均传输速率为2.190 Mbit/s,达到技术指标要求。

表2 视频数据传输速率测试结果
Table 2 Test results of video data transmission rate

采集时间/min接收端数据/MB传输速率/(Mbit·s-1)348.6752.168579.5002.1208129.6002.16010173.2502.312

5 结语

矿用实时视频传输系统采用960 nm红外激光作为辅助光源,利用MCCD图像传感器采集视频信号,提高了低光照强度或黑暗环境下视频清晰度;通过视频解码模块将采集的PAL制式模拟视频信号转换为YUV数字信号,数字信号经MFC进行H.264压缩编码,并在此基础上添加UDP报文头进行RTP封装,提高了视频数据传输的时效性;通过Live555流媒体服务器进行数据流化,使用ONVIF标准封装RTSP视频流,通过Socket网络编程实现实时视频流数据网络传输,提高了系统兼容性和传输速率稳定性。经测试,该系统视频传输速率为2.190 Mbit/s,丢包率约为1.256%,达到实时视频传输要求。

参考文献(References):

[1] 曹华.煤矿安全监察的现状分析与对策[J].当代化工研究,2019(6):29-30.

CAO Hua.Current situation analysis and countermeasure of coal mine safety supervision[J].Modern Chemical Research,2019(6):29-30.

[2] 韩理鹏.基于矿井瓦斯爆炸伤害因素的煤矿瓦斯事故应急管理方法探究[J].决策探索,2019(7):12.

HAN Lipeng.Research on emergency management method of coal mine gas accident based on damage factors of mine gas explosion[J].Policy Research & Exploration,2019(7):12.

[3] 肖守业.对煤矿综合自动化监控系统设计与实现分析[J].石化技术,2019,26(8):286.

XIAO Shouye.Design and implementation analysis of coal mine integrated automation monitoring system[J].Petrochemical Industry Technology,2019,26(8):286.

[4] 王强.煤矿斜井巷道运输视频监控系统设计与研究[J].煤矿现代化,2019(6):113-115.

WANG Qiang.Design and research of video surveillance system for mine inclined shaft roadway transportation[J].Coal Mine Modernization,2019(6):113-115.

[5] 赵来锁.数字工业视频监控系统在煤矿的应用与探讨[J].内蒙古煤炭经济,2018(23):98-99.

ZHAO Laisuo.Application and discussion of digital industrial video surveillance system in coal mine[J].Inner Mongolia Coal Economy,2018(23):98-99.

[6] 王雯,马宁.基于H.264和DM6437的煤矿井下视频监控系统设计[J].机械工程与自动化,2017(5):167-168.

WANG Wen,MA Ning.Design of underground mine video surveillance system based on H.264 and DM6437[J].Mechanical Engineering & Automation,2017(5):167-168.

[7] 王欢,张玉清,陈双刚,等.基于ARM平台的实验室视频监控系统设计[J].计算机工程与设计,2018,39(5):1302-1309.

WANG Huan,ZHANG Yuqing,CHEN Shuanggang,et al.Design of laboratory video surveillance system based on ARM platform[J].Computer Engineering and Design,2008,39(5):1302-1309.

[8] 李校林,肖路欢,何策.基于ONVIF协议的NVR系统中网络视频接口的设计[J].电视技术,2014,38(11):166-169.

LI Xiaolin,XIAO Luhuan,HE Ce.Design and implementation of NVR system network video interface based on ONVIF protocol[J].Video Engineering,2014,38(11):166-169.

[9] 张茜.基于ONVIF协议的媒体流实现方法[J].电子设计工程,2015,23(15):140-141.

ZHANG Qian.Media flow realization method based on ONVIF protocol[J].Electronic Design Engineering,2015,23(15):140-141.

[10] 马术聪,甘朝钦,华健,等.基于ONVIF协议的设备发现及PTZ控制模块的设计[J].通信技术,2016,49(6):774-781.

MA Shucong,GAN Chaoqin,HUA Jian,et al.Design and implementation of device discovery and PTZ control module in video surveillance system based on ONVIF protocol[J].Communications Technology,2016,49(6):774-781.

[11] 马川,刘志镜.视频实时传输的RTP实现[J].现代电子技术,2004,27(20):41-43.

MA Chuan,LIU Zhijing.The implement of video realtime transport in RTP[J].Modern Electronic Technique,2004,27(20):41-43.

[12] 董博南,张晓明,徐怡文,等.移动终端视频实时传输的关键技术[J].北京石油化工学院学报,2015,23(2):43-50.

DONG Bonan,ZHANG Xiaoming,XU Yiwen,et al.Key technology of real-time video transmission for mobile terminals[J].Journal of Beijing Institute of Petro-chemical Technology,2015,23(2):43-50.

[13] 张宛怡,张尧,周启炜.基于H.264标准的实时视频压缩系统设计[J].数字通信世界,2019(5):127-128.

ZHANG Wanyi,ZHANG Yao,ZHOU Qiwei.Design of real-time video compression system based on H.264 standard[J].Digital Communication World,2019(5):127-128.

[14] 韩滨旭,沈玉玲,王子萍.可兼容GB28181与ONVIF播放媒体流的视频服务器[J].计算机应用与软件,2018,35(7):183-186.

HAN Binxu,SHEN Yuling,WANG Ziping.Video server compatible with GB28181 and ONVIF playing media streams[J].Computer Applications and Software,2018,35(7):183-186.

[15] 马迪,陈万忠,吴佳宝,等.基于“互联网+”的生理参数远程采集管理系统[J].物联网技术,2019,9(8):8-10.

MA Di,CHEN Wanzhong,WU Jiabao,et al.Remote physiological parameters collection management system based on "Internet+"[J].Internet of Things Technologies,2019,9(8):8-10.

Design of mine-used real-time video transmission system

LI Wenfeng1, LU Jiantong1, LEI Wenli2, BAI Hui1

(1.College of Communication and Information Engineering, Xi'an University of Science and Technology, Xi'an 710054, China; 2.School of Physics and Electronic Information, Yan'an University, Yan'an 716000, China)

Abstract:A mine-used real-time video transmission system was designed to solve problems of low video definition, unstable transmission rate and poor compatibility in existing underground video transmission system. The system uses 960 nm infrared laser as auxiliary light source, and uses MCCD image sensor to collect video signals, which improves video definition in low light intensity or dark environment. The collected PAL analog video signal is converted into YUV digital signal through video decoding module TVP5150, then the digital signal is compressed and encoded by H.264 through multi format codec, and UDP packet header is added for RTP encapsulation, which improves timeliness of video data transmission. The data is streamed through Live555 streaming media server, RTSP video streaming is encapsulated with ONVIF standard, and real-time video streaming data transmission is realized through Socket network programming, which improves system compatibility and transmission rate stability. The test results show that the system has video transmission rate of 2.190 Mbit/s and packet loss rate of about 1.256%, which meets real-time video transmission requirements.

Key words:coal mine video monitoring; real-time video transmission; video acquisition; video compression; ONVIF

文章编号1671-251X(2020)02-0018-05

DOI:10.13272/j.issn.1671-251x.2019090050

中图分类号:TD676

文献标志码:A

收稿日期:2019-09-17;修回日期:2020-02-08;责任编辑:盛男。

基金项目:国家重点研发计划资助项目(2017YFC0703204);陕西省科技统筹创新工程计划资助项目(2015KTCQ03-10);陕西省能源大数据智能处理省市共建重点实验室开放基金资助项目(IPPBED4)。

作者简介:李文峰(1969-),男,河南襄城人,教授,博士,主要研究方向为矿山应急通信,E-mail:liwenfeng@xust.edu.cn。

通信作者:路建通(1991-),男,河北邯郸人,硕士研究生,主要研究方向为嵌入式软件开发,E-mail:302991350@qq.com。

引用格式:李文峰,路建通,雷文礼,等.矿用实时视频传输系统设计[J].工矿自动化,2020,46(2):18-22.

LI Wenfeng,LU Jiantong,LEI Wenli, et al. Design of mine-used real-time video transmission system[J].Industry and Mine Automation,2020,46(2):18-22.