2024年5月22日发(作者:庾初蝶)
20
机电技术2021年2月
基于灯体特征阈值分割的交通红绿灯图像识别
*
汤世福钟铭恩郑重港
(厦门理工学院福建省客车先进设计与制造重点实验室,福建厦门361024)
摘要交通红绿灯自动图像识别能够为赶黄灯、闯红灯等危险驾驶行为的车载预警与干预提供依据,对于增强车
辆环境感知能力和提升路口交通安全具有重大意义。文章统计分析了红绿灯HSV通道像素值的分布规律,给出了95%、
97.5%和99.75%分布概率下的颜色阈值;揭示了灯体图像的变形规律,给出了3种视野范围下的7组形状阈值;在利用颜
准确率可达97.18%,误检率为4.57%,漏检率为2.82%,实时性相对较好。
关键词交通红绿灯;图像识别;HSV特征;几何形状特征;支持向量机
文献标识码:A文章编号:1672-4801(2021)01-020-07
中图分类号:TP212.1
+
4
色和形状阈值提取灯体候选区域的前提下,提取9维像素密度矩阵并利用支持向量机来判断识别灯体。算法识别的平均
DOI:10.19508/.1672-4801.2021.01.006
交通红绿灯指示系统使交通得以有效管制,对
于保障交通次序、疏导交通流量、提高道路通行能
力和减少交通事故都有着明显作用。然而,现实生
活中由于驾驶员可能处于使用手机、分神、疲劳、情
绪化等低警觉状态,或者存在闯红灯、赶黄灯等主
观风险驾驶意图,红绿灯路口通行的违法行为依然
相对普遍,尤其常见于我国等中等发达国家及贫穷
地区,由此引发的交通事故数量居高不下,使得道
路交通路口成为交通事故发生的最常见场合之
一。如何降低路口交通事故已成为学术界、企业
界和交通管理部门都积极研究的热点问题。
摄像头抓拍与处罚是当前最主要的防治对
策,通过事后追责来对驾驶员产生心理威慑作用,
能够有效降低该类交通违法行为。然而这种事后
处理方案并不能从根源上降低或抑制该类交通违
法行为。于是,改变现有的“事后追责方案”为“提
前预警方案”成为当前研究的首选,是解决上述问
题的一种可探索路径。基于车载视觉的交通红绿
灯自动图像识别能够在上述危险驾驶状态下为车
载预警与驾驶干预提供依据,对于增强车辆环境
感知能力和提升路口交通安全都具有重大意义。
现有研究方法主要为传统图像处理方法和深
度学习技术两大类。传统图像处理方法主要根据
红绿灯的各类固有特征提取图像中的红绿灯候选
区域,然后利用候选区域的HOG、LBP、Haar等特
征
[3-4]
或模板匹配
[5]
来判断是否为灯体并识别灯体
[2]
[1]
类别。人为定义特征是传统图像处理的显著特
点,其中颜色
[6]
和几何形状
[7]
是最直接有效的两个
特征,被广泛应用于灯体候选图像区域的提取分
割。针对红绿灯这类单一目标的检测任务,传统
图像处理方法具有算法轻量化、硬件成本低、实时
性高、易于推广等特点,值得继续深入研究。然
而,在以传统图像处理为主的研究中,关于灯体图
像的颜色阈值和形状阈值的确定仍缺乏一定的科
学依据,大部分学者多是根据经验或样本分析来
给定。此类问题看似简单,却很可能是影响红绿
灯图像识别算法性能的决定性因素,需要在理论
上获得支持和完善。为此,本文拟在构建交通环
境图像集的基础上,给出具有统计学意义的灯体
颜色特征阈值和形状特征阈值,有效分割提取红
绿灯候选图像区域,并利用支持向量机分类技术
给出一种红绿灯识别方法。
1图像集构建
要求图像集尽量覆盖常见道路交叉口的各类
情况,以提高图像处理算法的适应能力。为此,以
网络搜索和路口实地拍摄为途径,大规模采集道
路交叉口的交通图片约2.1万张。为使图像集尽
量具有广泛的代表性,从中选择不同时段(白天、
傍晚、黑夜)、不同天气和光照条件(晴天、阴天、小
雨天、轻度雾霾天)、不同光线方向(逆光、平光、顺
光)和各种干扰(花草、红灯笼、广告、车辆尾灯)条
*福建省自然科学基金(2019J01859);厦门市科技计划项目(3502Z20183065)。
作者简介:汤世福(1995—),男,硕士,主要研究方向为机器视觉与图像处理。
通讯作者:钟铭恩(1980—),男,博士,教授,硕士生导师,主要研究方向为自动驾驶与辅助-交通环境感知。
第1期
汤世福等:基于灯体特征阈值分割的交通红绿灯图像识别
21
件下的路口图片共5000张,典型图片如图1所示。
(a)白天+晴天+稀疏车流(b)白天+雾天+红灯笼干扰
c)傍晚+雨天+高峰车流+尾灯干扰(d)夜晚+逆光+尾灯干扰
图1道路交叉口典型图像举例
为进一步丰富图像集和适应不同规格摄像头
拍摄品质,随机抽取40%即约2000张图片进行小
范围内的随机拉伸、旋转、扭曲、对比度和亮度调
整等常规图像变换操作,获得新增图片约4000
张。至此,共获得9000张图片,定义为交通红绿
灯图像集P
2颜色特征分布规律
9000
,为图像分析和算法设计奠定基础。
选用HSV色彩空间来统计分析红绿灯图像的
颜色分布规律。为此,遍历图像集P
张图片P
9000
中的每一
域,获得P
9000
(i),人工分割出其中的红绿灯图像区
集Y(n
9000
图像集中的所有红灯集R(n
r
)、黄灯
y
)
Y(i)
和绿灯集G(n
g
)
G(i)
,其中n
r
、n
y
和n
g
分
别表示各自的灯体元素总数。本文以红灯集R(n
r
)
的HSV数值统计分析为例说明具体处理流程:
第一步:根据公式(1)至公式(5)将每一个红
灯图像r(i)从RGB色彩模式转换到HSV色彩模
式,其中i=1,2,...,n
r
。
max
min
=
=
max
min(
(R
R
,
,
G
G
,
,
B
B
)
ì
)
(
(
1
2
)
)
ï
ï
ï
(
H=
ï
max
G-
-
B
min
×30+180)%180,if(R=max)
í
ï
ï
(
B-R
×30+240)%180,if(G=max)
(3)
ï
max-min
ï
î
(
max
R-
-
G
×30+300)%180,
S
min
if(B=max)
=255×(max-min)/max
(4)
V=max
(5)
式中:R、G、B分别表示彩色图像中各像素点红色
通道、绿色通道和蓝色通道的[0,255]之间的像素
值,H、S、V分别表示图像中各像素点色度、饱和度
和明度的像素值,H∈[0,180],S∈[0,255],V∈[0,255]。
第二步:统计图像区域r(i)中所有像素点的
H、S、V在不同取值时的个数N
RH
(i,h)、N
RH
(i,s)和
N
RH
(i,v),其中h=0,1,…,180、s=0,1,…,255、v=0,
1,…,
第三步:
255。
根据公式(6)至(8)分别计算红灯集
R(n
r
)中所有像素点的H、S、V在不同取值时的出
现比例。
K
n
RH
(h)=
K
∑
i=1
N
RH
n
(i,h)/
RS
(s)=
∑
∑
h
255
n
=0
∑
i=1
N
RH
(i,h)
(6)
i=1
N
RS
K
n
(i,s)/
RV
(h)=
∑
∑
s
255
n
=0
∑
i=1
N
RS
(i,s)
(7)
i=1
N
RV
至此,可根据K
(i,v)
和
/
RH
、K
RS
∑
v
255
n
=0
K
RV
分别绘制
∑
i=1
N
RV
P
(i,v)
(8)
9000
图像
集下所有红灯图像H、S、V通道像素值的概率密度
曲线,如图2所示。同理,可绘制出所有黄灯和绿
灯图像的H、S、V通道像素值的概率密度曲线,分
别如图3和图4所示。
(a)色度通道H(b)饱和度通道S
(c)亮度通道V
图2红灯图像H、S、V通道像素值概率密度曲线
(a)色度通道H(b)饱和度通道S
(c)亮度通道V
图3黄灯图像H、S、V通道像素值概率密度曲线
(
22
机电技术2021年2月
[167,180]。S通道和V通道的像素值概率分布都
(c)的曲线所示。可进一步求得S通道像素值分
布对应的统计指标为N(194.49,1224.30)、V通道
形似为正态分布曲线的一部分,如图2(b)和图2
像素值分布对应的统计指标为N(226.46,
(a)色度通道H(b)饱和度通道S
1320.49)。
分布,对应的统计指标为N(15.43,36.97);S通道
2)黄灯图像H通道的像素值分布近似为正态
和V通道的像素值分布近似为正态分布曲线的一
部分,对应的统计指标分别为N(186.49,1588.02)
(c)亮度通道V
和N(223.86,919.30)。
图4绿灯图像H、S、V通道像素值概率密度曲线
可以看出:
间组成,高值和低值区间的概率面积分别为
概率为例截取,具体范围如图2(a)中垂直虚线所
1)红灯图像H通道像素值分布由两个独立区
分布曲线,对应的统计指标为N(72.68,32.04);S
通道和V通道的像素值分布近似为正态分布曲线
一部分,对应的统计指标分别为N(199.61,
691.16)和N(230.36,985.96)。
至此,可分别给出红灯、黄灯和绿灯图像的
3)绿灯图像H通道的像素值分布近似为正态
69.54%和30.46%。根据概率面积占比以99.75%
示,求得低像素值区间为[0,13]、高像素值区间为
表1
H
0.95
红灯
黄灯
绿灯
[0,8]∪
[172,180]
[62,90]
[0,28]
S
0.95
V
0.95
H、S、V通道像素值在分布概率为95%、97.5%和
99.75%条件下的边界阈值,如表1所示。
S
0.975
V
0.975
H
0.9975
[0,13]∪
[167,180]
[56,90]
[0,34]
S
0.9975
[90,255]
[67,255]
V
0.9975
[119,255]
[133,255]
灯体图像的HSV阈值
H
0.975
[0,10]∪
[170,180]
[59,87]
[0,31]
[125,255][155,255]
[72,255][164,255]
[108,255][137,255]
[87,255][149,255]
[148,255][168,255][134,255][152,255][121,255][137,255]
3几何特征变化规律
种变形。下面以左转箭头灯为例,说明各主要尺
h
0,∗
、
w
1,∗
、寸的变化情况(公式9-13中分别用
w
0,∗
、
h
1,∗
、
w
2,∗
、
h
2,∗
表示左转箭头灯整体图像的外接矩形
在我国,红绿灯的类型、形状和尺寸都具有明
确的标准,由GB14887-2011《道路交通信号灯》
然而在车辆行驶过程中,由于红绿灯相对车载摄
像头的位置存在随机变化,导致灯体图像发生各
3
6
详细定义,如图5所示(其中,h
0
=h
1
,h
2
=l
0
cos45°)。
的宽度和高度、箭头“<”图像的外接矩形宽度和高
度、尾部“-”图像的宽度和高度、符号*指各类空间
位置情况)。
3.1理想成像情况
摄像头轴心线垂直于灯体平面并过灯体中心,
如图6所示,但这种情况在现实中几乎不存在。
O
2024年5月22日发(作者:庾初蝶)
20
机电技术2021年2月
基于灯体特征阈值分割的交通红绿灯图像识别
*
汤世福钟铭恩郑重港
(厦门理工学院福建省客车先进设计与制造重点实验室,福建厦门361024)
摘要交通红绿灯自动图像识别能够为赶黄灯、闯红灯等危险驾驶行为的车载预警与干预提供依据,对于增强车
辆环境感知能力和提升路口交通安全具有重大意义。文章统计分析了红绿灯HSV通道像素值的分布规律,给出了95%、
97.5%和99.75%分布概率下的颜色阈值;揭示了灯体图像的变形规律,给出了3种视野范围下的7组形状阈值;在利用颜
准确率可达97.18%,误检率为4.57%,漏检率为2.82%,实时性相对较好。
关键词交通红绿灯;图像识别;HSV特征;几何形状特征;支持向量机
文献标识码:A文章编号:1672-4801(2021)01-020-07
中图分类号:TP212.1
+
4
色和形状阈值提取灯体候选区域的前提下,提取9维像素密度矩阵并利用支持向量机来判断识别灯体。算法识别的平均
DOI:10.19508/.1672-4801.2021.01.006
交通红绿灯指示系统使交通得以有效管制,对
于保障交通次序、疏导交通流量、提高道路通行能
力和减少交通事故都有着明显作用。然而,现实生
活中由于驾驶员可能处于使用手机、分神、疲劳、情
绪化等低警觉状态,或者存在闯红灯、赶黄灯等主
观风险驾驶意图,红绿灯路口通行的违法行为依然
相对普遍,尤其常见于我国等中等发达国家及贫穷
地区,由此引发的交通事故数量居高不下,使得道
路交通路口成为交通事故发生的最常见场合之
一。如何降低路口交通事故已成为学术界、企业
界和交通管理部门都积极研究的热点问题。
摄像头抓拍与处罚是当前最主要的防治对
策,通过事后追责来对驾驶员产生心理威慑作用,
能够有效降低该类交通违法行为。然而这种事后
处理方案并不能从根源上降低或抑制该类交通违
法行为。于是,改变现有的“事后追责方案”为“提
前预警方案”成为当前研究的首选,是解决上述问
题的一种可探索路径。基于车载视觉的交通红绿
灯自动图像识别能够在上述危险驾驶状态下为车
载预警与驾驶干预提供依据,对于增强车辆环境
感知能力和提升路口交通安全都具有重大意义。
现有研究方法主要为传统图像处理方法和深
度学习技术两大类。传统图像处理方法主要根据
红绿灯的各类固有特征提取图像中的红绿灯候选
区域,然后利用候选区域的HOG、LBP、Haar等特
征
[3-4]
或模板匹配
[5]
来判断是否为灯体并识别灯体
[2]
[1]
类别。人为定义特征是传统图像处理的显著特
点,其中颜色
[6]
和几何形状
[7]
是最直接有效的两个
特征,被广泛应用于灯体候选图像区域的提取分
割。针对红绿灯这类单一目标的检测任务,传统
图像处理方法具有算法轻量化、硬件成本低、实时
性高、易于推广等特点,值得继续深入研究。然
而,在以传统图像处理为主的研究中,关于灯体图
像的颜色阈值和形状阈值的确定仍缺乏一定的科
学依据,大部分学者多是根据经验或样本分析来
给定。此类问题看似简单,却很可能是影响红绿
灯图像识别算法性能的决定性因素,需要在理论
上获得支持和完善。为此,本文拟在构建交通环
境图像集的基础上,给出具有统计学意义的灯体
颜色特征阈值和形状特征阈值,有效分割提取红
绿灯候选图像区域,并利用支持向量机分类技术
给出一种红绿灯识别方法。
1图像集构建
要求图像集尽量覆盖常见道路交叉口的各类
情况,以提高图像处理算法的适应能力。为此,以
网络搜索和路口实地拍摄为途径,大规模采集道
路交叉口的交通图片约2.1万张。为使图像集尽
量具有广泛的代表性,从中选择不同时段(白天、
傍晚、黑夜)、不同天气和光照条件(晴天、阴天、小
雨天、轻度雾霾天)、不同光线方向(逆光、平光、顺
光)和各种干扰(花草、红灯笼、广告、车辆尾灯)条
*福建省自然科学基金(2019J01859);厦门市科技计划项目(3502Z20183065)。
作者简介:汤世福(1995—),男,硕士,主要研究方向为机器视觉与图像处理。
通讯作者:钟铭恩(1980—),男,博士,教授,硕士生导师,主要研究方向为自动驾驶与辅助-交通环境感知。
第1期
汤世福等:基于灯体特征阈值分割的交通红绿灯图像识别
21
件下的路口图片共5000张,典型图片如图1所示。
(a)白天+晴天+稀疏车流(b)白天+雾天+红灯笼干扰
c)傍晚+雨天+高峰车流+尾灯干扰(d)夜晚+逆光+尾灯干扰
图1道路交叉口典型图像举例
为进一步丰富图像集和适应不同规格摄像头
拍摄品质,随机抽取40%即约2000张图片进行小
范围内的随机拉伸、旋转、扭曲、对比度和亮度调
整等常规图像变换操作,获得新增图片约4000
张。至此,共获得9000张图片,定义为交通红绿
灯图像集P
2颜色特征分布规律
9000
,为图像分析和算法设计奠定基础。
选用HSV色彩空间来统计分析红绿灯图像的
颜色分布规律。为此,遍历图像集P
张图片P
9000
中的每一
域,获得P
9000
(i),人工分割出其中的红绿灯图像区
集Y(n
9000
图像集中的所有红灯集R(n
r
)、黄灯
y
)
Y(i)
和绿灯集G(n
g
)
G(i)
,其中n
r
、n
y
和n
g
分
别表示各自的灯体元素总数。本文以红灯集R(n
r
)
的HSV数值统计分析为例说明具体处理流程:
第一步:根据公式(1)至公式(5)将每一个红
灯图像r(i)从RGB色彩模式转换到HSV色彩模
式,其中i=1,2,...,n
r
。
max
min
=
=
max
min(
(R
R
,
,
G
G
,
,
B
B
)
ì
)
(
(
1
2
)
)
ï
ï
ï
(
H=
ï
max
G-
-
B
min
×30+180)%180,if(R=max)
í
ï
ï
(
B-R
×30+240)%180,if(G=max)
(3)
ï
max-min
ï
î
(
max
R-
-
G
×30+300)%180,
S
min
if(B=max)
=255×(max-min)/max
(4)
V=max
(5)
式中:R、G、B分别表示彩色图像中各像素点红色
通道、绿色通道和蓝色通道的[0,255]之间的像素
值,H、S、V分别表示图像中各像素点色度、饱和度
和明度的像素值,H∈[0,180],S∈[0,255],V∈[0,255]。
第二步:统计图像区域r(i)中所有像素点的
H、S、V在不同取值时的个数N
RH
(i,h)、N
RH
(i,s)和
N
RH
(i,v),其中h=0,1,…,180、s=0,1,…,255、v=0,
1,…,
第三步:
255。
根据公式(6)至(8)分别计算红灯集
R(n
r
)中所有像素点的H、S、V在不同取值时的出
现比例。
K
n
RH
(h)=
K
∑
i=1
N
RH
n
(i,h)/
RS
(s)=
∑
∑
h
255
n
=0
∑
i=1
N
RH
(i,h)
(6)
i=1
N
RS
K
n
(i,s)/
RV
(h)=
∑
∑
s
255
n
=0
∑
i=1
N
RS
(i,s)
(7)
i=1
N
RV
至此,可根据K
(i,v)
和
/
RH
、K
RS
∑
v
255
n
=0
K
RV
分别绘制
∑
i=1
N
RV
P
(i,v)
(8)
9000
图像
集下所有红灯图像H、S、V通道像素值的概率密度
曲线,如图2所示。同理,可绘制出所有黄灯和绿
灯图像的H、S、V通道像素值的概率密度曲线,分
别如图3和图4所示。
(a)色度通道H(b)饱和度通道S
(c)亮度通道V
图2红灯图像H、S、V通道像素值概率密度曲线
(a)色度通道H(b)饱和度通道S
(c)亮度通道V
图3黄灯图像H、S、V通道像素值概率密度曲线
(
22
机电技术2021年2月
[167,180]。S通道和V通道的像素值概率分布都
(c)的曲线所示。可进一步求得S通道像素值分
布对应的统计指标为N(194.49,1224.30)、V通道
形似为正态分布曲线的一部分,如图2(b)和图2
像素值分布对应的统计指标为N(226.46,
(a)色度通道H(b)饱和度通道S
1320.49)。
分布,对应的统计指标为N(15.43,36.97);S通道
2)黄灯图像H通道的像素值分布近似为正态
和V通道的像素值分布近似为正态分布曲线的一
部分,对应的统计指标分别为N(186.49,1588.02)
(c)亮度通道V
和N(223.86,919.30)。
图4绿灯图像H、S、V通道像素值概率密度曲线
可以看出:
间组成,高值和低值区间的概率面积分别为
概率为例截取,具体范围如图2(a)中垂直虚线所
1)红灯图像H通道像素值分布由两个独立区
分布曲线,对应的统计指标为N(72.68,32.04);S
通道和V通道的像素值分布近似为正态分布曲线
一部分,对应的统计指标分别为N(199.61,
691.16)和N(230.36,985.96)。
至此,可分别给出红灯、黄灯和绿灯图像的
3)绿灯图像H通道的像素值分布近似为正态
69.54%和30.46%。根据概率面积占比以99.75%
示,求得低像素值区间为[0,13]、高像素值区间为
表1
H
0.95
红灯
黄灯
绿灯
[0,8]∪
[172,180]
[62,90]
[0,28]
S
0.95
V
0.95
H、S、V通道像素值在分布概率为95%、97.5%和
99.75%条件下的边界阈值,如表1所示。
S
0.975
V
0.975
H
0.9975
[0,13]∪
[167,180]
[56,90]
[0,34]
S
0.9975
[90,255]
[67,255]
V
0.9975
[119,255]
[133,255]
灯体图像的HSV阈值
H
0.975
[0,10]∪
[170,180]
[59,87]
[0,31]
[125,255][155,255]
[72,255][164,255]
[108,255][137,255]
[87,255][149,255]
[148,255][168,255][134,255][152,255][121,255][137,255]
3几何特征变化规律
种变形。下面以左转箭头灯为例,说明各主要尺
h
0,∗
、
w
1,∗
、寸的变化情况(公式9-13中分别用
w
0,∗
、
h
1,∗
、
w
2,∗
、
h
2,∗
表示左转箭头灯整体图像的外接矩形
在我国,红绿灯的类型、形状和尺寸都具有明
确的标准,由GB14887-2011《道路交通信号灯》
然而在车辆行驶过程中,由于红绿灯相对车载摄
像头的位置存在随机变化,导致灯体图像发生各
3
6
详细定义,如图5所示(其中,h
0
=h
1
,h
2
=l
0
cos45°)。
的宽度和高度、箭头“<”图像的外接矩形宽度和高
度、尾部“-”图像的宽度和高度、符号*指各类空间
位置情况)。
3.1理想成像情况
摄像头轴心线垂直于灯体平面并过灯体中心,
如图6所示,但这种情况在现实中几乎不存在。
O