纽曼皮尔逊准则Matlab实现,基于聂曼

基于聂曼-皮尔逊准则的skip模式快速选择方法

【技术领域】

[0001] 本发明属于视频编码技术领域，基于新一代视频编码标准化曲Efficiency VideoCoding(肥VC)，具体对肥VC的帖间预测过程中的SKIP模式的快速判定方法。

【背景技术】

[0002] 随着多媒体技术和网络通信技术的快速发展，多媒体应用已经覆盖了人类生活 的各个方面。其中，视频应用是最常见的技术之一，运些视频应用包括视频点播、视频监 控、视频会议、高清电视、便携摄影和可视电话等。大量的视频应用必然催生了海量的视 频数据。为满足高清视频的应用需求，国际电信联盟电信标准化部口(International TelecommunicationUnion-Telecom,mJ-T)的视频编码专家组(VideoCodingExperts Group,VECG)和国际标准化组织/国际电工技术委员会(InternationalOrganizationfor St曰nd曰rdiz曰tion/Intern曰tion曰IElectro-technic曰 1Commission,IS0/IEC)的动态图像 专家组(MovingPic1:ureExpertsGroup,MPEG)于2010年1月成立了视频编码联合工作 组(JointColl油orativeTeamonVideoCoding,JCT-VC)，该工作组主要致力于开发新一 代视频编码标准，称为高效能视频编码化i曲EfficiencyVideoCoding,肥VC)。

[0003] 作为新一代视频编码标准，肥VC化265)仍然属于预测加变换的混合编码框架。相 比较于H. 264/AVC，肥VC引入了很多新的编码工具，如基于四叉树结构的编码单元、基于角 度的帖内预测模式、先进的运动矢量预测、基于四叉树结构的变换、模式依赖的离散正弦变 换、W及样点自适应补偿滤波器(SampleAdaptiveOffset,SA0)等。运些技术使得肥VC的 编码性能有了很大的提升，与H.264/AVC相比，能达到同样画面质量下比特率减少50%的 性能。但肥VC高性能的获得是W巨大的计算复杂度为代价的。一方面较高的计算复杂度 产生功耗较大，影响了肥VC在移动设备上的推广和应用；另一方面较高的编码复杂度限制 了HEVC的编码速度，影响了其在低延迟场景下的应用。因此，在保证视频图像编码质量的 同时，有效降低肥VC编码复杂度的研究工作具有重要的实际应用价值和广泛的应用前景。

【发明内容】

[0004] 本发明的目的在于保证编码性能的条件下，快速进行SKIP模式的判定尽可能的 减少运算复杂度。基于此目的提供了一种基于憂曼-皮尔逊准则的SKIP模式快速选择方 法，能够极大地降低肥VC的编码复杂度。

[0005] 根据本发明的一个方面，提供一种基于憂曼-皮尔逊准则的SKIP模式快速选择 方法，本发明首先提出将一个预测单元(PU)的预测模式判定建模为"SKIP模式"和"非 SKIP模式"两类的分类问题，采用当前编码单元(CU)的SKIP模式的率失真代价(RD-COSt) 作为决策特征，在线统计学习前四帖，针对不同量化参数怕巧及不同编码单元深度(CU depth)，通过非参数概率密度估计分别得到最优选为SKIP模式和非SKIP模式时的决策 特征(SKIP模式的率失真代价)的条件概率分布。然后基于在线学习的统计信息，利用憂 曼-皮尔逊判定准则对剩余帖的SKIP模式进行提前判决。基于憂曼-皮尔逊准则，在限制 SKIP模式错判概率的前提下，尽可能多的减少SKIP模式漏判概率，即在保证编码的率失真 性能情况下，最大可能的提高编码速度。

[0006] 该方法主要包括两部分，第一部分是统计学习阶段，第二部分是SKIP模式快速选 择阶段。在统计学习阶段主要针对50帖间隔内第一次出现的不同QP的帖，对于区间内剩 余的帖利用更新的参数采用快速SKIP模式编码方法。

[0007] 所述方法具体包括如下步骤：

[000引步骤1 :在线统计学习每隔设定的周期帖数的前几帖，采用肥VC中标准过程编码 每一个编码单元(CU),并记录不同量化参数怕巧和不同编码单元深度下最优编码模式为 SKIP模式和非SKIP模式的个数及SKIP模式和非SKIP模式对应SKIP模式的率失真代价；

[0009] 步骤2 :将步骤1统计学习得到的数据建立非参数估计模型，并通过非参数估计分 别得到最优模式为SKIP模式和非SKIP模式的概率，及在SKIP模式下的SKIP的率失真代 价条件概率分布和在非SKIP模式下的SKIP的率失真代价条件概率分布；

[0010] 步骤3:根据步骤2得到SKIP模式下的SKIP的率失真代价条件概率分布和非SKIP 模式下的SKIP的率失真代价条件概率分布，运用非参数估计方法求得在给定SKIP模式错 判率Ei下的决策边界值ti;

[0011] 步骤4:根据憂曼-皮尔逊准则，求得步骤3得到的决策边界值ti对应的憂曼-皮 尔逊决策的阔值A1，该阔值Ai将用在SKIP模式的快速选择阶段；

[0012] 步骤5 :对剩余帖(设定的周期帖数的前几帖之外的其他帖)采用基于憂曼-皮 尔逊准则的SKIP模式快速选择，对于给定的CU,首先检测SKIP模式并得到SKIP模式的率 失真代价作为决策特征；

[0013] 步骤6 :根据SKIP模式的率失真代价，代入步骤2中非参数估计模型中算出SKIP 模式下的决策特征(SKIP的率失真代价)条件概率和在非SKIP模式下的决策特征(SKIP 的率失真代价)条件概率；

[0014] 步骤7 :将步骤6中得到的率失真代价条件概率值代入憂曼-皮尔逊决策模型中 判断本层CU最优模式是否为SKIP模式，若是SKIP模式则转步骤9,否则转步骤8 ;

[0015] 步骤8 :对本层CU的其它预测模式进行编码；

[0016] 步骤9 :CU向下划分进入下一编码单元深度的帖间预测模式选择。

[0017] 与现有技术相比，本发明具有如下的有益效果：

[0018] 本发明基于憂曼-皮尔逊准则，在限制SKIP模式错判概率的前提下，尽可能多的 提前判断出SKIP模式，能有效减少不必要的帖间预测模式的计算，实现在一定性能损失下 最大可能提高肥VC编码速度。经验证，在使用了该发明之后，在肥VC的参考编码器歷16. 0 下，针对多个视频序列编码器，在设定SKIP模式错误率为0. 1时，编码速度平均有44%的速 度提升，而BD-rate(相同质量下的码率)仅有0. 33 %的增加。

【附图说明】

[0019] 通过阅读参照W下附图对非限制性实施例所作的详细描述，本发明的其它特征、 目的和优点将会变得更明显：

[0020] 图1是SKIP模式和非SKIP模式的率失真代价(RD-COSt)概率密度估计图；

[0021] 图2是本发明一实施例的SKIP模式提前判定流程图； 阳02引图3是本发明一实施例与原始编码器率失真伽)性能曲线比较图。

【具体实施方式】

[0023] 下面结合具体实施例对本发明进行详细说明。W下实施例将有助于本领域的技术 人员进一步理解本发明，但不W任何形式限制本发明。应当指出的是，对本领域的普通技术 人员来说，在不脱离本发明构思的前提下，还可W做出若干变形和改进。运些都属于本发明 的保护范围。

[0024] 本发明基于新一代视频编码标准化曲EfficiencyVideoCoding(肥VC)，提出一 种对肥VC的帖间预测过程中的SKIP模式的快速判定方法，具体实施步骤如下：

[00巧]步骤1 :在线统计学习每隔50帖中的前四帖，并记录各种参数，具体是：

[00%] 采用肥VC中标准过程编码所有CU,并记录不同量化参数怕巧和不同编码单元深 度(d)下最优编码模式为SKIP模式U)f)的个数(W/巧日非SKIP模式的个数W惠)及 SKIP模式和非SKIP模式对应SKIP模式的归一化率失真代价(/fK归一化公式如下：

[0027]巧二巧 >〉shield] (1)

[0028] 其中左移的位数与编码单元深度d相关，shift[d]=怕，7, 5, 3}。

[0029] 本步骤中，设定的周期帖数为50帖，在线统计学习的是前四帖，在其他实施例中， 也可W根据需要设定其他的周期帖数、统计学习的帖数，运对本发明的实现没有本质性影 响。

[0030] 步骤2:将步骤1统计学习得到的数据建立非参数估计模型，并通过非参数估计分 别得到最优模式为SKIP模式和非SKIP模式的概率，及在SKIP模式下的SKIP的率失真代 价条件概率分布和在非SKIP模式下的SKIP的率失真代价条件概率分布，具体是：

[0031] 非参数估计采用直方图方法分别得到最优为SKIP模式和非SKIP模式的概率 p〇f)、p(o底)，及在SKIP模式下的SKIP的率失真代价条件概率分布p(/引〇>巧和在非SKIP模式下的SKIP的率失真代价条件概率分布节心.引其中：

(2)

[0033] 表示在编码单元深度为d时最优编码模式为SKIP模式，〇>备表示在编码单元 深度为d时最

纽曼皮尔逊准则Matlab实现,基于聂曼

基于聂曼-皮尔逊准则的skip模式快速选择方法

【技术领域】

[0001] 本发明属于视频编码技术领域，基于新一代视频编码标准化曲Efficiency VideoCoding(肥VC)，具体对肥VC的帖间预测过程中的SKIP模式的快速判定方法。

【背景技术】

[0002] 随着多媒体技术和网络通信技术的快速发展，多媒体应用已经覆盖了人类生活 的各个方面。其中，视频应用是最常见的技术之一，运些视频应用包括视频点播、视频监 控、视频会议、高清电视、便携摄影和可视电话等。大量的视频应用必然催生了海量的视 频数据。为满足高清视频的应用需求，国际电信联盟电信标准化部口(International TelecommunicationUnion-Telecom,mJ-T)的视频编码专家组(VideoCodingExperts Group,VECG)和国际标准化组织/国际电工技术委员会(InternationalOrganizationfor St曰nd曰rdiz曰tion/Intern曰tion曰IElectro-technic曰 1Commission,IS0/IEC)的动态图像 专家组(MovingPic1:ureExpertsGroup,MPEG)于2010年1月成立了视频编码联合工作 组(JointColl油orativeTeamonVideoCoding,JCT-VC)，该工作组主要致力于开发新一 代视频编码标准，称为高效能视频编码化i曲EfficiencyVideoCoding,肥VC)。

[0003] 作为新一代视频编码标准，肥VC化265)仍然属于预测加变换的混合编码框架。相 比较于H. 264/AVC，肥VC引入了很多新的编码工具，如基于四叉树结构的编码单元、基于角 度的帖内预测模式、先进的运动矢量预测、基于四叉树结构的变换、模式依赖的离散正弦变 换、W及样点自适应补偿滤波器(SampleAdaptiveOffset,SA0)等。运些技术使得肥VC的 编码性能有了很大的提升，与H.264/AVC相比，能达到同样画面质量下比特率减少50%的 性能。但肥VC高性能的获得是W巨大的计算复杂度为代价的。一方面较高的计算复杂度 产生功耗较大，影响了肥VC在移动设备上的推广和应用；另一方面较高的编码复杂度限制 了HEVC的编码速度，影响了其在低延迟场景下的应用。因此，在保证视频图像编码质量的 同时，有效降低肥VC编码复杂度的研究工作具有重要的实际应用价值和广泛的应用前景。

【发明内容】

[0004] 本发明的目的在于保证编码性能的条件下，快速进行SKIP模式的判定尽可能的 减少运算复杂度。基于此目的提供了一种基于憂曼-皮尔逊准则的SKIP模式快速选择方 法，能够极大地降低肥VC的编码复杂度。

[0005] 根据本发明的一个方面，提供一种基于憂曼-皮尔逊准则的SKIP模式快速选择 方法，本发明首先提出将一个预测单元(PU)的预测模式判定建模为"SKIP模式"和"非 SKIP模式"两类的分类问题，采用当前编码单元(CU)的SKIP模式的率失真代价(RD-COSt) 作为决策特征，在线统计学习前四帖，针对不同量化参数怕巧及不同编码单元深度(CU depth)，通过非参数概率密度估计分别得到最优选为SKIP模式和非SKIP模式时的决策 特征(SKIP模式的率失真代价)的条件概率分布。然后基于在线学习的统计信息，利用憂 曼-皮尔逊判定准则对剩余帖的SKIP模式进行提前判决。基于憂曼-皮尔逊准则，在限制 SKIP模式错判概率的前提下，尽可能多的减少SKIP模式漏判概率，即在保证编码的率失真 性能情况下，最大可能的提高编码速度。

[0006] 该方法主要包括两部分，第一部分是统计学习阶段，第二部分是SKIP模式快速选 择阶段。在统计学习阶段主要针对50帖间隔内第一次出现的不同QP的帖，对于区间内剩 余的帖利用更新的参数采用快速SKIP模式编码方法。

[0007] 所述方法具体包括如下步骤：

[000引步骤1 :在线统计学习每隔设定的周期帖数的前几帖，采用肥VC中标准过程编码 每一个编码单元(CU),并记录不同量化参数怕巧和不同编码单元深度下最优编码模式为 SKIP模式和非SKIP模式的个数及SKIP模式和非SKIP模式对应SKIP模式的率失真代价；

[0009] 步骤2 :将步骤1统计学习得到的数据建立非参数估计模型，并通过非参数估计分 别得到最优模式为SKIP模式和非SKIP模式的概率，及在SKIP模式下的SKIP的率失真代 价条件概率分布和在非SKIP模式下的SKIP的率失真代价条件概率分布；

[0010] 步骤3:根据步骤2得到SKIP模式下的SKIP的率失真代价条件概率分布和非SKIP 模式下的SKIP的率失真代价条件概率分布，运用非参数估计方法求得在给定SKIP模式错 判率Ei下的决策边界值ti;

[0011] 步骤4:根据憂曼-皮尔逊准则，求得步骤3得到的决策边界值ti对应的憂曼-皮 尔逊决策的阔值A1，该阔值Ai将用在SKIP模式的快速选择阶段；

[0012] 步骤5 :对剩余帖(设定的周期帖数的前几帖之外的其他帖)采用基于憂曼-皮 尔逊准则的SKIP模式快速选择，对于给定的CU,首先检测SKIP模式并得到SKIP模式的率 失真代价作为决策特征；

[0013] 步骤6 :根据SKIP模式的率失真代价，代入步骤2中非参数估计模型中算出SKIP 模式下的决策特征(SKIP的率失真代价)条件概率和在非SKIP模式下的决策特征(SKIP 的率失真代价)条件概率；

[0014] 步骤7 :将步骤6中得到的率失真代价条件概率值代入憂曼-皮尔逊决策模型中 判断本层CU最优模式是否为SKIP模式，若是SKIP模式则转步骤9,否则转步骤8 ;

[0015] 步骤8 :对本层CU的其它预测模式进行编码；

[0016] 步骤9 :CU向下划分进入下一编码单元深度的帖间预测模式选择。

[0017] 与现有技术相比，本发明具有如下的有益效果：

[0018] 本发明基于憂曼-皮尔逊准则，在限制SKIP模式错判概率的前提下，尽可能多的 提前判断出SKIP模式，能有效减少不必要的帖间预测模式的计算，实现在一定性能损失下 最大可能提高肥VC编码速度。经验证，在使用了该发明之后，在肥VC的参考编码器歷16. 0 下，针对多个视频序列编码器，在设定SKIP模式错误率为0. 1时，编码速度平均有44%的速 度提升，而BD-rate(相同质量下的码率)仅有0. 33 %的增加。

【附图说明】

[0019] 通过阅读参照W下附图对非限制性实施例所作的详细描述，本发明的其它特征、 目的和优点将会变得更明显：

[0020] 图1是SKIP模式和非SKIP模式的率失真代价(RD-COSt)概率密度估计图；

[0021] 图2是本发明一实施例的SKIP模式提前判定流程图； 阳02引图3是本发明一实施例与原始编码器率失真伽)性能曲线比较图。

【具体实施方式】

[0023] 下面结合具体实施例对本发明进行详细说明。W下实施例将有助于本领域的技术 人员进一步理解本发明，但不W任何形式限制本发明。应当指出的是，对本领域的普通技术 人员来说，在不脱离本发明构思的前提下，还可W做出若干变形和改进。运些都属于本发明 的保护范围。

[0024] 本发明基于新一代视频编码标准化曲EfficiencyVideoCoding(肥VC)，提出一 种对肥VC的帖间预测过程中的SKIP模式的快速判定方法，具体实施步骤如下：

[00巧]步骤1 :在线统计学习每隔50帖中的前四帖，并记录各种参数，具体是：

[00%] 采用肥VC中标准过程编码所有CU,并记录不同量化参数怕巧和不同编码单元深 度(d)下最优编码模式为SKIP模式U)f)的个数(W/巧日非SKIP模式的个数W惠)及 SKIP模式和非SKIP模式对应SKIP模式的归一化率失真代价(/fK归一化公式如下：

[0027]巧二巧 >〉shield] (1)

[0028] 其中左移的位数与编码单元深度d相关，shift[d]=怕，7, 5, 3}。

[0029] 本步骤中，设定的周期帖数为50帖，在线统计学习的是前四帖，在其他实施例中， 也可W根据需要设定其他的周期帖数、统计学习的帖数，运对本发明的实现没有本质性影 响。

[0030] 步骤2:将步骤1统计学习得到的数据建立非参数估计模型，并通过非参数估计分 别得到最优模式为SKIP模式和非SKIP模式的概率，及在SKIP模式下的SKIP的率失真代 价条件概率分布和在非SKIP模式下的SKIP的率失真代价条件概率分布，具体是：

[0031] 非参数估计采用直方图方法分别得到最优为SKIP模式和非SKIP模式的概率 p〇f)、p(o底)，及在SKIP模式下的SKIP的率失真代价条件概率分布p(/引〇>巧和在非SKIP模式下的SKIP的率失真代价条件概率分布节心.引其中：

(2)

[0033] 表示在编码单元深度为d时最优编码模式为SKIP模式，〇>备表示在编码单元 深度为d时最