2024年4月24日发(作者：武孤兰)
第１３卷第１期２０１３年１月
科学技术与工程
Ｖｏ１．１３ Ｎｏ．１ Ｊａｎ．２０１３
１６７１～１８１５（２０１３）０１—０２３６—０４
Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｅｎｇｉｎｅｅｒｉｎｇ
⑥２０１３ Ｓｃｉ．Ｔｅｃｈ．Ｅｎｇｒｇ．
ＥＭ与ＰＳＯ算法在图像统计
模型拟合中的应用
白彦辉 李旭超
（赤峰学院计算机与信息工程学院 ，赤峰０２４０００；江苏师范大学电气工程及自动化学院 ，徐州２２１１１６）
摘要针对期望最大值算法（ＥＭ）对图像统计模型初始值敏感和容易陷入局部极值的弱点，结合粒子群优化算法（ＰＳＯ）全
局寻优的特点，提出一种有效解决此问题的ＥＭ—ＰＳＯ混合算法。该算法将粒子分为最优种群和进化种群，分别用ＥＭ算法和
ＰＳＯ算法进行更新。然后选取最优粒子群作为ＥＭ算法的初始值。仿真结果表明，用ＥＭ—ＰＳＯ算法拟合图像统计模型比用
ＥＭ算法拟合图像统计模型更准确。
关键词 粒子群优化 期望最大值 图像统计模型
中图法分类号ＴＰ３９１．４１； 文献标志码Ａ
期望最大值（Ｅｘｐｅｃｔａｔｉｏｎ Ｍａｘｉｍｉｚａｔｉｏｎ，ＥＭ）算
法进行更新，随着历史最优粒子群的不同，ＥＭ算法
法收敛速度快，容易实现，能有效地解决丢失数据 的初始值也不同，而最优粒子的获得是根据ＰＳＯ算
统计模型参数估计问题，在图像处理和计算机视觉
法和ＥＭ算法每代更新粒子的拟合误差来确定，从
等领域得到了广泛的应用 Ｊ。但ＥＭ算法对初始值
而保证ＥＭ算法初始化的随机性，克服ＥＭ算法对
敏感且容易陷入局部极值或鞍点，导致统计模型拟
所有解都进行更新可能导致可行解容易陷入局部
合的效果并不理想。近年来，基于仿生学鸟群随机
极值的不足。通过逐代更新最优可行解，最终获得
搜索食物行为发展起来的智能粒子群优化（Ｐａｒｔｉｃｌｅ
图像统计模型参数估计的最优解。
Ｓｗａｒｍ Ｏｐｔｉｍｉｚａｔｉｏｎ，ＰＳＯ）算法引人注目，其最大的
特点是信息共享，每个粒子在可行解空间中逐代寻
１研究基础
求最优解，促使整个种群最终搜索到最优解，算法
１．１ ＥＭ算法与图像有限混合统计模型
具有较强的全局搜索能力，需要调整的参数少，能
ＥＭ算法由Ｄｅｍｐｓｔｅｒ等人于１９７７年提出¨Ｊ，是
有效地处理多峰值统计分布的拟合问题。
解决丢失数据统计模型参数估计的强有力工具。
本文将粒子群算法和期望最大值算法有效地
ＥＭ算法是在观测数据的基础上添加一些潜在的
结合，提出一种ＰＳＯ和ＥＭ混合图像统计模型参数
“丢失数据”，假设用ｆ表示，观测数据称为“不完全
优化算法。算法根据图像统计分布的拟合误差，将
数据”，用 表示，由丢失数据和不完全数据组成的
粒子分为最优粒子群和进化粒子群。利用ＰＳＯ最
数据称为“完全数据”，用Ｙ表示，则Ｙ＝（ ，ｆ）。
优解的全局搜索的随机性 ｊ，对进化粒子群用ＰＳＯ
在建立图像统计模型过程中，给定的图像是不
算法进行更新；对历史潜在的最优粒子群，用ＥＭ算
完全数据，像素的标号是丢失数据。假设像素的灰
度在标号为ｚ的区域服从均值为 ，方差为 （ｚ＝
江苏省江苏师范大学２０１０年度
１，２，…， ）的某一分布，那么整个图像的统计分布
自然科学基金（１０ＸＬＲ２７）资助
可用有限混合统计模型来拟合，表达式如下
第一作者简介：［Ｊ彦辉（１９７８一），女，讲师，硕士，研究方向：计算机
Ｍ Ｌ
视觉、统计图像处弹和智能优化算法等。Ｅ－ｍａｉｌ：ｂｓｘ７０９６＠ＳＯ．
）＝Ｈ∑ｐ
ｉ＝１，＝１
，ｍ ） （１）
ｈｕ．ＣＯＨ１。
式（１）中，Ｐ 、ｍ 和Ｓ 分别是第ｆ个分量的先验概
１期 白彦辉，等：ＥＭ与ＰＳＯ算法在图像统计模型拟合中的应用 ２３７
率、均值和方差，用ｆ＝（Ｐ ，ｓ ，ｍ ）表示有限统计混
合模型的参数，其中先验概率满足下列条件
Ｌ
ＤＭｔ ＝ｂｌｈ（Ｄｐ 一Ｄｚ：）＋ｂ２ （ＤＵｄ一 ；）（５）
印 ＝ ｔ－ ＋Ｄ ｔ （６）
０＜Ｐ２＜１，∑Ｐｌ＝１
ｆ＝１
（２）
式中，ｔ为迭代次数，ｂ 和ｂ 为学习因子，ｈ和 是
［０，１］区间内均匀分布的随机数，却 ＝ｐｔ 一ｐ ，
由于给定图像的统计直方图已知且常常呈多
Ｄｕｌ ＝ｕ ｔ一（ｔｔｕｔ － ，ａ 是惯性权重，用来动态调节粒
子群在后期具有更好的搜索能力，其更新由最大权
峰值分布，要用有限混合统计模型式（１）拟合图像
的统计分布，必须解决式（１）中的参数估计问题。
从式（１）可知，参数和统计分布函数具有非线性关
系，且二者耦合在一起，即估计参数必须知道函数
的统计分布，估计图像的统计模型必须知道参数，
但二者却常常都是未知的 ］，这使得此类参数估计
十分困难，而参数估计的准确性对图像统计分布的
拟合产生至关重要的影响。ＥＭ算法是解决具有丢
失数据且数据呈多峰值统计分布参数估计的强有
力工具，这种算法不是直接对不完全数据直接进行
操作，而是采用迭代增加完全数据似然函数值的方
式寻求模型参数估计的最优解，由期望步（Ｅ．步）与
最大步（Ｍ．步）组成，具体表述为
Ｅ．步：计算完全数据条件概率的数学期望
Ｆ（ｆ；ｆ（ｆｊ）＝Ｅ ［１ ，ｆ Ｉ ｆ）ｌ ，ｆ【ｆＪ］ （３）
Ｍ－步：更新模型的参数
ｆ 川’＝ａｒｇｍａｘＦ（１；ｌ‘ ’） （４）
式（４）中，ｔ为迭代次数，对Ｅ一步和 一步进行交替迭
代，直至ｌｌ ｚ“ ’一ｆ【Ｉ）ｌｌ＜ｅ为止。从式（３）可知，模
型参数估计依赖于初始值ｆ【０），从式（４）可知，初始
值最终决定参数更新的结果。由于通常待拟合图
像的统计分布呈多峰形式，具有数个局部极值，因
此初始化的好坏直接影响拟合的准确性。
１．２增量式ＰＳＯ算法
ＰＳＯ算法由Ｊ．Ｋｅｎｎｅｄｙ等人于１９５５年提出的，
通过群体最优方向、个体最优方法和惯性方向协调
来求解参数优化问题。一个由Ⅳ个粒子组成的群
体在Ｄ维空间以一定的速度进行搜索，第ｉ个粒子
群的当前位置和搜索速度表示为（Ｐ ，Ｕ ）＝｛（Ｐ
Ｕ ｄ）；ｉ：１，２，…，Ⅳ；ｄ＝１，２，…，Ｄ｝，第 个粒子在
Ｄ维空间中搜索的历史最优解为 ＝ａｒｇｍａｘｐ 群
体内所有粒子搜索的最优解为ｚｊ＝（ｐ ；ｄ＝１，２，
…
，
Ｄ），在最优解的搜索过程中，粒子的位置和速度
按如下增量进行变化：
重ａ 和最小权重ａ 线性表示为
。…一￡ （７）
式中， 为总的迭代次数。
２ ＥＭ与ＰＳＯ混合优化算法
图１为ＥＭ与ＰＳＯ混合优化算法的流程，该混
合算法的基本原理是：将种群分为最优种群和进化
种群，在每次迭代中，将最优种群利用ＥＭ算法进行
更新，而进化种群利用ＰＳＯ算法进行更新，然后将
二者得到的种群进行对比，选出最优种群和进化种
群，如此反复，最终求出整个种群的最优解。由于
ＰＳＯ算法的进化是追逐最优解，从而保证了算法的
收敛性。根据准则函数，对ＰＳＯ算法的进化种群和
ＥＭ算法更新的历史最优种群进行分类，选出的最
优种群作为ＥＭ算法下次更新的初始值。由于每次
迭代最优解是由ＰＳＯ进化算法和ＥＭ算法共同提
供，保证最优解的随机性，克服了经典ＥＭ算法在迭
代过程中依赖确定初始值容易陷入局部极值的
弱点。
从图１可知，要判断拟合误差是否满足要求必
须确定评价准则。由于是应用有限混合模型拟合
图像的统计分布，拟合误差评价准则可表示为
ｉｆｔ（ｅｒｒｏｒ）＝ｒａｉｎ∑ｌ＿厂（ ）－ｆ（ｘ；ａ）Ｉ （８）
式（８）中ｌ厂（ ）表示待拟合图像统计分布的直方图，
，（ ；Ａ）表示由式（１）确定的待估计图像的统计
分布。
由式（１）和式（３），根据图１，则最优粒子用ＥＭ
算法进行更新的表达式为
Ｅ一步，获得丢失数据后验概率表达式为
ｆ（ｔ ｌ ，ｆ）： （９）
∑ （ｆ）＿厂（ ｌ ）
科学技术与工程 １３卷
图１ ＥＭ与ＰＳＯ混合算法流程
式（９）中， （ｚ）表示历史最优种群先验概率。
Ｍ一步，最优种群模型参数更新表达式为
¨“
＝ａｒｇｍａｘＦ（ｚ ｌ ’） （１０）
由式（５）、式（６）和式（１０），根据图１，则进化种
群更新速度和位置的表达式可表示为
Ｄｕ＇ｉｄ＝ｂｌｈ（Ｄｒ．一Ｄｒｉ）＋ｂ２ （ 一 ）
（１１）
Ｄ ＝ ＋ＤＭ （１２）
式中，２ ０ 表示由ＥＭ算法确定的最优模型参数。
３ ＥＭ与ＰＳＯ混合优化算法拟合图像统计
分布的实现步骤
Ｓｔｅｐｌ设置粒子群的规模、学习因子、最大迭
代次数、惯性权重的最大值和最小值，随机生成初
始的粒子群。
Ｓｔｅｐ２按式（８）计算每个粒子的适应值，根据
初始拟合误差，获得初始历史最好解，从而获得初
始历史最优种群和进化种群。
Ｓｔｅｐ３应用ＥＭ算法，根据最优种群的先验概
率、均值和方差的初始值，按式（９）计算最优种群的
后验概率，按式（１０）更新最优种群的先验概率、均
值和方差。
Ｓｔｅｐ４将获得的最优种群代人式（８）中，判断
拟合误差是否满足要求。若满足要求，则转Ｓｔｅｐ６；
若不满足要求，则转Ｓｔｅｐ５。
Ｓｔｅｐ５应用ＰＳＯ算法，对其余进化种群按式
（１１）、式（１２）进行更新，迭代次数加１，若末达到终
止条件，则转到Ｓｔｅｐ２。
Ｓｔｅｐ６输出最优种群，获得最优解。
４实验结果及分析
为检验本文算法的有效性，对标准测试Ｌｅｎａ图
像的统计分布进行拟合并与文献［１］的ＥＭ方法进
行对比。图像的大小为２５６ ｘ ２５６，灰度级为０～
２５５，种群的大小为４０，ｂ 和ｂ 取值为粒子的先验概
率，算法的收敛误差为１０～，每种算法独立运行２０
次，最大迭代次数５００次。
图２为原始的标准Ｌｅｎａ图像。图３为Ｌｅｎａ图
像的统计分布，用蓝色的曲线表示。从图３可以看
出，其统计分布具有多个峰值。图４为用文献［１］
的ＥＭ算法对Ｌｅｎａ图像的统计分布进行拟合，从绿
线可以看出，在平滑区域，ＥＭ算法确定的统计模型
基本能拟合图像的统计分布，但在峰值和峰谷附
近，有些关键点不能很好地拟合，这是由于ＥＭ算法
在估计模型参数时，没有得到参数估计的最优解，
而是陷入了局部最优解，从而产生较大的拟合误
差，这对后续图像处理将产生不利的影响。图５为
用本文提出的方法对Ｌｅｎａ图像的统计分布进行拟
合，从红色的曲线可以看出，本文的方法能较好地
拟合图像的统计分布，且对图像统计分布的峰值和
峰谷具有一定的平滑作用，体现了ＰＳＯ算法的全局
寻优能力能有效地克服ＥＭ算法容易收敛到局部最
优解的弱点。
图２ Ｌｅｎａ图像
白彦辉，等：ＥＭ与ＰＳＯ算法在图像统计模型拟合中的应用 ２３９
种算法利用ＥＭ算法更新最优种群，利用ＰＳＯ算法
更新进化种群，然后再对新的种群根据拟合误差来
进行分类，使ＥＭ算法更新下一代最优种群时的初
始值是随机的，克服了ＥＭ算法容易陷入局部极值
的不足。仿真结果表明，本文的方法估计的统计模
型能有效地拟合标准Ｌｅｎａ图像的统计分布，为下一
步图像分割研究提供了有力保证。
图３ Ｌｅｎａ图像统计分布
图５本文算法拟合
参考文献
图４文献ＥＭ算法拟合
Ｄｅｍｐｓｔｅｒ Ａ Ｐ．Ｌａｒｄ Ｎ Ｍ，Ｒｕｂｉｎ Ｄ Ｂ．Ｍａｘｉｍｕｍ ｌｉｋｅｌｉｈｏｏｄ ｆｒｏｍ ｉｎ—
ｃｏｍｐｌｅｔｅ ｄａｔａ ｖｉａ ＥＭ ａｌｇｏｒｉｔｈｍ．Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ｒｏｙａｌ Ｓｔａｔｉｓｔｉｃｓ Ｓｏｃｉｅ－
５结束语
本文针对经典ＥＭ算法对初始值敏感和容易陷
入局部极值的缺陷，结合智能ＰＳＯ进化算法全局寻
优的思想，提出了一种ＥＭ—ＰＳＯ混合优化算法。这
ｔｙ，１９７７；３９（１）：１—３７
２
李丽，牛奔．粒子群优化算法．北京：冶金工业出版社，２００９
Ｘｕｃｈａｏ，Ｂｉａｎ Ｓｕｘｕａｎ．Ｍｕｈｉｒｅｓｏｌｕｔｉｏｎ ｆｕｚｚｙ Ｃ Ｍｅａｎｓ ｃｌｕｓｔｅｒｉｎｇ ｕ—
３
Ｌｉ
ｓｉｎｇ ｍａｒｋｏｖ ｒａｎｄｏｍ ｆｉｅｌｄ ｆｏｒ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ．Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒ－
ｎａｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ，２００９；１（１）：
４９—５７
Ｔｈｅ Ａｐｐｌｉｃａｔｉｏｎ ｏｆ ＥＭ ａｎｄ
ＰＳＯ Ａｌｇｏｒｉｔｈｍ ｔｏ Ｆｉｔｔｉｎｇ ｔｈｅ
Ｉｍａｇｅ Ｓｔａｔｉｓｔｉｃａｌ Ｍｏｄｅｌ
ＢＡＩ Ｙａｎ－ｈｕｉ ．ＬＩ Ｘｕ．ｃｈａｏ
（ｃｏ１１ｅｇｅ ｏｆ Ｃｏｍｐｕｔｅｒ ａｎｄ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｃｈｉｆｅｎｇ Ｕｎｉｖｅｒｓｉｔｙ ，Ｃｈｉｆｅｎｇ ０２４０００，Ｐ．Ｒ．Ｃｈｉｎａ；
Ｃｏｌｌｅｇｅ ｏｆ Ｅ１ｅｃｔｒｉｃａｌ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｕｔｏｍａｔｉｏｎ，Ｊｉａｎｇｓｕ Ｎｏｒｍａｌ Ｕｎｉｖｅｔｓｉｔｙ ，Ｘｕｚｈｏｕ ２２１１１６，Ｐ．Ｒ．Ｃｈｉｎａ）
［Ａｂｓｔｒａｃｔ］ Ａｉｍｉｎｇ ａｔ ｔｈｅ ｄｉｓａｄｖａｎｔａｇｅｓ ｏｆ ｅｘｐｅｃｔａｔｉｏｎ ｍａｘｉｍｉｚａｔｉｏｎ（ＥＭ）ａｌｇｏｒｉｔｈｍ，ｉｎ ｐａｒａｍｅｔｅｒｓ ｅｓｔｉｍａｔｉｏｎ
ｏｆ ｓｔａｔｉｓｔｉｃａｌ ｉｍａｇｅ ｍｏｄｅｌ，ｗｈｉｃｈ ｉｓ ｓｅｎｓｉｔｉｖｅ ｔｏ ｉｎｉｔｉａｌｉｚａｔｉｏｎ ａｎｄ ｉｓ ｅａｓｙ ｔｏ ｔｒａｐ ｌｏｃａｌ ｍａｘｉｍｕｍ，ｃｏｍｂｉｎｉｎｇ ｔｈｅ
ｗｈｏｌｅ ｓｅａｒｃｈ ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ ｏｆ ｐａｒｔｉｃｌｅ ｓｗａｍ３ ｏｐｔｉｍｉｚａｔｉｏｎ（ＰＳＯ）ａｌｇｏｒｉｔｈｍ，ａｎ ｈｙｂｒｉｄ ＥＭ—ＰＳＯ ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｏ—
ｐｏｓｅｄ．Ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｐａｒｔｉｔｉｏｎｓ ｔｈｅ ｓｗａｒｍ ｉｎｔｏ ｔｈｅ ｈｉｓｔｏｒｙ ｏｐｔｉｍｕｍ ｓｗａｒｍ ａｎｄ ｔｈｅ ｅｖｏｌｕｔｉｏｎ ｓｗａｒｍ，ｗｈｉｃｈ
ａｒｅ，ｒｅｓｐｅｃｔｉｖｅｌｙ，ｕｐｄａｔｅｄ ｂｙ ＥＭ ａｌｇｏｒｉｔｈｍ ａｎｄ ＰＳＯ ａｌｇｏｒｉｔｈｍ，ｉｎ ｅａｃｈ ｉｔｅｒａｔｉｏｎ，ｓｅｌｅｃｔｉｎｇ ｔｈｅ ｈｉｓｔｏｒｙ ｏｐｔｉｍｕｍ
ＥＭ—ＰＳＯ ａｌｇｏｒｉｔｈｍ ｗｉｔｈ ｓｔａｎｄａｒｄ ＥＭ ａｌｇｏｒｉｔｈｍ ｉｎ ｆｉｔｔｉｎｇ ｔｈｅ
ＳＷａｒｎｌ ｆｏｒ ｔｈｅ ＥＭ ａｌｇｏｒｉｔｈｍ ｉｎｉｔｉａｌｉｚａｔｉｏｎ．Ｃｏｍｐａｒｉｎｇ
ｐｒｏｐｏｓｅｄ ｏｕｔｐｅｒｆｏｒｍｓ ＥＭ ａｌｇｏｒｉｔｈｍ．
ｓｔａｔｉｓｔｉｃａｌ ｄｉｓｔｉｂｕｔｉｏｎ ｏｆ ｉｍａｇｅ，ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔｒ ｔｈｅ
［Ｋｅｙ ｗｏｒｄｓ］ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ（ＰＳＯ）
ｅｘｐｅｃｔａｔｉｏｎ ｍａｘｉｍｉｚａｔｉｏｎ（ＥＭ）ｐａｒａｍｅｔｅｒ ｅｓｔｉｍａｔｉｏｎ
2024年4月24日发(作者：武孤兰)
第１３卷第１期２０１３年１月
科学技术与工程
Ｖｏ１．１３ Ｎｏ．１ Ｊａｎ．２０１３
１６７１～１８１５（２０１３）０１—０２３６—０４
Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｅｎｇｉｎｅｅｒｉｎｇ
⑥２０１３ Ｓｃｉ．Ｔｅｃｈ．Ｅｎｇｒｇ．
ＥＭ与ＰＳＯ算法在图像统计
模型拟合中的应用
白彦辉 李旭超
（赤峰学院计算机与信息工程学院 ，赤峰０２４０００；江苏师范大学电气工程及自动化学院 ，徐州２２１１１６）
摘要针对期望最大值算法（ＥＭ）对图像统计模型初始值敏感和容易陷入局部极值的弱点，结合粒子群优化算法（ＰＳＯ）全
局寻优的特点，提出一种有效解决此问题的ＥＭ—ＰＳＯ混合算法。该算法将粒子分为最优种群和进化种群，分别用ＥＭ算法和
ＰＳＯ算法进行更新。然后选取最优粒子群作为ＥＭ算法的初始值。仿真结果表明，用ＥＭ—ＰＳＯ算法拟合图像统计模型比用
ＥＭ算法拟合图像统计模型更准确。
关键词 粒子群优化 期望最大值 图像统计模型
中图法分类号ＴＰ３９１．４１； 文献标志码Ａ
期望最大值（Ｅｘｐｅｃｔａｔｉｏｎ Ｍａｘｉｍｉｚａｔｉｏｎ，ＥＭ）算
法进行更新，随着历史最优粒子群的不同，ＥＭ算法
法收敛速度快，容易实现，能有效地解决丢失数据 的初始值也不同，而最优粒子的获得是根据ＰＳＯ算
统计模型参数估计问题，在图像处理和计算机视觉
法和ＥＭ算法每代更新粒子的拟合误差来确定，从
等领域得到了广泛的应用 Ｊ。但ＥＭ算法对初始值
而保证ＥＭ算法初始化的随机性，克服ＥＭ算法对
敏感且容易陷入局部极值或鞍点，导致统计模型拟
所有解都进行更新可能导致可行解容易陷入局部
合的效果并不理想。近年来，基于仿生学鸟群随机
极值的不足。通过逐代更新最优可行解，最终获得
搜索食物行为发展起来的智能粒子群优化（Ｐａｒｔｉｃｌｅ
图像统计模型参数估计的最优解。
Ｓｗａｒｍ Ｏｐｔｉｍｉｚａｔｉｏｎ，ＰＳＯ）算法引人注目，其最大的
特点是信息共享，每个粒子在可行解空间中逐代寻
１研究基础
求最优解，促使整个种群最终搜索到最优解，算法
１．１ ＥＭ算法与图像有限混合统计模型
具有较强的全局搜索能力，需要调整的参数少，能
ＥＭ算法由Ｄｅｍｐｓｔｅｒ等人于１９７７年提出¨Ｊ，是
有效地处理多峰值统计分布的拟合问题。
解决丢失数据统计模型参数估计的强有力工具。
本文将粒子群算法和期望最大值算法有效地
ＥＭ算法是在观测数据的基础上添加一些潜在的
结合，提出一种ＰＳＯ和ＥＭ混合图像统计模型参数
“丢失数据”，假设用ｆ表示，观测数据称为“不完全
优化算法。算法根据图像统计分布的拟合误差，将
数据”，用 表示，由丢失数据和不完全数据组成的
粒子分为最优粒子群和进化粒子群。利用ＰＳＯ最
数据称为“完全数据”，用Ｙ表示，则Ｙ＝（ ，ｆ）。
优解的全局搜索的随机性 ｊ，对进化粒子群用ＰＳＯ
在建立图像统计模型过程中，给定的图像是不
算法进行更新；对历史潜在的最优粒子群，用ＥＭ算
完全数据，像素的标号是丢失数据。假设像素的灰
度在标号为ｚ的区域服从均值为 ，方差为 （ｚ＝
江苏省江苏师范大学２０１０年度
１，２，…， ）的某一分布，那么整个图像的统计分布
自然科学基金（１０ＸＬＲ２７）资助
可用有限混合统计模型来拟合，表达式如下
第一作者简介：［Ｊ彦辉（１９７８一），女，讲师，硕士，研究方向：计算机
Ｍ Ｌ
视觉、统计图像处弹和智能优化算法等。Ｅ－ｍａｉｌ：ｂｓｘ７０９６＠ＳＯ．
）＝Ｈ∑ｐ
ｉ＝１，＝１
，ｍ ） （１）
ｈｕ．ＣＯＨ１。
式（１）中，Ｐ 、ｍ 和Ｓ 分别是第ｆ个分量的先验概
１期 白彦辉，等：ＥＭ与ＰＳＯ算法在图像统计模型拟合中的应用 ２３７
率、均值和方差，用ｆ＝（Ｐ ，ｓ ，ｍ ）表示有限统计混
合模型的参数，其中先验概率满足下列条件
Ｌ
ＤＭｔ ＝ｂｌｈ（Ｄｐ 一Ｄｚ：）＋ｂ２ （ＤＵｄ一 ；）（５）
印 ＝ ｔ－ ＋Ｄ ｔ （６）
０＜Ｐ２＜１，∑Ｐｌ＝１
ｆ＝１
（２）
式中，ｔ为迭代次数，ｂ 和ｂ 为学习因子，ｈ和 是
［０，１］区间内均匀分布的随机数，却 ＝ｐｔ 一ｐ ，
由于给定图像的统计直方图已知且常常呈多
Ｄｕｌ ＝ｕ ｔ一（ｔｔｕｔ － ，ａ 是惯性权重，用来动态调节粒
子群在后期具有更好的搜索能力，其更新由最大权
峰值分布，要用有限混合统计模型式（１）拟合图像
的统计分布，必须解决式（１）中的参数估计问题。
从式（１）可知，参数和统计分布函数具有非线性关
系，且二者耦合在一起，即估计参数必须知道函数
的统计分布，估计图像的统计模型必须知道参数，
但二者却常常都是未知的 ］，这使得此类参数估计
十分困难，而参数估计的准确性对图像统计分布的
拟合产生至关重要的影响。ＥＭ算法是解决具有丢
失数据且数据呈多峰值统计分布参数估计的强有
力工具，这种算法不是直接对不完全数据直接进行
操作，而是采用迭代增加完全数据似然函数值的方
式寻求模型参数估计的最优解，由期望步（Ｅ．步）与
最大步（Ｍ．步）组成，具体表述为
Ｅ．步：计算完全数据条件概率的数学期望
Ｆ（ｆ；ｆ（ｆｊ）＝Ｅ ［１ ，ｆ Ｉ ｆ）ｌ ，ｆ【ｆＪ］ （３）
Ｍ－步：更新模型的参数
ｆ 川’＝ａｒｇｍａｘＦ（１；ｌ‘ ’） （４）
式（４）中，ｔ为迭代次数，对Ｅ一步和 一步进行交替迭
代，直至ｌｌ ｚ“ ’一ｆ【Ｉ）ｌｌ＜ｅ为止。从式（３）可知，模
型参数估计依赖于初始值ｆ【０），从式（４）可知，初始
值最终决定参数更新的结果。由于通常待拟合图
像的统计分布呈多峰形式，具有数个局部极值，因
此初始化的好坏直接影响拟合的准确性。
１．２增量式ＰＳＯ算法
ＰＳＯ算法由Ｊ．Ｋｅｎｎｅｄｙ等人于１９５５年提出的，
通过群体最优方向、个体最优方法和惯性方向协调
来求解参数优化问题。一个由Ⅳ个粒子组成的群
体在Ｄ维空间以一定的速度进行搜索，第ｉ个粒子
群的当前位置和搜索速度表示为（Ｐ ，Ｕ ）＝｛（Ｐ
Ｕ ｄ）；ｉ：１，２，…，Ⅳ；ｄ＝１，２，…，Ｄ｝，第 个粒子在
Ｄ维空间中搜索的历史最优解为 ＝ａｒｇｍａｘｐ 群
体内所有粒子搜索的最优解为ｚｊ＝（ｐ ；ｄ＝１，２，
…
，
Ｄ），在最优解的搜索过程中，粒子的位置和速度
按如下增量进行变化：
重ａ 和最小权重ａ 线性表示为
。…一￡ （７）
式中， 为总的迭代次数。
２ ＥＭ与ＰＳＯ混合优化算法
图１为ＥＭ与ＰＳＯ混合优化算法的流程，该混
合算法的基本原理是：将种群分为最优种群和进化
种群，在每次迭代中，将最优种群利用ＥＭ算法进行
更新，而进化种群利用ＰＳＯ算法进行更新，然后将
二者得到的种群进行对比，选出最优种群和进化种
群，如此反复，最终求出整个种群的最优解。由于
ＰＳＯ算法的进化是追逐最优解，从而保证了算法的
收敛性。根据准则函数，对ＰＳＯ算法的进化种群和
ＥＭ算法更新的历史最优种群进行分类，选出的最
优种群作为ＥＭ算法下次更新的初始值。由于每次
迭代最优解是由ＰＳＯ进化算法和ＥＭ算法共同提
供，保证最优解的随机性，克服了经典ＥＭ算法在迭
代过程中依赖确定初始值容易陷入局部极值的
弱点。
从图１可知，要判断拟合误差是否满足要求必
须确定评价准则。由于是应用有限混合模型拟合
图像的统计分布，拟合误差评价准则可表示为
ｉｆｔ（ｅｒｒｏｒ）＝ｒａｉｎ∑ｌ＿厂（ ）－ｆ（ｘ；ａ）Ｉ （８）
式（８）中ｌ厂（ ）表示待拟合图像统计分布的直方图，
，（ ；Ａ）表示由式（１）确定的待估计图像的统计
分布。
由式（１）和式（３），根据图１，则最优粒子用ＥＭ
算法进行更新的表达式为
Ｅ一步，获得丢失数据后验概率表达式为
ｆ（ｔ ｌ ，ｆ）： （９）
∑ （ｆ）＿厂（ ｌ ）
科学技术与工程 １３卷
图１ ＥＭ与ＰＳＯ混合算法流程
式（９）中， （ｚ）表示历史最优种群先验概率。
Ｍ一步，最优种群模型参数更新表达式为
¨“
＝ａｒｇｍａｘＦ（ｚ ｌ ’） （１０）
由式（５）、式（６）和式（１０），根据图１，则进化种
群更新速度和位置的表达式可表示为
Ｄｕ＇ｉｄ＝ｂｌｈ（Ｄｒ．一Ｄｒｉ）＋ｂ２ （ 一 ）
（１１）
Ｄ ＝ ＋ＤＭ （１２）
式中，２ ０ 表示由ＥＭ算法确定的最优模型参数。
３ ＥＭ与ＰＳＯ混合优化算法拟合图像统计
分布的实现步骤
Ｓｔｅｐｌ设置粒子群的规模、学习因子、最大迭
代次数、惯性权重的最大值和最小值，随机生成初
始的粒子群。
Ｓｔｅｐ２按式（８）计算每个粒子的适应值，根据
初始拟合误差，获得初始历史最好解，从而获得初
始历史最优种群和进化种群。
Ｓｔｅｐ３应用ＥＭ算法，根据最优种群的先验概
率、均值和方差的初始值，按式（９）计算最优种群的
后验概率，按式（１０）更新最优种群的先验概率、均
值和方差。
Ｓｔｅｐ４将获得的最优种群代人式（８）中，判断
拟合误差是否满足要求。若满足要求，则转Ｓｔｅｐ６；
若不满足要求，则转Ｓｔｅｐ５。
Ｓｔｅｐ５应用ＰＳＯ算法，对其余进化种群按式
（１１）、式（１２）进行更新，迭代次数加１，若末达到终
止条件，则转到Ｓｔｅｐ２。
Ｓｔｅｐ６输出最优种群，获得最优解。
４实验结果及分析
为检验本文算法的有效性，对标准测试Ｌｅｎａ图
像的统计分布进行拟合并与文献［１］的ＥＭ方法进
行对比。图像的大小为２５６ ｘ ２５６，灰度级为０～
２５５，种群的大小为４０，ｂ 和ｂ 取值为粒子的先验概
率，算法的收敛误差为１０～，每种算法独立运行２０
次，最大迭代次数５００次。
图２为原始的标准Ｌｅｎａ图像。图３为Ｌｅｎａ图
像的统计分布，用蓝色的曲线表示。从图３可以看
出，其统计分布具有多个峰值。图４为用文献［１］
的ＥＭ算法对Ｌｅｎａ图像的统计分布进行拟合，从绿
线可以看出，在平滑区域，ＥＭ算法确定的统计模型
基本能拟合图像的统计分布，但在峰值和峰谷附
近，有些关键点不能很好地拟合，这是由于ＥＭ算法
在估计模型参数时，没有得到参数估计的最优解，
而是陷入了局部最优解，从而产生较大的拟合误
差，这对后续图像处理将产生不利的影响。图５为
用本文提出的方法对Ｌｅｎａ图像的统计分布进行拟
合，从红色的曲线可以看出，本文的方法能较好地
拟合图像的统计分布，且对图像统计分布的峰值和
峰谷具有一定的平滑作用，体现了ＰＳＯ算法的全局
寻优能力能有效地克服ＥＭ算法容易收敛到局部最
优解的弱点。
图２ Ｌｅｎａ图像
白彦辉，等：ＥＭ与ＰＳＯ算法在图像统计模型拟合中的应用 ２３９
种算法利用ＥＭ算法更新最优种群，利用ＰＳＯ算法
更新进化种群，然后再对新的种群根据拟合误差来
进行分类，使ＥＭ算法更新下一代最优种群时的初
始值是随机的，克服了ＥＭ算法容易陷入局部极值
的不足。仿真结果表明，本文的方法估计的统计模
型能有效地拟合标准Ｌｅｎａ图像的统计分布，为下一
步图像分割研究提供了有力保证。
图３ Ｌｅｎａ图像统计分布
图５本文算法拟合
参考文献
图４文献ＥＭ算法拟合
Ｄｅｍｐｓｔｅｒ Ａ Ｐ．Ｌａｒｄ Ｎ Ｍ，Ｒｕｂｉｎ Ｄ Ｂ．Ｍａｘｉｍｕｍ ｌｉｋｅｌｉｈｏｏｄ ｆｒｏｍ ｉｎ—
ｃｏｍｐｌｅｔｅ ｄａｔａ ｖｉａ ＥＭ ａｌｇｏｒｉｔｈｍ．Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ｒｏｙａｌ Ｓｔａｔｉｓｔｉｃｓ Ｓｏｃｉｅ－
５结束语
本文针对经典ＥＭ算法对初始值敏感和容易陷
入局部极值的缺陷，结合智能ＰＳＯ进化算法全局寻
优的思想，提出了一种ＥＭ—ＰＳＯ混合优化算法。这
ｔｙ，１９７７；３９（１）：１—３７
２
李丽，牛奔．粒子群优化算法．北京：冶金工业出版社，２００９
Ｘｕｃｈａｏ，Ｂｉａｎ Ｓｕｘｕａｎ．Ｍｕｈｉｒｅｓｏｌｕｔｉｏｎ ｆｕｚｚｙ Ｃ Ｍｅａｎｓ ｃｌｕｓｔｅｒｉｎｇ ｕ—
３
Ｌｉ
ｓｉｎｇ ｍａｒｋｏｖ ｒａｎｄｏｍ ｆｉｅｌｄ ｆｏｒ ｉｍａｇｅ ｓｅｇｍｅｎｔａｔｉｏｎ．Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒ－
ｎａｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ，２００９；１（１）：
４９—５７
Ｔｈｅ Ａｐｐｌｉｃａｔｉｏｎ ｏｆ ＥＭ ａｎｄ
ＰＳＯ Ａｌｇｏｒｉｔｈｍ ｔｏ Ｆｉｔｔｉｎｇ ｔｈｅ
Ｉｍａｇｅ Ｓｔａｔｉｓｔｉｃａｌ Ｍｏｄｅｌ
ＢＡＩ Ｙａｎ－ｈｕｉ ．ＬＩ Ｘｕ．ｃｈａｏ
（ｃｏ１１ｅｇｅ ｏｆ Ｃｏｍｐｕｔｅｒ ａｎｄ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｃｈｉｆｅｎｇ Ｕｎｉｖｅｒｓｉｔｙ ，Ｃｈｉｆｅｎｇ ０２４０００，Ｐ．Ｒ．Ｃｈｉｎａ；
Ｃｏｌｌｅｇｅ ｏｆ Ｅ１ｅｃｔｒｉｃａｌ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｕｔｏｍａｔｉｏｎ，Ｊｉａｎｇｓｕ Ｎｏｒｍａｌ Ｕｎｉｖｅｔｓｉｔｙ ，Ｘｕｚｈｏｕ ２２１１１６，Ｐ．Ｒ．Ｃｈｉｎａ）
［Ａｂｓｔｒａｃｔ］ Ａｉｍｉｎｇ ａｔ ｔｈｅ ｄｉｓａｄｖａｎｔａｇｅｓ ｏｆ ｅｘｐｅｃｔａｔｉｏｎ ｍａｘｉｍｉｚａｔｉｏｎ（ＥＭ）ａｌｇｏｒｉｔｈｍ，ｉｎ ｐａｒａｍｅｔｅｒｓ ｅｓｔｉｍａｔｉｏｎ
ｏｆ ｓｔａｔｉｓｔｉｃａｌ ｉｍａｇｅ ｍｏｄｅｌ，ｗｈｉｃｈ ｉｓ ｓｅｎｓｉｔｉｖｅ ｔｏ ｉｎｉｔｉａｌｉｚａｔｉｏｎ ａｎｄ ｉｓ ｅａｓｙ ｔｏ ｔｒａｐ ｌｏｃａｌ ｍａｘｉｍｕｍ，ｃｏｍｂｉｎｉｎｇ ｔｈｅ
ｗｈｏｌｅ ｓｅａｒｃｈ ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ ｏｆ ｐａｒｔｉｃｌｅ ｓｗａｍ３ ｏｐｔｉｍｉｚａｔｉｏｎ（ＰＳＯ）ａｌｇｏｒｉｔｈｍ，ａｎ ｈｙｂｒｉｄ ＥＭ—ＰＳＯ ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｏ—
ｐｏｓｅｄ．Ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｐａｒｔｉｔｉｏｎｓ ｔｈｅ ｓｗａｒｍ ｉｎｔｏ ｔｈｅ ｈｉｓｔｏｒｙ ｏｐｔｉｍｕｍ ｓｗａｒｍ ａｎｄ ｔｈｅ ｅｖｏｌｕｔｉｏｎ ｓｗａｒｍ，ｗｈｉｃｈ
ａｒｅ，ｒｅｓｐｅｃｔｉｖｅｌｙ，ｕｐｄａｔｅｄ ｂｙ ＥＭ ａｌｇｏｒｉｔｈｍ ａｎｄ ＰＳＯ ａｌｇｏｒｉｔｈｍ，ｉｎ ｅａｃｈ ｉｔｅｒａｔｉｏｎ，ｓｅｌｅｃｔｉｎｇ ｔｈｅ ｈｉｓｔｏｒｙ ｏｐｔｉｍｕｍ
ＥＭ—ＰＳＯ ａｌｇｏｒｉｔｈｍ ｗｉｔｈ ｓｔａｎｄａｒｄ ＥＭ ａｌｇｏｒｉｔｈｍ ｉｎ ｆｉｔｔｉｎｇ ｔｈｅ
ＳＷａｒｎｌ ｆｏｒ ｔｈｅ ＥＭ ａｌｇｏｒｉｔｈｍ ｉｎｉｔｉａｌｉｚａｔｉｏｎ．Ｃｏｍｐａｒｉｎｇ
ｐｒｏｐｏｓｅｄ ｏｕｔｐｅｒｆｏｒｍｓ ＥＭ ａｌｇｏｒｉｔｈｍ．
ｓｔａｔｉｓｔｉｃａｌ ｄｉｓｔｉｂｕｔｉｏｎ ｏｆ ｉｍａｇｅ，ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔｒ ｔｈｅ
［Ｋｅｙ ｗｏｒｄｓ］ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ（ＰＳＯ）
ｅｘｐｅｃｔａｔｉｏｎ ｍａｘｉｍｉｚａｔｉｏｎ（ＥＭ）ｐａｒａｍｅｔｅｒ ｅｓｔｉｍａｔｉｏｎ