最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

ARMA模型参数估计的GW-LS两段算法

IT圈 admin 23浏览 0评论

2024年5月15日发(作者:老天蓉)

第l0卷第3期2010年1月 

科学技术与工程 

Vo1.10 No.3 Jan.2010 

⑥2010 Sci.Tech.Engng. 

1671—1815(2010)3-0656-04 

Science Technology and Engineering 

ARMA模型参数估计的GW-LS两段算法 

马进周国标 李元祥 

(上海交通大学航空航天学院,数学系 ,上海200240) 

摘要提出了新的GW—LS两段算法,很好地改善了自回归滑动平均(ARMA)模型参数估计的性能。首先摈弃传统的拟合 

到AR模型的思考方法,而是基于ARMA模型的相关函数用Gevers—Wouters(GW)算法对ARMA模型拟合到高阶滑动平均 

(MA)模型;然后在拟合的MA模型参数基础上,用最小二乘(LS)算法求解一个不相容的线性方程组,从而估计出ARMA模型 

参数。最终的仿真实例说明了本算法较高精度、较快速度的收敛特性。 

关键词 系统辨识 参数估计 ARMA模型 GW-LS两段算法 拟合 

中图法分类号TN911.72; 文献标志码 A 

在时间序列分析、信号处理、通信、控制、滤波等 

许多领域经常遇到ARMA信号的参数估计问题,作 

为ARMA模型系统辨识的一部分,参数估计性能的 

好坏对系统辨识有着重要的影响。目前,在这个领 

域还有相当的研究热潮,比如Graup等 .2 提出了用 

考虑一般平稳可逆ARMA(p,q)过程 

(g ) =0(q )口 (1) 

最dxZ-乘算法对ARMA拟合高阶AR模型,基于AR 

模型参数用解一个相容线性方程组得到ARMA模 

型参数,而这一方法的缺点只能得到ARMA模型参 

数的粗糙估计 ;又如文献[4]、文献[5]也提出,拟 

合到AR模型后用求解不相容线性方程组的方法来 

估计ARMA模型的参数。上述参数估计算法的缺 

点在于需要迭代的步数较长、收敛速度相对较慢。 

式(1)中q 为单位滞后算子,a 是零均值、方差为 

的白噪声, 为观测信号。 

(g一 )=1+ 1q-1+ 2q一 +… + 。qIp; 

O(q一 )=1+ 1q + q一 +…+Oqq一 。 

其中阶次(p,g)已知。提出的问题即为由已知的观 

测数据(z 一, )求未知参数 ,oj和 的估值。 

由对该ARMA模型平稳性和可逆性的假设,式 

(1)等价于无穷阶MA(∞)模型 

= q~ 2 

为此,本文提出新的算法克服了前述算法的不足,基 

于收敛很快、精度很高的Gevers.Wouters算法 将 

ARMA模型拟合到高阶MA模型,然后基于拟合的 

MA模型的参数,用解一个不相容的线性方程组的 

方法(LS算法)估计出ARMA模型的参数,仿真表 

明该算法能以较快的速度、较高的精度收敛。 

式(2)中/3 ̄=1, 一0(i—OO)。为了便于计算机 

处理,我们可以将拟合阶数取得足够大即可,即 

∑ q~血 =/3(q )0 

卢(q-1)=1+卢l口-1+/32q-2+…

(3) 

(5) 

+/3 q一 (4) 

(q )/3(q )=0(q ) 

2009年10月23日收到 上海自然科学基金项目 

(09ZR1413700)资助 

由式(3),利用观测数据(z 一,g ),求其相关 

函数后,结合Gevers.Wouters算法结构,可以得到估 

计值 。 

第一作者简介:马进(1986一),湖北人,硕士研究生,研究方向:信 

号与信息处理,航空电子,等。E—mail:mjei@sjtu.edu.cn。 

3期 马进,等:ARMA模型参数估计的GW—LS两段算法 

1 0 0 

1 0 

657 

2 递推方法求解ARMA过程的相关 

l 

函数 

由于Gevers—Wouters算法依赖于ARMA过程的 

相关函数,下面推导相关函数的求解 。 

平稳、可逆的ARMA(P,q)过程如等式(1)所 

示,定义相关函数如下: 

E(gt-kZ ),T (i)=E(zt_ia ) (6) 

将式(1)两边同时左乘z 后取数学期望,得 

’, =一 1 一1一妒2 一2一…一 ’, 一p+y:。( )+ 

Oly (k一1)+...+Oq'y (k—q) (7) 

沿用拟合MA的思想,可得到 

( )=E(Zt-i口 )=E E( a【f_¨)at]= 

0 

fO. >0 

【 

i≤ 

≤0 

(8) 

。,

所以由式(7),式(8)得 

y = 

r一 l 一1一 ̄O2yk一2一…一 y 叩+( + 

{ + /3 +...+蠊一

0 0 

 ) ,k=0,

. 

1…2…g (9) 

l一 ly 

1一 口2y 一2一…一 。 一 , k>q 

式(9)中,0。=一1,

O 0 

/3。=1。

一 

1 

 

“ 垃 

3利用LS算法求解不相容的线性方程组 

由前的推导与计算下,可以得到估计值/3 ,并 

由上述拟合后的系数等式(5),可知 

+ =0 (10) 

B =/3 (11) 

其中, =0(i>P),J8;=0(i<0或i>no),且注 

意到 

[ 1, 2,..., 。] ; 

一 L 1,r  2,・・・, 。J]T  ; 

/3=[ , ,…,/3。] ; 

[一/3 ,一 …,一 ̄p+no] ; 

0=[0。,02,…,0。] 。 

: 

‘ 

口一】 g一2 g一3 

。 

/3 

B= 

岱q+ 8q 

. + 一1 +,l0—2 

将Gevers—Wouters算法的估计值 代入到式(1 1) 

中,得 

曰 =/3 (12) 

由于式(12)是不相容的线性方程组,故利用最小二 

乘的思想,式(12)的最小二乘解满足 

min(口 一卢 ( 一 )。 

所以求导后得到,最小二乘解为 

(台 ) 声 (13) 

由式(13)的结果,可得到估计值 , (因为 : 

0(i>P)),基于这两个估计值,再结合式(10),可 

得0的估计值0 

0= +郇 (14) 

至此已经完成了基于MA模型参数用LS算法对 

ARMA模型参数的估计。 

4仿真实例 

选取平稳可逆的ARMA过程 

f一

0.9z£

1 Ⅱf+0.2ac_l。 

其中a 是零均值、方差为0.81的高斯白噪声,对 

上述ARMA模型应用本文提出的GW.LS算法进 

行仿真,同时为体现出本算法的有效性,对上述 

ARMA过程采用了文献[4]的RLS.LS算法进行 

仿真,仿真结果如图1、图2、图3所示,其中蓝色 

直线为参数的真实值,红色曲线为GW.LS算法的 

估计值,绿色曲线为RLS.LS算法的估计值。从 

图中可以看出,仅在小于5O步的迭代次数下, 

GW—LS算法就能达到很好的收敛性能,而RLS—LS 

658 科学技术与工程 10卷 

算法在同等条件下未能达到如此好的效果,实际 

上,RLS—LS算法需要2 000步左右的迭代才能收 

敛。这充分说明了GW—LS算法的有效性。在t= 

5O处各个参数的估计值为 。:一0.899 8,0。= 

0.200 3, =0.809 9。 

图1 1及其GW—LS两段算法、RLS—LS算法的 

估值 .的收敛性 

图2 0。及其GW-LS两段算法、RLS-LS算法的 

估值 。的收敛性 

‘ 

…一

RLS.LS 

——

GW.LS 

 。

、 

I 

_ 

图3 or 及其GW—LS两段算法、RLS—LS算法的 

估值o r:的收敛性 

5总结 

本文提出的GW.LS两段算法在估计ARMA模 

型的参数时所体现出来的快速度、高精度收敛特性 

对于时间序列分析及其应用有较为重要的影响,从 

而对于系统辨识也能起到重要的作用。对于以后的 

研究,可以尝试将此算法做一些改进(改进目前基于 

二阶统计量的估计方法),考虑是否可用于非高斯信 

号处理领域。 

参考文献 

1 Grnap D.Time series analysis,identiifcation and adaptive filtering. 

Malabar,Florida:Robert E.Krieger Publishing Company,Ine,1984 

2 Graup D,Krause D J,Moore J B.Identiifcation of ARMA parameters 

of time series.IEEE Trans Automatic Control,1975;20:140—147 

3邓自立,芏欣,高嫒.建模与估计.北京:科学出版社,2008: 

45—46.60一l24 

4邓自立,马建为,杜洪越.ARMA模型参数估计的两段最dr__-乘 

法.科学技术与工程,2002;2(5):3—5 

5周毅,丁峰.依等价AR模型阶次递增的自回归滑动平均模 

型辨识.华东理工大学学报(自然科学版),2008;34(3): 

425----431 

6 Gevers M,Woutem W R E.An innovations approach to discrete—time 

stochastic realization problem.Quarterly Journal on Automatic Con— 

terl,1978;19(2):90--110 

3期 马进,等:ARMA模型参数估计的GW.LS两段算法 659 

Two・stage GW-LS Method for Parameter Estimation of ARMA M0de1s 

MA Jin,ZHOU Guo—biao ,LI Yuan.xiang 

(scbool of Aerollntaics and Astronautics,Department of Mathemarlcs 

SJTU,Shanghai 200240

P.R.China) 

I Abstract J A two stage GW・LS method is presentd that has effectively impr0ved the peIf0肿ance in the par啪e£er 

estimation of Auto Regressive and Moving Average(ARMA)models.First discarding the thought of fitting bv AR 

m。del,the ARMA model is fitted by a high order MA model using Gevers

Wouters algorithm on the basis 0f related 

functions of ARMA mode1.Then according to the parameters of the fitted MA m0del

the ARMA m0del Dar啪eter es. 

. 

timation through solving a system of antipathic linear equations using the least squares method is 0btained

tion example demonstrates it has a higher degree of accuracy and faster convergence

. 

A simula. 

[Key words]system identiifcation 

Fitting 

、 、 、 、 p、 、 、 \ ≯、 、 p、 、 

parameter estimation ARMA model 

GW--LS two・・stage method 

、 、 、 、 

、 、 、 、 、 、 

(上接第646页) 

10 Zheng Liancun,Chen Xuehui

Zhang Xinxin.Analytical approxiⅡ1an£s 

for hiher-gorder integral-diferentila equations 

Applied Mathematics 

and Computation,2001;1 18:327—342 

13 Adomian G.Nonlinear stchastoic operator 

equations.Academic 

for a boundary layer flow on a stretching moving surface with a powe 

velocity.1nt J Appl Mech Eng,2004;9(4):795—8O2 

1 1 Adomian G・A review of the decomposition method in applied mathe

. 

Press,1986 

14 Adomian G.Nonlinear stochastic systems theory and applications t。 

atics・Journal of Mathematical Analysis and Applications

1988; 

135:501—-544 

physics.Dordrecht:Academic Press

1989 

12 Wazwaz A M.A rel/able algor/thm for solving boundary value pmbl 

Analytical Approximate Solutions of Shock Wave Boundary Layer 

XU Yun。bin,ZHENG Lian—CUll 

DONG Yuan—yuan 

(Department。f Mathemarlcs and Applied Mathemarlcs,Yulin University

Yulin 719000,p.R.China: 

D partm。nt of Mathemarlcs and Mechanics

University of Seience and Techno1。gY Beiji“g ,Beiji“g 100083

P.R.China) 

heoretical analysis for shock wave boundary layer was presented

[Abstract] 

A t

The Adomian analytical decom. 

pos t 0n techmque was presented and an approximate analytical solution was obtained

The appr0ximate analvtica1 

soIut on can be represented in terms of a rapid convergent power series with elegantly c0mputable tern1s

we Dresen. 

ted Analytical Approximate Solutions of boundary layer equation and Approximate Vatu

e 0f Skin Friction Coefficient 

for Vejo ty ratio parameter s ̄

The reliability and eficifency of the approximate solution are veritfed using numerica1 

coe侬. 

s0lutions・Moreover,the approximate solution can be successfully applied to provide the values of skiJ】 cfjo刀

cient for shock wave boundary layer equation

. 

[Key words] boundary layer equation nonlinear boundary value problem Adomian decomposition 

2024年5月15日发(作者:老天蓉)

第l0卷第3期2010年1月 

科学技术与工程 

Vo1.10 No.3 Jan.2010 

⑥2010 Sci.Tech.Engng. 

1671—1815(2010)3-0656-04 

Science Technology and Engineering 

ARMA模型参数估计的GW-LS两段算法 

马进周国标 李元祥 

(上海交通大学航空航天学院,数学系 ,上海200240) 

摘要提出了新的GW—LS两段算法,很好地改善了自回归滑动平均(ARMA)模型参数估计的性能。首先摈弃传统的拟合 

到AR模型的思考方法,而是基于ARMA模型的相关函数用Gevers—Wouters(GW)算法对ARMA模型拟合到高阶滑动平均 

(MA)模型;然后在拟合的MA模型参数基础上,用最小二乘(LS)算法求解一个不相容的线性方程组,从而估计出ARMA模型 

参数。最终的仿真实例说明了本算法较高精度、较快速度的收敛特性。 

关键词 系统辨识 参数估计 ARMA模型 GW-LS两段算法 拟合 

中图法分类号TN911.72; 文献标志码 A 

在时间序列分析、信号处理、通信、控制、滤波等 

许多领域经常遇到ARMA信号的参数估计问题,作 

为ARMA模型系统辨识的一部分,参数估计性能的 

好坏对系统辨识有着重要的影响。目前,在这个领 

域还有相当的研究热潮,比如Graup等 .2 提出了用 

考虑一般平稳可逆ARMA(p,q)过程 

(g ) =0(q )口 (1) 

最dxZ-乘算法对ARMA拟合高阶AR模型,基于AR 

模型参数用解一个相容线性方程组得到ARMA模 

型参数,而这一方法的缺点只能得到ARMA模型参 

数的粗糙估计 ;又如文献[4]、文献[5]也提出,拟 

合到AR模型后用求解不相容线性方程组的方法来 

估计ARMA模型的参数。上述参数估计算法的缺 

点在于需要迭代的步数较长、收敛速度相对较慢。 

式(1)中q 为单位滞后算子,a 是零均值、方差为 

的白噪声, 为观测信号。 

(g一 )=1+ 1q-1+ 2q一 +… + 。qIp; 

O(q一 )=1+ 1q + q一 +…+Oqq一 。 

其中阶次(p,g)已知。提出的问题即为由已知的观 

测数据(z 一, )求未知参数 ,oj和 的估值。 

由对该ARMA模型平稳性和可逆性的假设,式 

(1)等价于无穷阶MA(∞)模型 

= q~ 2 

为此,本文提出新的算法克服了前述算法的不足,基 

于收敛很快、精度很高的Gevers.Wouters算法 将 

ARMA模型拟合到高阶MA模型,然后基于拟合的 

MA模型的参数,用解一个不相容的线性方程组的 

方法(LS算法)估计出ARMA模型的参数,仿真表 

明该算法能以较快的速度、较高的精度收敛。 

式(2)中/3 ̄=1, 一0(i—OO)。为了便于计算机 

处理,我们可以将拟合阶数取得足够大即可,即 

∑ q~血 =/3(q )0 

卢(q-1)=1+卢l口-1+/32q-2+…

(3) 

(5) 

+/3 q一 (4) 

(q )/3(q )=0(q ) 

2009年10月23日收到 上海自然科学基金项目 

(09ZR1413700)资助 

由式(3),利用观测数据(z 一,g ),求其相关 

函数后,结合Gevers.Wouters算法结构,可以得到估 

计值 。 

第一作者简介:马进(1986一),湖北人,硕士研究生,研究方向:信 

号与信息处理,航空电子,等。E—mail:mjei@sjtu.edu.cn。 

3期 马进,等:ARMA模型参数估计的GW—LS两段算法 

1 0 0 

1 0 

657 

2 递推方法求解ARMA过程的相关 

l 

函数 

由于Gevers—Wouters算法依赖于ARMA过程的 

相关函数,下面推导相关函数的求解 。 

平稳、可逆的ARMA(P,q)过程如等式(1)所 

示,定义相关函数如下: 

E(gt-kZ ),T (i)=E(zt_ia ) (6) 

将式(1)两边同时左乘z 后取数学期望,得 

’, =一 1 一1一妒2 一2一…一 ’, 一p+y:。( )+ 

Oly (k一1)+...+Oq'y (k—q) (7) 

沿用拟合MA的思想,可得到 

( )=E(Zt-i口 )=E E( a【f_¨)at]= 

0 

fO. >0 

【 

i≤ 

≤0 

(8) 

。,

所以由式(7),式(8)得 

y = 

r一 l 一1一 ̄O2yk一2一…一 y 叩+( + 

{ + /3 +...+蠊一

0 0 

 ) ,k=0,

. 

1…2…g (9) 

l一 ly 

1一 口2y 一2一…一 。 一 , k>q 

式(9)中,0。=一1,

O 0 

/3。=1。

一 

1 

 

“ 垃 

3利用LS算法求解不相容的线性方程组 

由前的推导与计算下,可以得到估计值/3 ,并 

由上述拟合后的系数等式(5),可知 

+ =0 (10) 

B =/3 (11) 

其中, =0(i>P),J8;=0(i<0或i>no),且注 

意到 

[ 1, 2,..., 。] ; 

一 L 1,r  2,・・・, 。J]T  ; 

/3=[ , ,…,/3。] ; 

[一/3 ,一 …,一 ̄p+no] ; 

0=[0。,02,…,0。] 。 

: 

‘ 

口一】 g一2 g一3 

。 

/3 

B= 

岱q+ 8q 

. + 一1 +,l0—2 

将Gevers—Wouters算法的估计值 代入到式(1 1) 

中,得 

曰 =/3 (12) 

由于式(12)是不相容的线性方程组,故利用最小二 

乘的思想,式(12)的最小二乘解满足 

min(口 一卢 ( 一 )。 

所以求导后得到,最小二乘解为 

(台 ) 声 (13) 

由式(13)的结果,可得到估计值 , (因为 : 

0(i>P)),基于这两个估计值,再结合式(10),可 

得0的估计值0 

0= +郇 (14) 

至此已经完成了基于MA模型参数用LS算法对 

ARMA模型参数的估计。 

4仿真实例 

选取平稳可逆的ARMA过程 

f一

0.9z£

1 Ⅱf+0.2ac_l。 

其中a 是零均值、方差为0.81的高斯白噪声,对 

上述ARMA模型应用本文提出的GW.LS算法进 

行仿真,同时为体现出本算法的有效性,对上述 

ARMA过程采用了文献[4]的RLS.LS算法进行 

仿真,仿真结果如图1、图2、图3所示,其中蓝色 

直线为参数的真实值,红色曲线为GW.LS算法的 

估计值,绿色曲线为RLS.LS算法的估计值。从 

图中可以看出,仅在小于5O步的迭代次数下, 

GW—LS算法就能达到很好的收敛性能,而RLS—LS 

658 科学技术与工程 10卷 

算法在同等条件下未能达到如此好的效果,实际 

上,RLS—LS算法需要2 000步左右的迭代才能收 

敛。这充分说明了GW—LS算法的有效性。在t= 

5O处各个参数的估计值为 。:一0.899 8,0。= 

0.200 3, =0.809 9。 

图1 1及其GW—LS两段算法、RLS—LS算法的 

估值 .的收敛性 

图2 0。及其GW-LS两段算法、RLS-LS算法的 

估值 。的收敛性 

‘ 

…一

RLS.LS 

——

GW.LS 

 。

、 

I 

_ 

图3 or 及其GW—LS两段算法、RLS—LS算法的 

估值o r:的收敛性 

5总结 

本文提出的GW.LS两段算法在估计ARMA模 

型的参数时所体现出来的快速度、高精度收敛特性 

对于时间序列分析及其应用有较为重要的影响,从 

而对于系统辨识也能起到重要的作用。对于以后的 

研究,可以尝试将此算法做一些改进(改进目前基于 

二阶统计量的估计方法),考虑是否可用于非高斯信 

号处理领域。 

参考文献 

1 Grnap D.Time series analysis,identiifcation and adaptive filtering. 

Malabar,Florida:Robert E.Krieger Publishing Company,Ine,1984 

2 Graup D,Krause D J,Moore J B.Identiifcation of ARMA parameters 

of time series.IEEE Trans Automatic Control,1975;20:140—147 

3邓自立,芏欣,高嫒.建模与估计.北京:科学出版社,2008: 

45—46.60一l24 

4邓自立,马建为,杜洪越.ARMA模型参数估计的两段最dr__-乘 

法.科学技术与工程,2002;2(5):3—5 

5周毅,丁峰.依等价AR模型阶次递增的自回归滑动平均模 

型辨识.华东理工大学学报(自然科学版),2008;34(3): 

425----431 

6 Gevers M,Woutem W R E.An innovations approach to discrete—time 

stochastic realization problem.Quarterly Journal on Automatic Con— 

terl,1978;19(2):90--110 

3期 马进,等:ARMA模型参数估计的GW.LS两段算法 659 

Two・stage GW-LS Method for Parameter Estimation of ARMA M0de1s 

MA Jin,ZHOU Guo—biao ,LI Yuan.xiang 

(scbool of Aerollntaics and Astronautics,Department of Mathemarlcs 

SJTU,Shanghai 200240

P.R.China) 

I Abstract J A two stage GW・LS method is presentd that has effectively impr0ved the peIf0肿ance in the par啪e£er 

estimation of Auto Regressive and Moving Average(ARMA)models.First discarding the thought of fitting bv AR 

m。del,the ARMA model is fitted by a high order MA model using Gevers

Wouters algorithm on the basis 0f related 

functions of ARMA mode1.Then according to the parameters of the fitted MA m0del

the ARMA m0del Dar啪eter es. 

. 

timation through solving a system of antipathic linear equations using the least squares method is 0btained

tion example demonstrates it has a higher degree of accuracy and faster convergence

. 

A simula. 

[Key words]system identiifcation 

Fitting 

、 、 、 、 p、 、 、 \ ≯、 、 p、 、 

parameter estimation ARMA model 

GW--LS two・・stage method 

、 、 、 、 

、 、 、 、 、 、 

(上接第646页) 

10 Zheng Liancun,Chen Xuehui

Zhang Xinxin.Analytical approxiⅡ1an£s 

for hiher-gorder integral-diferentila equations 

Applied Mathematics 

and Computation,2001;1 18:327—342 

13 Adomian G.Nonlinear stchastoic operator 

equations.Academic 

for a boundary layer flow on a stretching moving surface with a powe 

velocity.1nt J Appl Mech Eng,2004;9(4):795—8O2 

1 1 Adomian G・A review of the decomposition method in applied mathe

. 

Press,1986 

14 Adomian G.Nonlinear stochastic systems theory and applications t。 

atics・Journal of Mathematical Analysis and Applications

1988; 

135:501—-544 

physics.Dordrecht:Academic Press

1989 

12 Wazwaz A M.A rel/able algor/thm for solving boundary value pmbl 

Analytical Approximate Solutions of Shock Wave Boundary Layer 

XU Yun。bin,ZHENG Lian—CUll 

DONG Yuan—yuan 

(Department。f Mathemarlcs and Applied Mathemarlcs,Yulin University

Yulin 719000,p.R.China: 

D partm。nt of Mathemarlcs and Mechanics

University of Seience and Techno1。gY Beiji“g ,Beiji“g 100083

P.R.China) 

heoretical analysis for shock wave boundary layer was presented

[Abstract] 

A t

The Adomian analytical decom. 

pos t 0n techmque was presented and an approximate analytical solution was obtained

The appr0ximate analvtica1 

soIut on can be represented in terms of a rapid convergent power series with elegantly c0mputable tern1s

we Dresen. 

ted Analytical Approximate Solutions of boundary layer equation and Approximate Vatu

e 0f Skin Friction Coefficient 

for Vejo ty ratio parameter s ̄

The reliability and eficifency of the approximate solution are veritfed using numerica1 

coe侬. 

s0lutions・Moreover,the approximate solution can be successfully applied to provide the values of skiJ】 cfjo刀

cient for shock wave boundary layer equation

. 

[Key words] boundary layer equation nonlinear boundary value problem Adomian decomposition 

发布评论

评论列表 (0)

  1. 暂无评论