中国科学院：随机过程讲义：中科院随机过程讲义第7章

第七章 平稳过程 7.1 定义与例子 定义7.1.1：随机过程称为严平稳过程 (strictly stationary process)若对任 意及 TttX ∈),( n Tttt n ∈<<<L 21 ，任意，随机向量h ( ))(),( 1 n tXtXL与 ()(),( 1 htXhtX n ++L有相同的联合分布。 严平稳过程是用有限维分布定义的， 故该过程可能连均值函数都不存在。 若 严平稳过程还是二阶矩过程，则其均值函数 mt =)(μ 为常数，相关函数 只与 _______________ )()0()()(),( tsXEXtXsEXtsR ?== ts? 有关， 协方差函数也仅与 有关。 ts? 定义7.1.2：随机过程称为宽平稳过程 (wide sense stationary process)若 它是一个二阶矩过程且满足： TttX ∈),( 1) 均值函数 mt =)(μ 为常数； 2) 协方差函数 或相关函数 仅依赖于 [][ ______________ )()(),( mtXmsXEts ??=Γ ] ______ )()(),( tXsEXtsR = ts?。 宽平稳过程不一定严平稳。以下我们讨论平稳过程，就是指宽平稳过程。 例7.1.1：L,2,1,0, ±±=n n ε为零均值的方差为的独立同分布随机变量序列，令 ，则是一个平稳序列。因为， 。 2 σ ∑ = ? = K i inin X 1 εθ n X 0= n EX ? ? ? ? ? ≥ ?≤ = ∑ = + + .,0 ;1),( 1 2 Km Km XEX K i imi mnn θθσ 例7.1.2：设为强度)(tN λ的Poisson过程，令0),()1()( ≥?+= ttNtNtX，则 是平稳过程，均值函数为 )(tX λμ =)(t， ? ? ? >? ≤??? =Γ 1,0 1),1( ),( ts tsts ts λ 。 由于平稳过程的相关函数和协方差函数),( tsR ),( tsΓ只依赖与时间差，ts? 1 令ts?=τ，则相关函数和协方差函数实际上只是τ的函数，分别记为)(τR和 )(τΓ。 7.2 相关函数(协方差函数) 相关函数(协方差函数)基本性质： 1) ； 0)0( ≥R 2) ； _______ )()( ττ RR =? 3) )0()( RR ≤τ； 4) )(τR是非负定的，即对任意，n nia i ,,1,L=为复数及有nit i L,1, = 0)( 11 ≥? ∑∑ == n j n i jiji ttRaa。 定理 7.2.1：设 为平稳过程，则以下等价： )(tX 1) 均方连续； )(tX 2) 在 处均方连续； )(tX 0=t 3) 相关函数 )(τR (或协方差函数)连续； 4) 相关函数 )(τR (或协方差函数)在 0=τ 处连续。 证明：用Schwarz不等式及注意到)()()0(2)()( 2 hRhRRtXhtXE ???=?+。 定理 7.2.2：设 为平稳过程， 则)(tX )(tX p 次均方可微 ? )(τR 在 0=τ 处 次可 微。若以下导数存在，有 。 p2 )()1()( ) τ)1()()( )(( _________ )()( tsRRtXsEX qpqqpqqp ??=?= ++ 7.3 相关函数的谱分解 定理 7.3.1： 1). 设L,2,1,0, ±±=nX n 为平稳序列，则相关函数 可以表示为 ，其中 为单调非降的右连续的有界函数且不计常数之差 )(nR ∫ ? = π π )()( wdFenR jnw )(wF 2 是唯一的；特别若 是实的平稳序列，则 。 n X ∫ = π 0 1 )(cos)( wnwdFnR 2). 设 为均方连续的平稳过程∞<<?∞ ttX ),( ? 相关函数 )(τR 可表示为 ，其 中 为单调非降的右连续的有界函数且不计常数之差 是唯一的；特别若 是实的平稳过程，则 。 ∫ ∞ ∞? ? = )()( wdFeR wjτ τ )(wF n X ∫ ∞ = 0 1 )(cos)( wwdFR ττ )(wF 称为谱函数 (spectral function)，若导数存在，即可表为 ，称为功率谱密度 (power spectral density)。由Fourier 变换的知识，有 )(wF CduufwF w += ∫ ∞? )()( )(wf 定理 7.3.2：设 或)(nR )(τR 为平稳序列或过程的相关函数， 1). 若 ∞< ∑ ∞ ?∞=n nR )( ，则谱密度存在且 ∑ ∞ ?∞= ? = n jnw nRewf )( 2 1 )( π ； 2). 若 ∞< ∫ ∞ ∞? ττ dR )( ，则谱密度存在且 ∫ ∞ ∞? ? = ττ π τ dRewf wj )( 2 1 )( 。 例7.3.1：已知功率谱密度 ? ? ? ? ? ? ? ? ? + ? ? = 22 2 1 1 1 1 4 1 )( jwjw eaae a wf π ，这里 ，则相关函数。故对所有 的， 10, <<= rrea jθ 0,cos)()( ≥== ∫ ? nnrdwwfenR njnw θ π π n θnrnR n cos)( =。 例7.3.2：已知相关函数0,1,)( ≥<= naanR n ，则功率谱密度 _______ )()( nRnR =? 2 2 1 1 2 1 )( 2 1 )( jw n jnw ea a nRewf ? ? == ∑ ∞ ?∞= ? ππ 。 例7.3.3：已知功率谱密度为0, )( )( 22 > + = ρ ρπ ρ w wf，则相关函数 3 τρτ τ ? ∞ ∞? == ∫ edwwfeR wj )()(。 例7.3.4：已知相关函数为0,)( >= ? ρτ τρ eR，则功率谱密度 )( )( 2 1 )( 22 w dRewf jw + == ∫ ∞ ∞? ? ρπ ρ ττ π τ 。 7.4 平稳过程的谱分解 定理 7.4.1： 1). 设L,1,0),( ±=nnX 为零均值的平稳序列，则 ∫ ? = π π ξ )()( wdenX jnw 其中 ],[),( ππξ ?∈ww 为零均值的右连续的正交增量 过程，除相差一个随机变量 是唯一的， 且对 ππ ≤<≤? 21 ww ， )()()()( 12 2 12 wFwFwwE ?=?ξξ ， 其中 即为谱函数。 )(wF 2). 设 为零均值的均方连续的平稳过程，则 ∞<<?∞ ttX ),( ∫ ∞ ∞? = )()( wdetX jtw ξ 其中 ∞<<?∞ ww),(ξ 为零均值的右连续的正交增量过程，除相差一个随机变量 是唯一的，且对 ， 21 ww < )()()()( 12 2 12 wFwFwwE ?=?ξξ ，其中 即为 谱 函数。 )(wF 7.5 各态历经性与采样定理 若过程的统计平均等于样本的时间平均，这种性质称为各态历经性 (ergodicity)，也称为遍历性。设∞<<?∞ ttX ),(为实的平稳过程，， 相关函数为 mtEX =)( )(τR，协方差函数为)(τΓ。 定义7.5.1：若mdttX T T T T = ∫ ? ∞→ )( 2 1 lim，则称均值具有遍历性；若 )()()( 2 1 lim ττ RdttXtX T T T T =+ ∫ ? ∞→ ，则称相关函数具有遍历性。 4 定理 7.5.1：设 为实的均方连续的平稳过程， 则均值具有遍历性， 即 ∞<<?∞ ttX ),( mdttX T T T T = ∫ ? ∞→ )( 2 1 lim ? 谱函数 在)(wF 0=w 处连续 ? 协方差函数满足 0)( 2 1 lim =Γ ∫ ? ∞→ T T T d T ττ 。 证明：不妨设0=m，否则考虑随机过程mtX ?)(，此时)()( ττ R=Γ。由于 ∫ ∞ ∞? = )()( wdetX jtw ξ 因此， ∫∫∫∫∫∫ ∞ ∞? ∞ ∞?? ∞ ∞?? Φ= ? ? ? ? ? ? ? ? == )()()( 2 1 )( 2 1 )( 2 1 _ wdwwddte T dtwde T dttX T T T T jwt T T jtw T T ξξξ， 其中 ? ? ? ? ? = ≠ =Φ 0,1 0, sin )( w w wT wT w T ，。由于 ? ? ? = ≠ =Φ ∞→ 0,1 0,0 )(lim w w w T T ∫∫ ∞ ∞?? Φ= )()()( 2 1 2 2 wdFwdttX T E T T T 故 )0()0()()(lim)( 2 1 lim 2 2 FFwdFwdttX T E T T T T T ?+=Φ= ∫∫ ∞ ∞? ∞→ ? ∞→ 因此0)( 2 1 lim 2 = ∫ ? ∞→ T T T dttX T E ? )(wF在0=w处连续。 由于， ∫ ∞ ∞? ==Γ )()()( wdFeR wjτ ττ ∫∫∫∫∫∫ ∞ ∞? ∞ ∞?? ∞ ∞?? Φ= ? ? ? ? ? ? ? ? ==Γ )()()( 2 1 )( 2 1 )( 2 1 _ wdFwwdFdte T dtwdFe T d T T T T jwt T T jtw T T ττ 故 )0()0()()(lim)( 2 1 lim FFwdFwd T T T T T T ?+=Φ=Γ ∫∫ ∞ ∞? ∞→ ? ∞→ ττ 因此0)( 2 1 lim =Γ ∫ ? ∞→ T T T d T ττ ? )(wF在0=w处连续。 5 定理 7.5.2：设 为实的均方连续的平稳过程， 则均值具有遍历性， 即 ∞<<?∞ ttX ),( mdttX T T T T = ∫ ? ∞→ )( 2 1 lim ? 0)( 2 1 1 lim 2 0 =Γ ? ? ? ? ? ? ? ∫ ∞→ T T d TT ττ τ 。 证明： [][] dsdtts T dsdtmtXmsXE T mdttX T E T T T T T T T T T T ∫∫ ∫∫∫ ?? ??? ?Γ= ??=? )( 4 1 )()( 4 1 )( 2 1 2 2 2 令， tsvtsu +=?= , ∫∫ ∫∫∫∫∫ Γ ? ? ? ? ? ? ?=?Γ= Γ=Γ=? ? ? ???? TT T uT uT T T T T duu T u T duuTu T dvduu T dudvu T mdttX T E 2 0 2 2 2 2 )2( 2 2 22 2 )( 2 1 1 )2)(( 4 1 )( 8 1 )( 2 1 4 1 )( 2 1 因此mdttX T T T T = ∫ ? ∞→ )( 2 1 lim ? 0)( 2 1 1 lim 2 0 =Γ ? ? ? ? ? ? ? ∫ ∞→ T T d TT ττ τ 。 类似的令)()()( tXtXtY τ+=，考虑的均值遍历就可以得到相关函数的 遍历性定理。 )(tY )(tX 定理 7.5.3：相关函数具有遍历性 ? []0)()( 2 1 1 lim 2 0 2 =? ? ? ? ? ? ? ? ∫ ∞→ T T duRuB T u T τ ，其中 )()()()()( tXtXutXutEXuB ττ ++++= 。 (由于上式涉及到4阶矩，一般很难验证，往往对还是正态过程时可以算出。) )(tX 例7.5.1：)sin()( θ+= wtAtX，θ为],[ ππ?上的均匀分布，则为零均值平稳 过程，协方差函数，由于 )(tX ττ wA cos)( 2 =Γ 0 sin lim)( 2 1 lim 2 ==Γ ∞→ ? ∞→ ∫ wT wTA d T T T T T ττ， 故均值具有遍历性。 在对随时间连续变化的信号分析处理时，一般是获得一些离散的采样值。例 如每隔定长时间?对进行观测，获得在)(tX )(tX ?= kt的数值。若采样点 过密，增加处理难度且一般花费大；过稀又可能失真，误差大。因此要选择合适 )( ?kX 6 的间隔。 定理 7.5.4：( Sampling Theorem)设 ∞<<?∞ ttX ),( 为实的均方连续的平稳过程， 若谱函数 满足)(wF 0)( 2 = ∫ ≥ Bw wdF π ， 设 B2 1 =? ， 则 ∑ ∞ ?∞= ?? ? ?? ? ?= k kt kt kXtX )( )(sin )()( π π 。 证明：由谱分解 ∫ < = Bw jwt wdetX π ξ 2 )()( 考虑的Fourier变换 jwt e ∑ ∞ ?∞=n B w jn n jwt eae 2 ~,其中 )( )(sin 4 1 2 2 2 ?? ? ?? ? == ∫ ? ? nt nt dwee B a B B B w jn jwt n π π π π π 。因此由Fourier级数理论 2 2 2 2 2 )(lim)(lim0 ∑ ∫ ∑ ?= ∞→ < ?= ∞→ ? ? ? ? ? ? ?=?= N Nn n N Bw N Nn B w jn n jwt N B n XatXEwdFeae π 这表明 ∑ ∞ ?∞= ?? ? ?? ? ?= n nt nt nXtX )( )(sin )()( π π 。 采样定理表明，当采样时间间隔 B2 1 ≤? ( B为最高频率)时，采样值可以准确恢 复。 )(tX 7.6 线性时不变系统中的平稳过程 所谓系统，就是对于任何输入，按照一定规则产生输出的装置。 定义7.6.1：设系统输入，输出L )(tx )()( tLxty =。若对任何输入及任 意 )(),( 21 txtx βα,，输出[] )()()()( 2121 tLxtLxtxtxL βαβα +=+，则称系统为一个 线性系统 (linear system)；若对任意 L τ，)()( ττ +=+ tytLx，则称系统为一个时不变系统 (time-invariant system)。 L 引理 7.6.1：设 为一个线性时不变系统，若输入 ，则输出 ，其中 L jwt etx =)( jwtjwt ewHLety )()( == )0()( 0 yLewH t jwt == = 。 7 证明：对任意固定的τ，。令， ，由 )()( )( tyeLeeLety jwjwtjwtjw τττ τ ===+ + 0=t ττ τ jwjw ewHyey )()0()( == τ的任意性即得。 jwt ewHty )()( = 设 )( )()( wj ewHwH θ =，则)(wH表征系统的振幅 (amplitude)特性，)(wθ表征 系统的相位 (phase)特性，称为频率响应 (frequency response)。设输入为 平方可积函数，即 )(wH )(tx ∞< ∫ ∞ ∞? dttx 2 )(，则 ∫ ∞ ∞? = dwewXtx jwt )( 2 1 )( π 其中为的Fourier变换，称为的频谱 (frequency spectral)。将表为 ∫ ∞ ∞? ? = dtetxwX jwt )()( )(tx )(tx )(tx ∑ ?= k k tjw k wewXtx k )( 2 1 lim)( π ，若为一个连续的线性时 不变系统，则 L ∫ ∑ ∑∑ ∞ ∞? =?= ?=?== dwewHwXwewHwX wLewXwewXLtLxty jwt k k tjw kk k k tjw k k k tjw k k kk )()( 2 1 )()( 2 1 lim )( 2 1 lim)( 2 1 lim)()( ππ ππ 由于 ∫ ∞ ∞? = dwewYty jwt )( 2 1 )( π ，其中为的频谱。故有频谱关 系 ∫ ∞ ∞? ? = dtetywY jwt )()( )(ty )()()( wHwXwY = 若∞< ∫ ∞ ∞? dwwH 2 )(，则由Fourier分析 ∫ ∞ ∞? = dwewHth jwt )( 2 1 )( π ， 。则 ∫ ∞ ∞? ? = dtethwH jwt )()( ∫∫∫ ∫∫∫∫ ∞ ∞? ∞ ∞? ∞ ∞? ? ∞ ∞? ∞ ∞? ? ∞ ∞? ∞ ∞? ?= ? ? ? ? ? ? = ? ? ? ? ? ? === dssthsxdsdtewHsx dtewHdsesxdtewHwXdtewYty stjw jwtjwsjwtjwt )()()( 2 1 )( )()( 2 1 )()( 2 1 )( 2 1 )( )( π πππ 8 特别当输入为脉冲时，即)()( ttx δ=，输出)()( thty =，称为冲激响应 (impulse response)。 )(th 例7.6.1：设输入输出满足差分方程，则频率响应为 ∑∑ == ?=? m l l n k k ltxaktyb 00 )()( ∑ ∑ = ? = ? = n k jkw k m l jlw l eb ea wH 0 0 )(。 例7.6.2：设输入输出满足微分方程，则频率响应为 ∑∑ == = m l l l n k k k txatyb 0 )( 0 )( )()( ∑ ∑ = = = n k k k m l l l jwb jwa wH 0 0 )( )( )(。 现在考虑输入为一个零均值的均方连续的平稳随机过程，由 谱分解，写成均方极限形式 ∞<<?∞ ttX ),( ∫ ∞ ∞? = )()( wdetX X jtw ξ ∑ ?= k kX jtw wetX k )(lim)( ξ，因此 当为一个连续的线性时不变系统时， L ∫ ∑ ∑∑ ∞ ∞? =?= ?=?== )()()()(lim )(lim)(lim)()( wdewHwewH wLeweLtLXtY X jtw k kX jtw k k kX jtw k kX jtw k kk ξξ ξξ 这表明输出仍为零均值的均方连续的平稳过程。设本身的谱分解为 ，因此。设的谱函数为， 则 )(tY )(tY ∫ ∞ ∞? = )()( wdetY Y jtw ξ ξξξ += ∫ ∞? w XY uduHw )()()( )(tX )(wF X ∫ ∫∫ ∞ ∞? ? ∞ ∞? ∞ ∞? ? = ? ? ? ? ? ? ? ? ? ? ? ? == )()( )()()()()0()()( 2 ______________________ ______ wdFewH wdwHwdewHEYEYR X wjτ XX wjτ Y ξξττ 设)(τ Y R本身的谱分解为，其中为的谱函数，因 ∫ ∞ ∞? ? = )()( wdFeR Y wjτ Y τ )(wF Y )(tY 9 此有CudFuHwF w XY += ∫ ∞? )()()( 2 。特别若的谱密度存在，则的 谱密度存在且 )(tX )(wf X )(tY )(wf Y )()()( 2 wfwHwf XY = 例7.6.3：设输入输出满足)()()( tXtYtY =+′，现输入为零均值的平稳过程 ，其相关函数为∞<<?∞ ttX ),( ,)( 2 τ τ ? = eR X ，求输出过程的相关函数)(tY )(τ Y R。 由的相关函数可得谱密度为)(tX 2 4 12 )( w wf + = π ，由系统输入输出关系的 频率响应 jw wH + = 1 1 )(，故输出的谱密度为 )(tY )1)(4( 12 )()()( 22 2 ww wfwHwf XY ++ == π 所以 0),2( 3 1 )()( 2 ≥?== ?? ∞ ∞? ? ∫ ττ ττ Y wjτ Y eedwwfeR 7.7 平稳相关和互谱函数 当研究系统的随机输入输出时，要考虑两个平稳过程，研究它们的相互关系。 定义7.7.1：平稳过程∞<<?∞ ttX ),(与平稳过程∞<<?∞ ttY ),(称为平稳相关的， 如果对任意有。 h tstYsEXhtYhsEX ,,)()()()( ________________ ?=++ 当两个平稳随机过程平稳相关时，它们互相关函数 依赖于时间差，用 )(),( tYtX )()()(),( ______ tsRtYsEXtsR XYXY ?== )(τ XY R表示互相关函数。互 相关函数也有谱分解，特别当绝对连续即可导时， ，这里称为与的互谱函数，称为 互谱密度。(此时互谱函数，互谱密度不一定为实函数) ∫ ∞ ∞? ? = )()( wdFeR XY wjτ XY τ )(wF XY ∫ ∞ ∞? ? = dwwfeR XY wjτ XY )()(τ )(wF XY )(tX )(tY )(wf XY 10 设为一个连续的线性时不变系统，输入为零均值的均方连续的平稳过 程，输出，因此 L )(tX ∫ ∞ ∞? = )()()( wdewHtY X jtw ξ ∫ ∫∫ ∞ ∞? ? ∞ ∞? ∞ ∞? + = ? ? ? ? ? ? ? ? ? ? ? ? =+ )()( )()()()()( _____________________ )( ______ wdFewH wdewdewHEsXsEY X wjτ X jsw X wsτj ξξτ 这表明与是平稳相关的。若有谱密度，则与的互 谱密度为 )(tY )(tX )(tX )(wf X )(tY )(tX )()()( wfwHwf XYX =。 11