画鸵萌宠网
1． 估值的意义
随机变量的分布函数完全确定了它的统计特性，但是，基于这种统计特性的描述，我们依然无法预测某一次试验的观察结果确定地是什么。
如果想用某一个确定的值去作为观察结果的估计值，可以利用概率分布函数去选择一个合理的值。
数学期望：统计平均值，无条件估值，统计误差为方差
估值：利用已有的观测量的信息，估计估计量的取值，减小关于估计量的不确定性。
2． 估值的应用
最基本的问题是利用对一个随机变量的观测对另一个随机变量进行估计
根据当前取值来预测下一个时刻取值的预测编码；
根据接收的信号序列来估计发送序列某个时刻发送值的均衡问题； 根据信号和噪声之和的序列来估计信号的噪声抑制问题；
3． 估值问题的研究内容与方法
估值研究的是统计意义上的估计问题。由于是对一个不确定量的估计，一定存在估计误差，关键在于利用某种原则、方法选择估计值，使估计误差在某种意义下是最小的。
估值准则的选取：有实际意义，有用；并且是能够得到简单解的。
“估计的均方误差最小”的估计准则是应用最广的一种估计思想，简称MS估计，相应的估计误差简称MMSE。
“输出信噪比最大”是雷达系统中最佳接收的工作原理。 在一定的估计准则下，有不同的解决具体估值问题的方法：
9 非线性估值 9 线性估值 9 维纳滤波 9 匹配滤波 9 递归线性均方估值
其中一个重要的问题就是确定估值参数
估值的评估：分析估值误差
均方误差最小的最佳线性估计
估值问题
设ξ和η是两个随机矢量，两者存在联合分布，其中η是观察矢量，通过η对ξ进行估值，得到符合某种准则的最佳估值ξ。
1 均方误差最小的估值问题
均方误差最小的估值问题
设ξ和η是两个随机矢量，两者存在联合分布，设η是观察矢量，通过η对ξ进行估值，求均方误差最小的估值ξ。
22⎧ˆE⎨ξ−ξ(η)/η=Y⎫=Eξ−Kmin/η=Y，其中K=(k1,k2，……，kn)τ⎬
⎭⎩
{}为任意矢量。
均方误差最小估值的解：均方估值和条件均值的关系
Eξ−K/η=Y
{2
{=E{E{ξ/η}−K
{}=Eξ−E{ξ/η}+E{ξ/η}−K/η=Y
2
2
/η=Y
{}+E{[ξ−E{ξ/η}]⋅[E{ξ/η}−K]/η=Y}+E[ξ−E{ξ/η}]⋅[E{ξ/η}−K]/η=Y
2
}}
+Eξ−E{ξ/η}/η=Y=EE{ξ/η}−K
{2
}/η=Y}+E{ξ−E{ξ/η}2
/η=Y
}为了使均方误差最小，
ˆ(η=Y)=E{ξ/η=Y} 应使K=E{ξ/η}，即：ξ定理
设随机矢量
ξ=(ξ1,ξ2,\"ξn)和η=(η1,η2,\"ηm)的联合概率密度函数是，
且
fξη(x1,x2,\",xn;y1,y2,\"ym)fη(y1,y2,\"ym)≠0
，则ξ关于η的最小均方误
ˆˆ(η)差估计为ξ(η)=E{ξ/η}，它满足Eξ−ξ
{2
}=minEξ−g(η)
{2
}。
例：
ˆ(η) 设ξ和η服从二元高斯分布，求最佳估值ξ解：
⎛11fξ/η(x/η=y)=exp⎜−22⎜2(1−r2)σξ2π(1−r2)σξ⎝⎛⎞σξx−μξ−ρ(y−μη)⎟⎜⎜⎟ση⎝⎠
2
⎞
⎟ ⎟⎠
σξˆξ(η)=E{ξ/η=Y}=μξ+ρ(y−μη)
σηˆ(η)=E{E{ξ/η=Y}}=μ Eξξˆ(η)−μ⎤⎡ξE⎣ξ⎦
{}{2
}{=E⎡⎣ρ(σξ/ση)⋅(y−μη)⎤⎦=(ρσξ)2
2
}
2 均方误差最小的线性估计
ˆ对于正态分布的随机变量，ξ关于的η最小均方误差估计ξ(η)=E(ξ/η)是一个线性ˆ
估计，对于非正态分布的随机变量，估计ξ(η)=E(ξ/η)一般不是线性的。这时需要找到
一个关于η的线性函数作为最佳估计。
定义：
2
⎧⎫ˆˆξ关于的η估计ξ(η)=Aη+b，使得E⎨ξ−ξ⎬=Eξ−(Aη+b)⎩⎭
{2
}达到最小
ˆ(η)=Aη+b称作为最佳线性估值。其中ξ是n×1的矢量，η是m×1的值，这时ξ
矢量，A是n×m的矩阵，b是n×1的矢量。
问题：
确定A、b
结论：
bj=Eξj−AjEη
Aj=C[ξjη](C[ηη])
即，
()−1
ξˆj=Eξj−C[ξη]C[ηη]−1Eη+C[ξη]C[ηη]−1η
j
j
ˆ=Eξ−CC−1Eη+CC−1η ξξηηηξηηη如果ξ，η=(η1η2\"ηm)均值为零，则有
T
ξˆj=C[ξη]C[ηη]−1η
j
方法：
1）极值分析法
求估值的均方误差
ˆ⎤/η=Dξ+ACAH−ACE⎡ξξ−[ξjη]jj⎦jj[ηη]jj⎣
{2
}()H
−AjC[ξjη]
()T
+⎡⎣Eξj−AjEη−bj⎤⎦
2
Aj、bj的取值应使估值的均方误差对Aj、bj的偏微商为零，从而确定Aj、bj；
2) 正交性原理
定理：满足正交性的线性估计（从正交性原理进行推导）
ˆ=aη+aη+\"+aη来估如果用复随机变量η1，η2，…，ηm的线性组合ξ1122mm
ˆ。若e和η1，η2，…，ηm正交，则此估计是计复随机变量ξ，其估计误差e=ξ−ξ最小均方误差线性估计。
利用Ee⋅η{j
}=E{[ξ−(aη+aη1
1
2
2
+a3η3+\"+amηm)]⋅ηj=0
} 注意：两种方法得到的结论一致，正交性原理的推导证明中，先假设
E{ξ}=E{η}=0，进一步的论述中说明了E{ξ}≠0,E{η}≠0时，满足正交性原理
的线性估计仍然是最小均方误差估计。
最佳线性估计的均方误差
根据正交性原理，均方误差最小的最佳线性估计的误差与观察量正交，从而与估计值正
交：
ˆ)η=0 Ee⋅ηj=E(ξ−ξj
则：
{}{}ˆ)ξˆ=0 E(ξ−ξ
因此：
{}ˆEξ−ξ
{}=E{ξ}{}2
2
ˆ−Eξ2
，
ˆEξ−ξ
{}=C
2
ξξ
−[Cξη][Cηη]−1[Cηξ]。
推论1
如果复随机变量ξ和复随机变量η1，η2，η3，…，ηm不相关，即相互正交，此时无法用复随机变量η1，η2，η3，…，ηm对复随机变量ξ进行估计。此时的最
ˆ(η)=0。 佳估计就是ξ推论2
如果复随机变量ξ和复随机变量η1，η2，η3，…，ηm有相关性，进行估计，相
应的均方误差就减少了，
2
⎧ˆ)(ξ−ξˆ)ˆEe=E⎨ξ−ξ⎫⎬=E(ξ−ξ⎩⎭。 =Cξξ−[Cξη][Cηη]−1[Cξη]T
2
{}{}减少量是[Cξη][Cηη][Cξη]。
−1T
推论3
如果复随机变量η1，η2，η3，…，ηm彼此之间相互正交，有
aj=(Cξη⋅Cηη−1)推论4
jj
=CξηjCηjηj
增加新的数据可以改善原有的估值，但是如果增加用来估值的数据η1+m，η2+m，…与原来的估计误差e=ξ−(a1ξ1+a2ξ2+\"+amξm)正交，这时增加数据不能改善原来的估计。
3 典型估值问题举例
估值理论的应用
随机过程的估值 随机过程的预测
信号的统计插值和滤波 典型的例子
例1，设有零均值实平稳随机过程s(t)，已知t时刻的值，试估计t+s时刻的值。 例2，设有零均值实平稳随机过程的信号s(t)和零均值实平稳随机过程的噪声n(t)，它们是统计独立的随机过程，实际测到的是x(t)=s(t)+n(t)，试根据x(t)对s(t)进行估值。
例3，设有零均值实平稳随机过程的信号s(t)，试根据s(0)及s(T)对s(t)进行估值。 例4，利用t时刻随机过程s(t)的观察值和它的导数s’(t)观察值，对未来的s(t+λ)，λ>0，进行估值。
例5，已知t1、t2两个时刻t1>t2，利用这两个随机过程s(t)的观察值对未来的s(t)，进行估值。
例6，已知零均值实随机过程s(t),利用s(0)和s(T)的观察值，对随机过程在【0,T】区间的积分进行估计。求最佳估值。
假定研究的随机过程是零均值实平稳的随机过程
例1
设有零均值实平稳随机过程s(t)，已知t时刻的值，试估计t+s时刻的值。 解：
GT
T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η
ˆ(t+s)=as(t)，且 s
a=E{s(t+λ)s(t)}/E{s(t)s(t)}=Rss(λ)/Rss(0)
2
⎫=Eˆ相应的最小均方误差是，E⎧ξ−ξ⎨⎬
⎩⎭
{ξ}−E{ξξˆ}
2
*
ˆ(t+λ)Es(t+λ)−s
{2
}=E{[s(t+λ)−as(t)]s(t+λ)}
=E{s(t+λ)s(t+λ)}−aE{s(t)s(t+λ)}=Rss(0)−aRss(λ)=Rss(0)−[Rss(λ)]2/Rss(0)
讨论1：如果随机过程的相关函数是Rss(τ)=σe
2
−ατ
a=Rss(λ)/Rss(0)=e−αλ ˆ(t+λ)Es(t+λ)−s
{2
}=σ(1−e)
2
−2αλ讨论2：在上述条件下，估计误差正交于s(u),u =σ2e−α(t+λ−u)−aσ2e−α(t−u)=σ2e−α(t+λ−u)−e−αλσ2e−α(t−u) =0 例2 设有零均值实平稳随机过程的信号s(t)和零均值实平稳随机过程的噪声n(t)，它们是统 计独立的随机过程，实际测到的是x(t)=s(t)+n(t)，试根据x(t)对s(t)进行估值。 解： GT T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η ˆ(t)=ax(t)，且 s a=E{s(t)x(t)}/E{x(t)x(t)}=Rss(0)/[Rss(0)+Rnn(0)] 2 ⎫=Eˆ相应的最小均方误差是，E⎧ξ−ξ⎨⎬ ⎩⎭ {ξ}−E{ξξˆ} 2 * ˆ(t)Es(t)−s {2 }=E{[s(t)−ax(t)]s(t)} =E{s(t)s(t)}−aE{x(t)s(t)}=Rss(0)−aRss(0)=Rss(0)−=Rss(0) Rss(0) Rss(0) Rss(0)+Rnn(0) Rnn(0)Rss(0)+Rnn(0) 例3 设有零均值实平稳随机过程的信号s(t)，试根据s(0)及s(T)对s(t)进行估值。 解： GT T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η ⎛Rss(0)Rss(T)⎞ s(t)=(Rss(t)Rss(T−t))⎜⎜R(T)R(0)⎟⎟ ss⎝ss⎠ =as(0)+bs(T) 其中， −1 ⎛s(0)⎞⎜⎜s(T)⎟⎟ ⎝⎠ a=b= Rss(t)Rss(0)−Rss(T−t)Rss(T) [Rss(0)]2−[Rss(T)]2−Rss(t)Rss(T)+Rss(T−t)Rss(0) [Rss(0)]2−[Rss(T)]2 2 2 ⎧ˆ相应的最小均方误差是，E⎨ξ−ξ⎫⎬=Eξ⎩⎭ {}−E{ξξˆ} * ˆ(t)Es(t)−s {2 =Rss(0)−aRss(t)−bRss(T−t) }=E{[s(t)−as(0)−bs(T)]s(t)} 例4 利用t时刻随机过程s(t)的观察值和它的导数s’(t)观察值，对未来的s(t+λ)，λ>0，进行 估值。 解： GT T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η ′(0)⎞⎛Rss(0)−Rss ′⎟⎜ˆs(t+λ)=(Rss(λ)−Rss(λ))⎜ ′(0)Rss(0)⎟⎠⎝−Rss⎛Rss(0)0⎞ ′(λ))⎜=(Rss(λ)−Rss ⎜0R(0)⎟⎟ ss⎝⎠ =as(t)+bs′(t)R(λ)R′(λ)a=ss,b=ss Rss(0)Rss(0) 2 ⎧ˆ相应的最小均方误差是，E⎨ξ−ξ⎫⎬=Eξ⎩⎭ 2 −1 −1 ⎛s(t)⎞ ⎜⎜s′(t)⎟⎟⎝⎠ ⎛s(t)⎞ ⎜⎜s′(t)⎟⎟⎝⎠ {}−E{ξξˆ} * ˆ(t+λ)Es(t+λ)−s {2 }=E{[s(t+λ)−sˆ(t+λ)]s(t+λ)} =E{[s(t+λ)−as(t)−bs′(t)]s(t+λ)}′(λ)=Rss(0)−aRss(λ)+bRss 例5 已知t1、t2两个时刻t1>t2，利用这两个随机过程s(t)的观察值对未来的s(t)，进行估值。 解： GT T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η Rss(t1−t2)⎞⎛Rss(0) ˆ(t)=(Rss(t−t1)Rss(t−t2))⎜s⎟⎜R(t−t)R(0)⎟ ss⎠⎝ss12 =as(t−t1)+bs(t−t2)a=b= Rss(t−t1)Rss(0)−Rss(t−t2)Rss(t1−t2) Rss(0)−Rss(t1−t2) −Rss(t−t1)Rss(t1−t2)+Rss(t−t2)Rss(0) Rss(0)−Rss(t1−t2) 2 2 2 2 2 −1 ⎛s(t1)⎞⎜⎜s(t)⎟⎟⎝2⎠ 相应的最小均方误差是， ˆ(t)Es(t)−s {}=E{[s(t)−sˆ(t)]s(t)}=E{[s(t)s(t)−as(t1)s(t)−bs(t2)s(t)]} =Rss(0)−aRss(t−t1)−bRss(t−t2) 讨论1，若t2时刻的信息不能改进对s(t)的估计，即b＝0， b=0, Rss(t−t1)Rss(t1−t2)=Rss(t−t2)Rss(0) Rss(t−t2)= Rss(t−t1)Rss(t1−t2) Rss(0) 相应的相关函数是负指数形式。 例6 已知零均值实随机过程s(t),利用s(0)和s(T)的观察值，对随机过程在【0,T】区间的积分进行估计。求最佳估值。。 解： GT T−1ˆ利用最佳线性估值原理，ξ=aη=[Cξη][Cηη]⋅η T 定义ς=s(u)du ∫ 0 ⎛T⎞T ⎟E[ς⋅s(0)]=E⎜⎜∫s(u)du⋅s(0)⎟=∫Rss(u)du ⎝0⎠0⎛T⎞T ⎟E[ς⋅s(T)]=E⎜⎜∫s(u)du⋅s(T)⎟=∫Rss(u−T)du ⎝0⎠0 T T =∫Rss(T−u)du=∫Rss(u)du 0 0 记作 E[ς⋅s(0)]=E[ς⋅s(T)]=∫Rss(u)du=α 0 T 最佳估值是， ⎛Rss(0)Rss(−T)⎞T ˆ⎟()ς=(E[ς⋅s(0)]E[ς⋅s(T)])⎜s(0)s(T)⎜R(T)R(0)⎟ ss⎠⎝ss ⎛Rss(0)s(0)−Rss(T)s(T)⎞22 ⎟/R(0)−R(T)=(αα)⎜ssss⎜−R(T)s(0)+R(0)s(T)⎟ ssss⎠⎝ −1 ()=α(Rss(0)−Rss(T))(s(0)+s(T))/Rss(0)−Rss(T) 2 2 T () = ∫R 0 ss (u)du ⋅(s(0)+s(T))(Rss(0)+Rss(T)) 因篇幅问题不能全部显示，请点此查看更多更全内容