1、概率统计概率统计下页结束返回一、参数的点估计一、参数的点估计二、参数的区间估计二、参数的区间估计下页下页第七章第七章 参数估计参数估计 问题：问题：若总体若总体X的分布函数的分布函数F(x)的类型已知，但它的类型已知，但它的一个或多个参数未知的一个或多个参数未知,如何估计总体的未知参数？如何估计总体的未知参数？ 想法：想法：用用X的一组样本观察值的一组样本观察值(x1,x2,xn)来估计总来估计总体中未知参数的值体中未知参数的值,即用样本统计量的值估计总体中未即用样本统计量的值估计总体中未知参数的值知参数的值.概率统计概率统计下页结束返回2 (), ()E XD Xn1010,980,975,
2、1050,1100,990,1020,1150,1210,9602( ,)XN X1011() ()nPiikXXE Xnnn Xn概率统计概率统计下页结束返回2 (), ()E XD Xn1010,980,975,1050,1100,990,1020,1150,1210,9602( ,)XN X10 X10111044.510iix X 概率统计概率统计下页结束返回( ),XF x,F,12,nXXXX12(,),nXXX12(,)nxxx12(,)nXXX12(,)nxxx概率统计概率统计下页结束返回12(,)nXXXn概率统计概率统计下页结束返回n12(,) (1,2, )kiik 12
3、12( ,),kkXF x 12,nXXXX() (1,2, )iiE Xik11() () (1,2, )nPiiijijAXE Xnikn () (1,2, )iiiAE Xik12()( ,)iikiE Xx dF x 1121122212(,)(,) (,)kkkkkAAA 1121122212(,)(,)(,)kkkkkAAA 12,k 1112221212(,)(,)(,)kkkkkA AAA AAA AA12(,)k 12(,)k 12,k 概率统计概率统计下页结束返回 k= E(Xk)ck= EX-E(X)k总体矩总体矩 总体矩的估计值总体矩的估计值 样本矩样本矩 11nkki
4、iAXn11()nkkiiBXXnkc=显然显然,221nBsn2c 通常取通常取: :22cs理论根据：理论根据：大数定律、格利文科定理大数定律、格利文科定理. . k 1 XA 1下页 矩估计法：矩估计法：是用样本矩估计相应的总体矩，用样本矩函数是用样本矩估计相应的总体矩，用样本矩函数估计总体矩的同一函数的一种估计方法估计总体矩的同一函数的一种估计方法.概率统计概率统计下页结束返回例例1 1设总体设总体XN( , 2 )，试求，试求 , , 2的矩估计量的矩估计量.22,XB22,XB解得解得 , , 2 的矩计量分别为的矩计量分别为即即1122,AcB下页解：解：设设(X1,Xn)为为X
5、的一个样本，的一个样本，依题意知依题意知 E(X)= , D(X)= 2，据矩估计法有据矩估计法有概率统计概率统计下页结束返回221()2,1()12abXbas解得解得 1 , 2的矩估计量为的矩估计量为211()(),()( - ) ,212E XabD Xb a1122,AcB即即例例2设总体设总体XUa , b ，试求，试求a ，b的矩估计量的矩估计量.下页解：解：设设(X1,Xn)为为X的一个样本，的一个样本，依题意知依题意知 据矩估计法有据矩估计法有3 ,aXs3 .bXsX ab a , b1 minii nX 1 maxiinX (a)b概率统计概率统计下页结束返回ekkXPk
6、!.X2BE(X)= , 根据矩估计法有根据矩估计法有(k=0,1,2；0 0, 有有则称则称 较较 有效有效.2112()1,()DD 有效性有效性设设 是是 的两个无偏估计量，若的两个无偏估计量，若12, 概率统计概率统计下页结束返回解解：因为因为下页1123111,345XXX 2123111,362XXX 312323,XXX4123,XXX 问哪个是问哪个是 的无偏估计量？的无偏估计量？)216131()(3212XXXEE)(21)(61)(31321XEXEXE216131. .2是 例例8设设X1, X2, X3是来自均值为是来自均值为 的指数分布总体的样本的指数分布总体的样本
7、,其中其中 未知，设有估计量未知，设有估计量 概率统计概率统计下页结束返回11111()()(),nniiiiE XEXE Xnnnn 故故 为为的无偏估计量的无偏估计量.X2211()1niiSXXn 2211.1niiXnXn )()(11)(1222niiXnEXEnSE222221().1nnnn 证：证：即即S 2为为 2 的无偏估计量的无偏估计量.)()()()(11122niiiXEXDnXEXDn下页 例例9试证样本均值试证样本均值 及样本方差及样本方差S 2分别是总体均值分别是总体均值 及及总体方差总体方差 2的无偏估计的无偏估计.X2211(2)1iniiXX XXn 概率
8、统计概率统计下页结束返回作业： 170页 1,3, 5, 7结束概率统计概率统计下页结束返回二、极大似然估计法二、极大似然估计法 极大似然原理：极大似然原理：一个随机试验有若干种可能的结果一个随机试验有若干种可能的结果A，B，C，若在一次试验中，结果若在一次试验中，结果 A 出现，则一般认为试验条件出现，则一般认为试验条件对对A出现有利，也即出现有利，也即 A 出现的概率很大出现的概率很大 引例引例设有外形完全相同的两个箱子，甲箱有设有外形完全相同的两个箱子，甲箱有9999个红球个红球1 1个个蓝球，乙箱有蓝球，乙箱有1 1个红球个红球9999个蓝球，今随机地取出一箱，再从该箱个蓝球，今随机地
9、取出一箱，再从该箱中任取一球，结果取得红球，问这球是从哪一个箱子中取出的？中任取一球，结果取得红球，问这球是从哪一个箱子中取出的？解：解：从甲箱中取得红球的概率从甲箱中取得红球的概率：P(红红/甲甲) = 99/100；从乙箱中取得红球的概率从乙箱中取得红球的概率：P(红红/乙乙) = 1/100. 显然，从甲箱中取得红球的概率，比从乙箱中取得红球的概率大显然，从甲箱中取得红球的概率，比从乙箱中取得红球的概率大得多得多. . 既然在一次抽样中取得红球，当然可以认为是从抽取概率大的既然在一次抽样中取得红球，当然可以认为是从抽取概率大的箱子中抽出的，故可作出箱子中抽出的，故可作出统计推断统计推断：
10、红球是从甲箱中取出的：红球是从甲箱中取出的( (合理合理).). 这就是极大似然原理！这就是极大似然原理！下页概率统计概率统计下页结束返回121( ; )( , , ; )( ; )niniL xL x xxf x 求极大似然估计步骤求极大似然估计步骤(1) 写出似然函数写出似然函数;称为样本的似然函数称为样本的似然函数. 使似然函数取得最大值的使似然函数取得最大值的 称为称为 的极大的极大似然估计值似然估计值. 这种方法称为极大似然估计法这种方法称为极大似然估计法. 极大似然函数极大似然函数下页(2) 取对数取对数;(3) 求导数求导数;(4) 由导数由导数=0, 解得估计值解得估计值. 设
11、总体设总体X的概率密度函数为的概率密度函数为 f(x; )，若若X是离散型是离散型, f(x; ) 是是分布律分布律 为未知参数为未知参数( 也可以是向量也可以是向量)，则函数，则函数 概率统计概率统计下页结束返回11( ,; )inxniL xxe 11ln( )ln( )ln( ),nniiiidLnLnxxd11,niinxx 例例5X服从参数为服从参数为 的指数分布，求的指数分布，求 的极大似然估计量的极大似然估计量.下页解：解：设设x1,xn为样本的一组观测值，则似然函数为为样本的一组观测值，则似然函数为1inxnie 1,niixne ln( )0 ,dLd 解得解得 的的估计估计
12、值值为为由由所以所以 的的估计估计量量为为1.X 概率统计概率统计下页结束返回例例6 6设设XN( , 2）,求求 , 2 的极大似然估计的极大似然估计.22221()()222211(2),2niiinxxniee 2221()ln( )ln(2),22niinxL 2122241ln( )1()0,ln( )11()022niiniiLxLnx 解得解得 , 2 的极大似然估计值为的极大似然估计值为下页解：解：设设x1,xn为样本的一组观测值，则似然函数为为样本的一组观测值，则似然函数为21( ,; ,)nL xx ,x 2211() .niixxn 概率统计概率统计下页结束返回例例7 7设总体设总体X具有均匀分布，密度函数为具有均匀分布，密度函数为1,0( ; ),0,xf x 其它求未知参数求未知参数 的极大似然估计的极大似然估计.11( ,; ), 0,1,.ninL xxxin显然显然L是是 的一个单值递减函数，的一个单值递减函数，而另一方面，而另一方面，xi ( i=1,2,3 ,n), 12 ,.nmax x xx下页解：解：设设x1,xn为样本的一组观测值，则似然函数为为样本的一组观测值，则似然函数为所以所以 的极大似然估计值为的极大似然估计值为
