1、2-1第二章第二章 参数估计参数估计2-1通过子样通过子样对总体未对总体未知参数进知参数进行估计行估计内内 容容参数的点估计参数的点估计参数的区间估计参数的区间估计点估计的评判标准点估计的评判标准什么是参数估计？什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量.当此数量未知时当此数量未知时,从总体抽出一个子样，从总体抽出一个子样，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计.例如，例如，X N(,2),点估计点估计区间估计区间估计若若,2未知未知,通过构造样本的函数通过构造样本的函数,给出给出它们的估计值或取值范围
2、就是参数估计它们的估计值或取值范围就是参数估计的内容的内容.参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围，并使此范围包含未知参数并使此范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.2.1 点估计方法点估计方法2-5常用的点估计方法介绍常用的点估计方法介绍q 频率替换法频率替换法利用事件A 在 n 次试验中发生的频率/An n作为事件A 发生的概率 p 的估计量pnnpA例例1 1 设总体X N(,2),在对其作28 次 独立观察中,事件“X 4”出现了21 次,试用频率替换法求参数 的估
3、计值.解解 由75.02821)24()4(XP675.024查表得于是 的估计值为045.32-8方方法法用子样 k 阶原点矩作为总体 k 阶原 点矩的估计量,建立含有待估参数 的方程,从而解出待估参数2-9一般,不论总体服从什么分布,总体期望 与方差 2 存在,则它们的矩估计量分别为11niiXXn2211()niiXXSnq 矩法矩法 22-10事实上，按矩法原理，令niiXnX11)(12122XEXnaniiX)()(222XEXE22 a2211niiXXn212)(1SXXnnii例例2 2 设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡，测得其寿命为(单位:小时)1050,11
4、00,1080,1120,1200 1250,1040,1130,1300,1200试用矩法估计该天生产的灯泡的平均寿命及寿命分布的方差.解解)(1147101)(101hxxXEii矩7-14.)(6821101)(210122hxxXDii矩例例3 3 设总体 X E(),X1,X2,Xn为总体的 样本,求 的矩法估计量.解解()1/,E X1/.X令7-13故1/.X矩例例4 4 设总体 X U(a,b),a,b 未知,求参数 a,b 的 矩法估计量.解解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE22212)(baab令 niiXnabaab122221212
5、)(Xba2解得)(322XaXa矩)(322XaXb矩SX3.3SX 例例5 5 设总体 X 解解),()(xf0,)(1xexx7-15,其密度函数为0,0 x求 和 的矩估计量.)0,0(dxxfxXE)()(dxexx0)(xu令令dueuu011)(1)()1(,令7-1622)()()(EXXEXD.)1(2222解得,X.22S,22SX.2SXdxexXEx012)()()()2(2,)1(22-11一般,设待估计的参数为.,21k总体的 r 阶矩记为),()(21krrXE子样 X1,X2,Xn 的 r 阶矩为nirirXna11kr,2,1令),(21krniriXn11解
6、上述方程组,得 k 个统计量：11212(,)(,)nknX XXX XX 未知参数 1,k 的矩估计量q 最大似然估计法大似然估计法 思想方法思想方法：一次试验就出现的 事件有较大的概率 例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答答:第一箱.7-17问问:所取的球来自哪一箱？例例6 6 设总体 X 服从0-1分布,且P(X=1)=p,用最大似然法求 p 的估计值.解解总体 X 的概率分布为1,0,)1()(1xppxXPxx 设 x1,x2,xn为总体样本X1,X2,Xn的
7、样本值,则),(2211nnxXxXxXP)()1(11pLppniiniixnxnixi,2,1,1,07-18对于不同的 p,L(p)不同,见右下图现经过一次试验，0.20.40.60.81p0.0020.0040.0060.0080.01Lp),(2211nnxXxXxX发生了，事件则 p 的取值应使这个事件发生的概率最大.p 7-19在容许范围内选择 p，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大,则这个p 必使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpnii110)1(dlnd212122pxnpxpL
8、niinii所以xp 为所求 p 的估计值.一般,设 X 为离散型随机变量,其分布律为,),()(21uuxxfxXP则样本 X1,X2,Xn的概率分布为),(2211nnxXxXxXP),(),(),(21nxfxfxf12,1,2,ixu uin7-21)(),(21LxxxLn记为或称 L()为样本的似然函数),(21nxxxL),(),(),(max21nxfxfxf称这样得到的 ),(21nxxxg为参数 的极大似然估计值极大似然估计值称统计量),(21nXXXg为参数 的极大似然估计量极大似然估计量7-22MLE简记mle简记L()选择适当的=,使 取最大值,即最大似然法的思想若
9、X 连续,取 f(xi,)为Xi 的密度函数niixfL1),()(似然函数为7-23注注1 1注注2 2 未知参数可以不止一个,如1,k 设X 的密度(或分布)为1(,)kf x则定义似然函数为111(,)(,)nkikiLf x,1,2,ixin1(,)k11(,;,)nkL xx若11(,;,)nkL xx关于1,k可微,则称0),;,(2121knrxxxL为似然方程组kr,2,1若对于某组给定的样本值 x1,x2,xn，参数 使似然函数取得最大值,即k,2111(,;,)nkL xx),;,(max2121),(21knxxxLk则称1,k为1,k 的极大似然估计值7-24例例7 7
10、 设总体 X N(,2),x1,x2,xn 是 X 的样本值,求,2 的极大似然估计.解解),;,(221nxxxLniixnne1222)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixnie7-26xxnniimle11niimlexxn122)(1,2 的最大似然估计量分别为11,niiXXn212)(1SXXnnii似然似然方程方程组为组为0)(1ln12niixL0)(2)()(21ln)(212222nxLnii7-27最大似然估计步骤最大似然估计步骤1）写出似然函数 L2）求出k,21,使得),;,(2121knxxxL),;,(ma
11、x2121),(21knxxxLk7-28,0/rL可得未知参数的最大似然估计值k,21若 L可微,解似然方程组若 L不可微,需用其它方法求最大似然估计值.请看下例：kr1例例8 8 设 X U(a,b),x1,x2,xn 是 X 的一个样本值,求 a,b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为其它,0,1),;(bxaabbaxf似然函数为其它,0,2,1,)(1),;,(21nibxaabbaxxxLinn7-30似然函数只有当 a xi b,i=1,2,n 时才能获得最大值,且 a 越大,b 越小,L 越大.令xmin=min x1,x2,xnxmax=max x1,x
12、2,xn取maxmin,xbxa则对满足bxxamaxmin的一切 a b,nnxxab)(1)(1minmax7-31都有故maxmin,xbxa是 a,b 的极大似然估计值.,max,min21max21minnnXXXXXXXX分别是 a,b 的极大似然估计量.7-32 问问 题题1)待估参数的极大似然估计是否一定存在待估参数的极大似然估计是否一定存在?2)若存在若存在,是否惟一是否惟一?设 X U(a ,a+),x1,x2,xn 是 X的一个样本,求 a 的极大似然估计值.解解 由上例可知,当2121maxminaxxa时,L 取最大值 1,即2121minmaxxax显然,a 的极大
13、似然估计值可能不存在,也可能不惟一.7-33例例9 9不仅如此,任何一个统计量21),(21)1(21)(xxxxgxnn),(21nXXXg若满足都可以作为 a 的估计量.7-34极大似然估计的不变性极大似然估计的不变性设设 是是 的极大似然估计值的极大似然估计值,u()()是是 的函数的函数,且有单值反函数且有单值反函数 =(u),u U 则则 是是 u()的极大似然估计值的极大似然估计值.)(uu 7-35如如 在正态总体N(,2)中,2的极大 似然估计值为2211()niixxn2是 2的单值函数,且具有单值反函数，故 的极大似然估计值为211()niixxnlg 的极大似然估计值为2
14、11lglg()niixxn7-36q 特殊方法特殊方法 （对正态总体参数的特殊估计）（对正态总体参数的特殊估计）用子样中位数作为总体期望的估计用子样极差的函数作为总体均方差的估计mendR/)(Nn)102(nnd值查表2-1（P.41）nXXX,21.di i.),(2N设若me是nXXX,21的中位数,则对任意有x.21)(2lim22xndtexmenPtmen2)1,0(N近似近似即当 较大时，nme)2/(,(nN近似近似所以，当 较大时可取n.me定理设总体设总体,)(ndRE.),(2N为子样极差，则为子样极差，则R.)(22nvRD,)/(ndRE./)/(222nnndvd
15、RD由上可见：由上可见：,估计估计产生平均平方产生平均平方,/222nndv误差为误差为ndR/用用,/nndv标准差为标准差为其其系数系数nndv/可查表可查表 2-1（P.41）)102(n10n当当时时,将子样数据等分成若干组将子样数据等分成若干组,每每组数据不超过组数据不超过10个个,取各组极差的平均取各组极差的平均,R然后用然后用R估计估计.查查 时，时，nd/1n取每一组中数据的个数取每一组中数据的个数.例例1010 设一批机器零件毛坯的重量服从正态分布,随机抽取10件,得子样(单位kg):210,243,185,240,215,228,196,235,200,199解解),()1
16、0()2()1(xxx将子样由小到大重排)243,240,235,228,215,210,200,199,196,185(用不同方法估计总体的参数值.1.217 x矩215)6(xme特75.1909.390smle58)1()10(xxR其中其中84.183249.058/10dR特3249.0/110d误差误差1.2误差误差91.0查表查表 2-1 某班某班50名学生概率考试成绩如下名学生概率考试成绩如下：75 65 80 81 92 63 77 79 54 9885 72 66 84 83 60 82 78 64 9081 78 76 86 68 76 73 71 88 8765 57
17、46 89 78 66 87 79 84 7896 88 67 38 67 75 83 82 68 85例例1111若认为学生成绩总体若认为学生成绩总体.),(2NX试用试用特殊方法估计总体的参数值特殊方法估计总体的参数值.解解1 75 65 80 81 92 63 77 79 54 982 85 72 66 84 83 60 82 78 64 903 81 78 76 86 68 76 73 71 88 874 65 57 46 89 78 66 87 79 84 785 96 88 67 38 67 75 83 82 68 85R44302043584.385/)5843203044(R组组成成 绩绩将数据等分为将数据等分为5 5组组.78)26(xme特.476.123249.04.38/10dR特8.7550/3790501501iixx矩5012222501iixxs矩9.198.7554.57652.46.49.19s矩 结结 论论 一般矩法一般矩法 与最大似与最大似 然法优于然法优于 特殊方法特殊方法 7-39作业 P.76 第二章 4 6 8 10
