1、 xxx1第11讲1谢谢观赏谢谢观赏2019-8-23参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断 DE基本基本问题问题7-22谢谢观赏谢谢观赏2019-8-23什么是参数估计？什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量. .当此数量未知时当此数量未知时, ,从总体抽出一个样本，从总体抽出一个样本，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计. .例如，例如，X N ( , 2), 点估计点估计区间估计区间估计若若 , 2未知未知, 通过构造样本的函数通过
2、构造样本的函数, 给出给出它们的估计值或取值范围就是参数估计它们的估计值或取值范围就是参数估计的内容的内容.3谢谢观赏谢谢观赏2019-8-23参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围， 并使此范围包含未知参数并使此范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.4谢谢观赏谢谢观赏2019-8-237.1 点估计方法点估计方法点估计的思想方法点估计的思想方法设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：1,2, ,k设 X1, X2, Xn为总体的一个样本构造 k 个统计
3、量：),(),(),(21212211nknnXXXXXXXXX随机变量7-55谢谢观赏谢谢观赏2019-8-23当测得样本值(x1, x2, xn)时,代入上述方程组，即可得到 k 个数：),(),(),(21212211nknnxxxxxxxxx数 值称数1,k为未知参数1,k的估计值7-6对应统计量 为未知参数的估计量1,k并建立k个方程。6谢谢观赏谢谢观赏2019-8-23三种常用的点估计方法三种常用的点估计方法q 频率替换法频率替换法利用事件A 在 n 次试验中发生的频率/Ann作为事件A 发生的概率 p 的估计量pnnpA7-77谢谢观赏谢谢观赏2019-8-23例例1 1 设总体
4、X N ( , 2 ), 在对其作28 次 独立观察中, 事件 “X 4” 出现了21 次, 试用频率替换法求参数 的估计值.解解 由75. 02821)24() 4(XP675. 024查表得于是 的估计值为045. 37-88谢谢观赏谢谢观赏2019-8-23 方法方法用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数7-9一般, 不论总体服从什么分布, 总体期望 与方差 2 存在, 则它们的矩估计量分别为11niiXXn2122)(1nniiSXXnq 矩法矩法 9谢谢观赏谢谢观赏2019-8-237-10事实上，按矩法原理，令niiXnX11)(1
5、2122XEXnAniiX)()(222XEXE22 A2211niiXXn212)(1nniiSXXn10谢谢观赏谢谢观赏2019-8-237-11设待估计的参数为k,21设总体的 r 阶矩存在，记为),()(21krrXE样本 X1, X2, Xn 的 r 阶矩为nirirXnB11kr, 2 , 1令),(21krniriXn11 含未知参数 1,2, ,k 的方程组11谢谢观赏谢谢观赏2019-8-237-12解方程组 , 得 k 个统计量：11212(,)(,)nknXXXXXX 未知参数 1, ,k 的矩估计量111212( ,)( ,)nkknx xxx xx代入一组样本值得 k
6、 个数: 未知参数 1, ,k 的矩估计值12谢谢观赏谢谢观赏2019-8-23例例2 2 设总体 X N ( , 2 ), X1, X2, Xn为 总体的样本, 求 , 2 的矩法估计量.解解X矩21221XXnnii矩例例3 3 设总体 X E(), X1, X2, Xn为总体的 样本, 求 的矩法估计量.解解()1/,E X1/.X令7-13故1/.X矩13谢谢观赏谢谢观赏2019-8-23例例4 4 设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 120
7、0试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差.解解)(1147101)(101hxxXEii10222211()6821().10iiD Xxxh7-1414谢谢观赏谢谢观赏2019-8-23例例5 5 设总体 X U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量.解解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE令22212)(baab2abX22221()1122niibaabAXn7-1515谢谢观赏谢谢观赏2019-8-23解得)( 322XAXa矩213() ,niiXXXn)(322XAXb矩213() .niiXXXn7
8、-1616谢谢观赏谢谢观赏2019-8-23q 极大似然估计法极大似然估计法 思想方法思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱, 并从箱中任取一球,结果所取得的球是白球.答答: : 第一箱. .7-17问问: : 所取的球来自哪一箱？17谢谢观赏谢谢观赏2019-8-23例例6 6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值.解解总体 X 的概率分布为1 , 0,)1 ()(1xppxXPxx 设 x1, x2, xn为总体
9、样本X1, X2, Xn的样本值,则),(2211nnxXxXxXP)()1 (11pLppniiniixnxnixi, 2 , 1, 1 , 07-1818谢谢观赏谢谢观赏2019-8-23对于不同的 p , L (p)不同, 见右下图现经过一次试验，0.20.40.60.81p0.0020.0040.0060.0080.01Lp),(2211nnxXxXxX发生了，事件则 p 的取值应使这个事件发生的概率最大.p 7-1919谢谢观赏谢谢观赏2019-8-23在容许范围内选择 p ，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大, 则这个p 必
10、使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpnii110)1 (dlnd212122pxnpxpLniinii所以xp 为所求 p 的估计值.20谢谢观赏谢谢观赏2019-8-23一般, 设 X 为离散型随机变量, 其分布律为,),()(21uuxxfxXP则样本 X1, X2, Xn的概率分布为),(2211nnxXxXxXP),(),(),(21nxfxfxf12,1,2, ,ixu uin7-21)(),(21LxxxLn记为或称 L( ) 为样本的似然函数21谢谢观赏谢谢观赏2019-8-23),(21nxxxL),(),(),(max21nxfxfxf
11、称这样得到的 ),(21nxxxg为参数 的极大似然估计值极大似然估计值称统计量),(21nXXXg为参数 的极大似然估计量极大似然估计量7-22MLE简记mle简记选择适当的 = ,使 取最大值, 即L( )极大似然法的思想22谢谢观赏谢谢观赏2019-8-23若 X 连续, 取 f (xi, )为Xi 的密度函数niixfL1),()(似然函数为7-23注注1 1注注2 2 未知参数可以不止一个, 如1, k 设X 的密度(或分布)为1( ,)kf x则定义似然函数为111( ,)( ,)nkikiLf x,1,2,ixin 1( ,)k11( ,;,)nkL xx23谢谢观赏谢谢观赏20
12、19-8-23若11( ,; ,)nkL xx关于1, , k可微,则称0),;,(2121knrxxxL为似然方程组kr, 2 , 1若对于某组给定的样本值 x1, x2, xn，参数 使似然函数取得最大值, 即k,2111( ,;,)nkL xx),;,(max2121),(21knxxxLk则称1,k为1, k 的极大似然估计值7-2424谢谢观赏谢谢观赏2019-8-23显然，),(21nrxxxgkr, 2 , 1称统计量),(21nrXXXgkr, 2 , 1为1, 2, k 的极大似然估计量7-2525谢谢观赏谢谢观赏2019-8-23例例7 7 设总体 X N (, 2), x
13、1, x2, xn 是 X 的样本值, 求 , 2 的极大似然估计.解解),;,(221nxxxLniixnne1222)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixnie7-2626谢谢观赏谢谢观赏2019-8-23xxnniimle11niimlexxn122)(1 , 2 的极大似然估计量分别为11,niiXXn212)(1nniiSXXn似然似然方程方程组为组为0)(1ln12niixL0)(2)()(21ln)(212222nxLnii7-2727谢谢观赏谢谢观赏2019-8-23极大似然估计方法极大似然估计方法1） 写出似然函数 L
14、2）求出k,21, 使得),;,(2121knxxxL),;,(max2121),(21knxxxLk7-2828谢谢观赏谢谢观赏2019-8-230),;,(2121knrxxxLkr, 2 , 1可得未知参数的极大似然估计值k,21然后, 再求得极大似然估计量.7-29 L是 的可微函数,解似然方程组1,k若若 L不是 的可微函数, 需用其它方法求极大似然估计值. 请看下例：1,k若若29谢谢观赏谢谢观赏2019-8-23例例8 8 设 X U (a,b), x1, x2, xn 是 X 的一个样本值, 求 a , b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为其它, 0,1
15、),;(bxaabbaxf似然函数为其它, 0, 2 , 1,)(1),;,(21nibxaabbaxxxLinn7-3030谢谢观赏谢谢观赏2019-8-23似然函数只有当 a xi b, i = 1,2, n 时才能获得最大值, 且 a 越大, b 越小, L 越大.令xmin = min x1, x2, xnxmax = max x1, x2, xn取maxmin,xbxa则对满足bxxamaxmin的一切 a b , nnxxab)(1)(1minmax7-31都有31谢谢观赏谢谢观赏2019-8-23故maxmin,xbxa是 a , b 的极大似然估计值.,max,min21max
16、21minnnXXXXXXXX分别是 a , b 的极大似然估计量.7-32 问问 题题1) 待估参数的极大似然估计是否一定存在待估参数的极大似然估计是否一定存在?2) 若存在若存在, 是否惟一是否惟一?32谢谢观赏谢谢观赏2019-8-23 设 X U ( a , a + ), x1, x2, xn 是 X的一个样本, 求 a 的极大似然估计值.解解 由上例可知, 当2121maxminaxxa时, L 取最大值 1, 即2121minmaxxax显然, a 的极大似然估计值可能不存在, 也可能不惟一.7-33例例9 933谢谢观赏谢谢观赏2019-8-23不仅如此, 任何一个统计量21),
17、(21)1(21)(xxxxgxnn),(21nXXXg若满足都可以作为 a 的估计量.7-3434谢谢观赏谢谢观赏2019-8-23极大似然估计的不变性极大似然估计的不变性设 是 的极大似然估计值, u( )( )是 的函数, 且有单值反函数 = (u), uU 则 是 u( ) 的极大似然估计值. )(uu 7-3535谢谢观赏谢谢观赏2019-8-23如如 在正态总体N (, 2)中, 2的极大 似然估计值为2211()niixxn2是 2的单值函数, 且具有单值反函数，故 的极大似然估计值为211()niixxnlg 的极大似然估计值为211lglg()niixxn7-3636谢谢观赏谢谢观赏2019-8-23
