第八章-参数估计与Matlab讲解课件.ppt

1、总体所服从的分布类型已知总体所服从的分布类型已知/未知未知估计总体中未知的参数估计总体中未知的参数参数参数估计估计抽样抽样设样本值是设样本值是:1.65 1.67 1.68 1.78 1.69:1.65 1.67 1.68 1.78 1.69 估计估计 为为1.68，这是这是点估计点估计.这是这是区间估计区间估计.估计估计 在区间在区间1.65,1.78内，内，假如我们要估计某队男生的平均身高假如我们要估计某队男生的平均身高.现从该总体选取容量为现从该总体选取容量为5的样本的样本.参数估计参数估计点估计点估计区间估计区间估计参数估计问题参数估计问题一、点估计的概念一、点估计的概念二、矩估计法二

2、、矩估计法第一章第一章 点点 估估 计计三、最大似然估计法三、最大似然估计法的的形形式式为为已已知知，的的分分布布函函数数设设总总体体);(xFX是是的一个样本，的一个样本，是是nnxxXXX11点估计问题：点估计问题：，用它的，用它的构造一个适当的统计量构造一个适当的统计量),(1nXX 。估计值估计值为为；称；称估计量估计量的的为为我们称我们称 ),(),(11nnxxXX一、点估计的概念一、点估计的概念是待估参数。是待估参数。相相应应的的样样本本值值。来来估估计计未未知知参参数数观观察察值值 ),(1nxx 常用的求点估计量的方法有：矩估计法、最大常用的求点估计量的方法有：矩估计法、最大

3、似然估计法。似然估计法。二、矩估计法二、矩估计法 用样本矩来估计总体矩用样本矩来估计总体矩,用样本矩的连续函数来用样本矩的连续函数来估计总体矩的连续函数估计总体矩的连续函数,这种估计法称为这种估计法称为矩估计法矩估计法.它是基于一种简单的它是基于一种简单的“替换替换”思想思想建立起来的一种估计方法建立起来的一种估计方法 .是英国统是英国统计学家计学家K K.皮尔逊皮尔逊最早提出的。最早提出的。矩估计的基本思想是用矩估计的基本思想是用样本矩样本矩估计估计总体矩总体矩.即111niiAXXn2211niiAXn1()E X22()E X11A22A例例 1 设某炸药厂一天中发生着火现象的次数设某炸

4、药厂一天中发生着火现象的次数X服从服从（用用矩矩法法）。试试估估计计参参数数未未知知，有有以以下下样样本本值值；的的泊泊松松分分布布，参参数数为为 250126225490756543210knkk次着火天数次着火天数发生发生着火的次数着火的次数解：解：则则 1A 1)(XE niiXn11X)16901750(2501 x22.1 解解:由矩估计法由矩估计法,)(XE从中解得从中解得 的矩估计的矩估计.即为即为 例例2 设总体设总体X的概率密度为的概率密度为 其其它它,010,)(1xxxf 是未知参数是未知参数,其中其中0 X X1 1,X X2 2,X Xn n是取自是取自X X的样本的

5、样本,求参数求参数 的矩估计的矩估计.)(XE1 xx1 dx 10dxx 101 1 X XX 1 1 1A )(1)(XEXE 即即求矩估计的一般步骤是：求矩估计的一般步骤是：1.1.求数学期望求数学期望)(XE2.2.解方程解方程)()(gXE 求出求出 3.将将 换成换成 ，)(XEX得到得到 是是一一个个样样本本；未未知知，又又设设，但但都都存存在在，且且，方方差差的的均均值值设设总总体体例例nXXX,0.3122 的的矩矩估估计计量量。求求：2,解：解：即即 解解出出 2 2 1)(XE )(2XE2)()(XEXD 22 1AX 212AA 2121XXnnii 21)(1XXn

6、nii 2 222A 1 1A 由1A2A总体均值和方差矩估计：总体均值和方差矩估计：11niixxn 2211()niiBxxn Matlab命令：命令：mean（X），），var（x,1）例例4 设总体有均值设总体有均值 及方差及方差 ，今有，今有6个随机样本的观察数个随机样本的观察数据为：据为：-1.20 0.82 0.12 0.45 -0.85 -0.30求求 和和 的矩估计。的矩估计。2 2 Matlab命令求解：命令求解：x=-1.20 0.82 0.12 0.45 -0.85-0.30;mean(x)ans=-0.1600 var(x,1)ans=0.498011niixxn 2

7、211()niiBxxn 例例5 5 有一大批糖果，现从中抽取有一大批糖果，现从中抽取1616袋，秤得重量（单位：克）袋，秤得重量（单位：克）如下：如下：506506、508508、499499、503503、504504、510510、497497、512512、514514、505505、493493、496496、506506、502502、509509、496496。若袋装糖果的重量近。若袋装糖果的重量近似服从正态分布似服从正态分布 N(N(,2 2)，,2 2 未知。求未知。求,2 2的的矩估计值。矩估计值。11niixxn 2211()niiBxxn 输入：输入：x=506 508

8、 499 503 504 510 497 512 514 x=506 508 499 503 504 510 497 512 514 505 493 496 506 502 509 496;505 493 496 506 502 509 496;m=mean(x)m=mean(x)；v=v=varvar(x,1);(x,1);A=A=m,vm,v 输出：输出：A=A=503.7500 36.0625 503.7500 36.0625例例6 用用MatlaMatla计算计算 的矩估计值：的矩估计值：输入：输入：x=0.14 0.20 0.17 0.19 0.21 0.23 0.16 x=0.14

9、 0.20 0.17 0.19 0.21 0.23 0.16 0.20 0.25 0.190.20 0.25 0.19 m=mean(x)m=mean(x)y=m/(1-m)y=m/(1-m)输出：输出：m=m=0.1940 0.1940 y=y=0.2407 0.2407即即 的矩估计值的矩估计值 0.2407 0.2407。1XX 它首先是由德国数学它首先是由德国数学家家斯斯在在1821年提出的年提出的,GaussFisher然而，这个方法常归功然而，这个方法常归功于英国统计学家于英国统计学家费歇费歇.费歇费歇在在1922年重新发年重新发现了这一方法，并首先研现了这一方法，并首先研究了这种

10、方法的一些性质究了这种方法的一些性质.三、最大似然估计法三、最大似然估计法)(,21 Lxxxn选取使似然函数选取使似然函数时时得到样本值得到样本值,的估计值的估计值作为未知参数作为未知参数取得最大值的取得最大值的 ).;,(max);,(2121 nnxxxLxxxL 即即)(可能的取值范围可能的取值范围是是其中其中 ),(,2121nnxxxxxx 记为记为有关有关与样本值与样本值这样得到的这样得到的),(21nXXX,的最大似然估计值的最大似然估计值参数参数.的最大似然估计量的最大似然估计量参数参数 最大似然估计法的思想：最大似然估计法的思想：属离散型属离散型设总体设总体 X)1(,),

11、;(为待估参数为待估参数设分布律设分布律xpkXP,21的样本的样本是来自总体是来自总体 XXXXn.);(,121 niinxpXXX 的联合分布律为的联合分布律为则则似然函数的定义似然函数的定义)(可能的取值范围可能的取值范围是是其中其中 ,2121的概率的概率取到观察值取到观察值则样本则样本nnxxxXXX发生的概率为发生的概率为即事件即事件nnxXxXxX ,2211,),;();,()(121 niinxpxxxLL.)(称为样本似然函数称为样本似然函数 L.,2121一个样本值一个样本值的的为相应于样本为相应于样本又设又设nnXXXxxx属连续型属连续型设总体设总体 X)2(,),

12、;(为待估参数为待估参数设概率密度为设概率密度为xf,21的样本的样本是来自总体是来自总体 XXXXn.);(,121 niinxfXXX 的联合密度为的联合密度为则则似然函数的定义似然函数的定义)(可能的取值范围可能的取值范围是是其中其中 .,2121一个样本值一个样本值的的为相应于样本为相应于样本又设又设nnXXXxxx概率近似地为概率近似地为的的内内维立方体维立方体的的边长分别为边长分别为邻域邻域的的落在点落在点则随机点则随机点)d,d,d(),(),(212121nxxxxxxXXXnnn,d);(1iniixxf ),;();,()(121 niinxfxxxLL.)(称为样本的似然

13、函数称为样本的似然函数 L求最大似然估计量的步骤求最大似然估计量的步骤:;);();,()();();,()()(121121 niinniinxfxxxLLxpxxxLL或或写出似然函数写出似然函数一一;);(ln)(ln);(ln)(ln )(11 niiniixfLxpL或或取对数取对数二二.,0d)(lnd,d)(lnd )(的最大似然估计值的最大似然估计值解方程即得未知参数解方程即得未知参数并令并令求导求导对对三三 LL 最大似然估计法也适用于分布中含有多个最大似然估计法也适用于分布中含有多个未知参数的情况未知参数的情况.此时只需令此时只需令.,2,1,0lnkiLi .),2,1(

14、,iikik 的最大似然估计值的最大似然估计值数数即可得各未知参即可得各未知参个方程组成的方程组个方程组成的方程组解出由解出由 对数似然方程组对数似然方程组对数似然对数似然方程方程.,),1(21的最大似然估计量的最大似然估计量求求个样本个样本的一的一是来自是来自设设pXXXXpBXn,2121一个样本值一个样本值的的为相应于样本为相应于样本设设nnXXXxxx解解,1,0,)1(1 xppxXPXxx的分布律为的分布律为似然函数似然函数iixnixpppL 11)1()(,)1(11 niiniixnxpp例例7),1ln(ln)(ln11pxnpxpLniinii ,01)(lndd11

15、pxnpxpLpniinii令令的最大似然估计值的最大似然估计值解得解得 p.11xxnpnii 的最大似然估计量为的最大似然估计量为p.11XXnpnii 这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.,0)(21似然估计量似然估计量的最大的最大求求的一个样本的一个样本是来自是来自的泊松分布的泊松分布服从参数为服从参数为设设 XXXXXn 解解的分布律为的分布律为因为因为X),2,1,0(,e!nxxxXPx niixxLi1e!)(,!e11 niixnxnii 的似然函数为的似然函数为所以所以 例例8 ,!ln)(ln11 niiniixxnL ,0)(lndd1 niixn

16、L令令的最大似然估计值的最大似然估计值解得解得,11xxnnii 的最大似然估计量为的最大似然估计量为.11XXnnii 这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.,),(22122的最大似然估计量的最大似然估计量和和求求的一个样本值的一个样本值是来自是来自为未知参数为未知参数设总体设总体 XxxxNXn解解的概率密度为的概率密度为X,e21),;(222)(2 xxfX 的的似然函数为似然函数为,e21),(222)(12 ixniL例例9,)(21ln2)2ln(2),(ln12222 niixnnL ,0),(ln,0),(ln222 LL令令,0112 niinx ,0

17、)()(21212222 niixn 解得解得由由0112 niinx ,11xxnnii 解得解得由由0)()(21212222 niixn ,)(1212xxnnii 为为的最大似然估计量分别的最大似然估计量分别和和故故2 ,X .)(1212XXnnii 它们与相应的矩它们与相应的矩估计量相同估计量相同.二项分布：二项分布：PHAT,PCI=binofit(X,N,alpha)泊松分布：泊松分布：Lambdahat,Lambdaci=poissfit(X,alpha)均匀分布：均匀分布：ahat,bhat,ACI,BCI=unifit(X,alpha)指数分布：指数分布：muhat,mu

18、ci=expfit(X,alpha)求极大似然估计的求极大似然估计的Matlab命令：命令：正态分布：正态分布：muhat,sigmahat,muci,sigmaci=normfit(X,alpha)例例10 从某厂生产的一种钢球中随机抽取从某厂生产的一种钢球中随机抽取7个，测得它们的直径个，测得它们的直径（单位：（单位：mm）为）为5.52 5.41 5.18 5.32 5.64 5.22 5.76。若钢球。若钢球直径服从正态分布直径服从正态分布 ，求这种钢球平均直径，求这种钢球平均直径 和方差和方差 的极大似然估计值和置信度为的极大似然估计值和置信度为0.95的置信区间。的置信区间。2(,

19、)N 解：解：x=5.52 5.41 5.18 5.32 5.64 5.22 5.76;mu,sigma,muci,sigmaci=normfit(x,0.05)muhat,sigmahat,muci,sigmaci=normfit(X,alpha)输出：输出：mu=5.4357sigma=0.2160muci=5.2359 5.6355sigmaci=0.1392 0.4757即这种钢球平均直径为即这种钢球平均直径为5.4357，方差为，方差为0.2160，平均直，平均直径的置信区间为径的置信区间为5.2359，5.6355，方差的置信区间为，方差的置信区间为0.1392，0.4757。例例

20、11 为估计制造某种产品所需的单件平均工时为估计制造某种产品所需的单件平均工时(单位：小时单位：小时)，现制造现制造8件，记录每件所需工时如下：件，记录每件所需工时如下：10.5 11 11.2 12.5 12.8 9.9 10.8 9.4。设制造单件产品所需工时服从指数分布，求平。设制造单件产品所需工时服从指数分布，求平均工时均工时 的极大似然估计和的极大似然估计和95%的置信区间。的置信区间。解解：x=10.5 11 11.2 12.5 12.8 9.9 10.8 9.4;MU,MUCI=expfit(x,0.05)输出：输出：MU=11.0125MUCI=6.1084 25.5079例例

21、12 12 某电子管的使用寿命某电子管的使用寿命(从开始用到初次失效为止从开始用到初次失效为止)服服从指数分布从指数分布(，今抽取一组样本，具体数据如下：，今抽取一组样本，具体数据如下：16 29 50 68 100 130 140 27016 29 50 68 100 130 140 270 280 280 340 410 450 520 620 190 210340 410 450 520 620 190 210 800 800 11001100，求，求的极大似然估计值？的极大似然估计值？输入：输入：x=16 29 50 68 100 130 140 270 x=16 29 50 68 100 130 140 270 280 340 410 450 520 620 190 210 280 340 410 450 520 620 190 210 800 1100800 1100；muhatmuhat=expfitexpfit(x(x，0.050.05)输出：输出：muhatmuhat=503.7500=503.7500点估计点估计:矩估计矩估计 极大似然估计极大似然估计