1、应用多元统计分析应用多元统计分析第四章部分习题解答第四章部分习题解答2 第四章第四章 回归分析回归分析4-1 设设(1)试求参数试求参数a,b的最小二乘估计;的最小二乘估计;),0(,2,2,323321332211INbaybayay解解:用矩阵表示以上模型用矩阵表示以上模型:XbayyyYdef32132121120132111210121211201210121)(yyyYXXXba则则3 第四章第四章 回归分析回归分析)2(51)2(6122500632321323211yyyyyyyyyy(2)试导出检验试导出检验H0:a=b的似然比统计量,并指出当假的似然比统计量,并指出当假设成立
2、时,这个统计量的分布是什么设成立时,这个统计量的分布是什么?解解:样本的似然函数为样本的似然函数为)2()2()(21exp21),(2322212322baybayaybaL)2()2()(21exp21),(2322212322baybayaybaL4 第四章第四章 回归分析回归分析0)()(2123ln212222ayL2322212)2()2()(31baybayay令令可得可得似然比统计量的分母为似然比统计量的分母为.23exp)()2(),(232232baL)3()()(21exp21),(20320220123220ayayayaL当当H0:a=b=a0成立时成立时,样本的似然
3、函数为样本的似然函数为5 第四章第四章 回归分析回归分析0)3(3)()(22),(),(030201220020ayayayaLaaL0)()(2123),(ln201222220ayaL令令可得可得)3(1113210yyya令令可得可得20drf2032022012)3()()(31ayayay似然比统计量的分子为似然比统计量的分子为.23exp)()2(),(232023200aL6 第四章第四章 回归分析回归分析232320223223202200)()(),(),(VbaLaL似然比统计量为似然比统计量为以下来讨论与以下来讨论与V等价的统计量分布等价的统计量分布:233222211
4、2322212)()()(31)2()2()(31yyyyyybaybayayYXXXXIYXYXY)(31)()(3113123)(tr)(rank且,31AAAYY7 第四章第四章 回归分析回归分析因因为对称幂等阵,),(323AIXNY)1(0)(1因),1(22222AYYAXXAYY当当H0:a=b=a0成立时成立时,回归模型回归模型为为),(且,31132030def3210321IZaNYZaayyyY20320220120)3()()(31ayayay8 第四章第四章 回归分析回归分析BYYYZZZZIYaZYaZY31)(31)()(311300考虑考虑YABY)(31220
5、ZZZZXXXXAB11)()(491122563580253301经验证经验证:B-A是对称幂等阵是对称幂等阵;rank(B-A)=tr(B-A)=2-1=1;9 第四章第四章 回归分析回归分析 A(B-A)=O33 .由第三章由第三章3.1的结论的结论6知知)1()()(30)()(1因),1()(22222000222YABYZaABZaYABY相互独立.与也就是相互独立;)(与2220YABYAYY由第三章由第三章3.1的结论的结论4知知(H0:a=b成立时成立时)10 第四章第四章 回归分析回归分析)1,1()(2202FYABYAYY所以所以,1或1故,因20223VVVVV否定域
6、为否定域为fVV11 第四章第四章 回归分析回归分析4-2 在多元线性回归模型在多元线性回归模型(4.1.3)中中(p=1),试求出参数,试求出参数向量向量和和2的最大似然估计的最大似然估计.解解:模型模型(4.1.3)为为,),0(2nnINCY样本的似然函数为样本的似然函数为)()(21exp)()2(),(22222CYCYLnn)2(21)ln()2ln()()(21)ln()2ln(),(ln222222222CCCYYYCYCYLnnnn12 第四章第四章 回归分析回归分析0)()()(212ln02)(221ln22222CYCYnLCCCYL令令可得参数向量可得参数向量和和2的
7、最大似然估计为的最大似然估计为:.)()(1)(21CYCYnYCCC13 第四章第四章 回归分析回归分析4-6 称观测向量称观测向量Y和估计向量和估计向量Y的相关系数的相关系数R为为全相关系数全相关系数.即即试证明:试证明:),1其中()()()(111221niininiiiniiiynyyyyyyyyyR.)()1(残差平方和3;)()()2(;(1)21221212yyRQyyyyRyyniiniinii)()(14 第四章第四章 回归分析回归分析.11)1(1111111yYnYHnHYnYnynynnnnnii证明证明:(1)估计向量为估计向量为HYYCCCCCY1)()11这里有
8、,张成的空间1(因nnnHC(2)因因niniiiiiniiiiiniiiyyyyyyyyyyyyyyyy11211)()()()(15 第四章第四章 回归分析回归分析00)(1)()1()()1()()(1CYCCYYYyCCCYyCCYyYYYyyyynnnniiii上式第一项为上式第一项为:,)()()()()()(11222121122212niniiiniininiiiniiiyyyyyyyyyyyyyyR16 第四章第四章 回归分析回归分析.)()(12122yyniiniilUyyyyR所以所以(3)残差平方和残差平方和Q为为.)()1()1()(12222niiyyyyyyyy
9、yyRlRRllUlQ17 第四章第四章 回归分析回归分析 4-74-7 在多对多的多元线性回归模型中,给定在多对多的多元线性回归模型中,给定Ynp,Xnm,且且rank(rank(X)=)=m,C=(1,C=(1n|X).).则则 )()()()()()()(CCCYCYCYCYQ其中其中(CC)-1CY.)()()()()()()()()(CCCYCYCCCYCCCYCYCYQ证明证明:,)(OCYC因故交叉项故交叉项=O.18 第四章第四章 回归分析回归分析 4-84-8 在多对多的回归模型中,令在多对多的回归模型中,令 Q()=(Y-C)(Y-C).试证明试证明(CC)-1CY是在下列四种意义下达最小:是在下列四种意义下达最小:(1)tr(1)trQ()tr)trQ();(2)(2)Q()Q();(3)|(3)|Q()|)|Q()|)|;(4)(4)chch1 1(Q()chch1 1(Q(),其中,其中chch1 1(A)表示表示A的最大特征值的最大特征值.以上以上是是(m+1)+1)p的任意矩阵的任意矩阵.19第四章第四章 回归分析回归分析20第四章第四章 回归分析回归分析.0)()(0)(1CCCCC等号成立等号成立21第四章第四章 回归分析回归分析22第四章第四章 回归分析回归分析23第四章第四章 回归分析回归分析见附录见附录P394定理定理7.2(7.5)式式