第四章多元回归分析：推断课件.ppt

1、第四章第四章 多元回归分析：推断多元回归分析：推断受教育年限与每小时工资0.01440.7241yx 如果受教育年限的单位为月0.0144(0.7241/12)(12)0.01440.0603yxz 0.0144(0.7241/365)(365)0.01440.0020yxw 如果受教育年限的单位为日OLS估计量的抽样分布估计量的抽样分布高斯高斯-马尔科夫假定马尔科夫假定假定假定1：关于参数线性：关于参数线性 y=0+1 x1+2 x2+k xk+u假定假定2：随机抽样：随机抽样假定假定3：不存在完全共线性：不存在完全共线性假定假定4：零条件均值：零条件均值 E(u|x1,x2,xk)=0假定

2、假定5：同方差性：同方差性 Var(u|x1,xk)=2OLS估计量是估计量是BULUE 线性性、无偏性、最小方差性线性性、无偏性、最小方差性CLM假定假定高斯高斯-马尔科夫假定马尔科夫假定假定假定6 6：正态性：正态性 u N(0,2)CLM假定下，y的条件分布：y=0+1x1+2x2+kxk+u y|x N(0+1x1+2x2+kxk,2)在在CLM假定下，假定下，OLS估计量估计量 的抽样分布是什么？的抽样分布是什么？j线性性线性性 服从正态分布服从正态分布j无偏性无偏性 的期望为的期望为jj方差方差22Var()=(1-)jjjSSTR 定理定理4.14.1：CLM假定下，以自变量假定

3、下，以自变量x为条件，有为条件，有,Var()jjjN(0,1)sd()Var()jjjjjjN检验单参数假设：检验单参数假设：t检验检验H0：1=0 H1：10 零假设与备择假设)1,0(21211NxxZii构造统计量0受教育年限与每小时工资01iiiyxu(0,1)sd()jjjN Z检验 Z检验与t检验(0,1)sd()jjjN2sd()=(1-)jjjSSTR 定理定理4.24.2：标准化估计量的：标准化估计量的t分布分布 CLM假定下，以自变量假定下，以自变量x为条件，有为条件，有(1)se()jjjt nk2se()=(1-)jjjSSTR 显著性检验（显著性检验（t检验）检验）

4、原假设（原假设（null hypothesis）：）：例子：例子：原假设（H0:3=0）意味着，教育水平和工作经验相同时，男性和女性的工资没有差异。log(wage)=0+1 educ+2exper+3female+u 对于一元回归，斜率系数的显著性检验：y=0+1x+u 原假设（H0:1=0）意味着什么？H0：j=0 原假设与备择假设（原假设与备择假设（alternative hypothesis）如原假设不成立，该如何：双侧备择假设：相应的检验为双侧检验双侧检验（two-tailed test)单侧备择假设：或者 相应的检验为单侧检验单侧检验（one-tailed test)H0：j=0

5、H1：j0 H0：j=0 H1：j0H0：j=0 H1：j0 备择假设：左侧是拒绝域。H1：j0 se()se()jjjjjjt y=0+1x1+2x2+kxk+u若若 ，拒绝，拒绝H0，xj对对y的影响是统计显著的。的影响是统计显著的。(1)jttnk(1)jttnk若若 ，不能拒绝，不能拒绝H0，xj对对y的影响统计上不显著。的影响统计上不显著。若原假设和备择假设为：统计量的计算相同，判定规则不同：单侧检验和双侧检验的比较：t统计量的计算及其数值完全相同，临界值不同；查临界值时，t分布自由度相同，但如果显著水平为，双侧检验使用/2，单侧检验使用；同样的显著水平下，单侧检验更容易拒绝原假设，

6、得出 自变量统计显著的结论。H0：j=0 H1：j0.05，接受原假设t(n-k-1)-t0.025t0.025p/20tp值0.05，接受原假设t(n-k-1)t0.05p0tp值0若对于（H0：j=0 H1：j0），应如何计算？将给定的显著性水平将给定的显著性水平 与与p值比较：值比较：若若p值值 ，则在显著性水平，则在显著性水平 下拒绝原假设下拒绝原假设若若p值值 ，则在显著性水平，则在显著性水平 下不能拒绝原假设下不能拒绝原假设这一准则对于所有的检验都适用这一准则对于所有的检验都适用用语的提醒不能拒绝=接受？经济或实际显著性与统计显著性经济或实际显著性取决于参数估计值的大小（及符号）统

7、计显著性取决于t统计量的值样本很大的情况下，标准差很小，此时容易出现统计显 著而经济意义上不显著的情况使用较小的显著水平样本较小时，标准差较大，容易出现不显著的情况 使用较大的显著水平养老金计划的参与率 其他问题其他问题培训津贴对企业废品率的影响hrsemp显著吗？需要多大的显著水平？多重共线性与统计显著性多重共线性与统计显著性回归参数估计量的方差变大回归参数估计量的方差变大多重共线性多重共线性使得使得t 统计量的值（统计量的值（）变小）变小()tS 接受接受H0:0（不显著）的概率增大（不显著）的概率增大 重要的解释变量被舍去，检验失去意义重要的解释变量被舍去，检验失去意义置信区间置信区间由

8、于：由于：se()jjj由大括号内不等式表示置信水平为由大括号内不等式表示置信水平为1-时时 j的的置信区间：置信区间：/2/2se()se()1jjjjjPtt 得：得：/2/2se(),se()jjjjjttP t/2 =1-t/2 0 t/2 (1.082.045 0.06,1.082.045 0.06)(0.96,1.21)研发支出模型研发支出模型2log()4.38 1.08log()0.022arg (0.47)(0.06)(0.022)=32 R=0.918rdsalesprofmn，log(sales)系数的置信区间：考虑柯布道格拉斯生产函数模型：Q=AKL对数化处理后，建立相

9、应的计量模型为：ln Q=lnA+lnK+lnL+u关于规模报酬不变的原假设可以表示为：H0：+=1 H1：+1 如何通过模型变换，利用如何通过模型变换，利用t检验对上述假设进行检验？检验对上述假设进行检验？检验关于参数的单个线性组合假设检验关于参数的单个线性组合假设定义参数：原假设变换为：t统计量：其中 =+H0：=1 H1：11se()t=+se()=se()=Var()Var()+2Cov(,)能否直接将作为模型参数进行估计？原模型变换为:ln Q=lnA+lnK+(-)lnL+u 即：=+=-lnQ=lnA+ln(K/L)+lnL+u若定义参数：l原假设变为标准的显著性检验：l应如何对

10、模型进行变换？=+-1H0：=0 H1：1任意关于参数单个线性单个线性组合的检验都可以同样处理！多受一年专科教育的回报比得上多一年本科教育吗？将“待检验的理论”转化为关于参数的假设：定义参数1=1-2，原假设为变换后的模型：ln(wage)=0+1 jc+2univ+3exper+uH0：1=2 H1：1 2H0：1=0 H1：1 0 ln(wage)=0+1 jc+2totcoll+3exper+utotcoll=jc+univ估计结果：5%显著水平下，能认为专科和本科的教育回报相同吗？若令2=2-1：原假设和备择假设是什么？给出变换后的模型形式。能直接给出模型的估计结果吗？结论会发生变化吗

11、？对于多元回归模型：y=0+1 x1+2 x2+k xk+u若自变量x1、x2、xk都无助于解释y，意味着什么？原假设和备择假设：如何检验？若原假设成立，SSE相对于SSR将很小？多个线性约束的检验：多个线性约束的检验：F检验检验H0：1=2=k=0（或R2=0）H1：j(j=1,2,k)不全为零SST=SSE+SSR计算F统计量：或者给定显著性水平，查找临界值进行判断：若：FF，拒绝原假设H0 认为至少有某些自变量能够解释y。/(,-1)/(1)SSE kFF k n-kSSRnk22/(1)/(1)RkFRnk 多重共线性的典型表现多重共线性的典型表现 当模型的拟合优度（当模型的拟合优度（

12、R2）很高，）很高，F值很高，但某些重要变量不值很高，但某些重要变量不显著或符号与预期相反（方差很大，显著或符号与预期相反（方差很大，t值很低），说明解释变量间值很低），说明解释变量间可能存在多重共线性。可能存在多重共线性。例如：中国电信业务总量变化的影响因素是邮政业务总量、中国人口数、市镇人口占总人口的比重、人均GDP、全国居民人均消费水平。y=24.94+2.16 x1 3.03 x2+33.7 x3+1.29 x4-2.03 x5+et (0.7)(1.6)(-0.8)(1.0)(1.5)(-1.2)R2=0.99,F=106.3棒球运动员薪水模型：若控制加入联盟的年份和每年参加比赛次数

13、，运动员的 表现影响薪水吗？原假设和备择假设：排除性约束：若原假设为真，控制其他变量的情况下，其对被解释变 量没有影响，应该从模型排除！ln(salary)=0+1 years+2gamesyr+3bavg+4hrunsyr+5rbisyr+uH0：3=4=5=0 H1：3、4和 5不全为零如何检验？不能通过单个系数的显著性检验实现！模型中某些变量不显著可能是多重共线性造成的，其中某个变量排除后，消除了共线性，其他不显著的变量可能会变得显著。考虑两种模型：不受约束模型：受约束模型，即认为原假设成立原假设成立时的模型：若原假设真的成立，即 ，不受约束模 型和受约束模型的估计结果应该差异不大，两者

14、的残差平方和（SSR）应该比较接近若原假设不成立，受约束回归模型设定错误，两者的SSR差距较大受约束模型的残差平方（SSRr）和一定不小于不受约束 模型的残差平方和（SSRur），即 SSRr SSRur，为什么？ln(salary)=0+1 years+2gamesyr+3bavg+4hrunsyr+5rbisyr+u ln(salary)=0+1 years+2gamesyr+u 3=4=5=0 一般情形：y=0+1 x1+2 x2+k xk+u原假设和备择假设：受约束模型：y=0+1 x1+2 x2+k-q xk-q+uF统计量：H0：k-q+1=k=0 H1：j(j=k-q+1,k)不

15、全为零()/(,-1)/(1)rururSSRSSRqFF q n-kSSRnk分子自由度q：原假设中约束条件个数原假设中约束条件个数 分母自由度n-k-1：无约束模型的自由度无约束模型的自由度F统计量的另一种形式给定显著性水平，查找临界值进行判断：若：FF，拒绝原假设H0 xk-q+1、xk是联合显著的。222()/(,-1)(1)/(1)urrurRRqFF q n-kRnk 不受约束模型 受约束模型(198.311 183.186)/39.55183.186/(3536)F运动员的表现影响薪水吗？F统计量和t统计量若原假设是单个参数约束，如 F检验和t检验的结论会一致吗？完全一致，因为：

16、区别：t检验可用于检验单侧单侧对立假设，F检验不行 对于单个参数约束，建议使用t检验l问题4.5（p143）H0：j=0 H1：j0(1)Zt nk2(1,1)ZFnk对于模型：y=0+1 x1+2 x2+k xk+u原假设和备择假设：受约束模型：将约束条件施加到模型参数中不受约束模型：原始模型F统计量：H0：参数满足q个约束条件 H1：q个约束条件不全部成立()/(,-1)/(1)rururSSRSSRqFF q n-kSSRnk住房价格的决定方程：若住房评估理性，则住房出售价格完全决定于其评估价 值，评估价值既定时，建筑面积、使用面积和房间数应 该对住房价格没有影响。住房评估理性吗？原假设

17、和备择假设：ln(price)=0+1 log(assess)+2log(lotsize)+3log(sqrft)+4bdrms+uH0：1=1，2=3=4=0 H1：约束条件不全成立不受约束回归：受约束回归 如何回归？F统计量 ln(price)=0+log(assess)+u ln(price)=0+1 log(assess)+2log(lotsize)+3log(sqrft)+4bdrms+u()/4(4,5)/(5)rururSSRSSRFFn-SSRn规模报酬不变检验 ln Q=lnA+lnK+lnL+u原假设和备择假设：H0：+=1 H1：+1 受约束回归的形式？p值=P(F F)

18、F值p值将给定的显著性水平将给定的显著性水平 与与p值比较：值比较：若若p值值 ，则在显著性水平，则在显著性水平 下拒绝原假设下拒绝原假设若若p值值 ，则在显著性水平，则在显著性水平 下不能拒绝原假设下不能拒绝原假设教师工资和福利间的替换关系报告回归结果报告回归结果 ln(总收入)=f(生产力因素，其他因素)+=1+福利总收入工资 福利 工资工资ln(ln(ln 1+ln(福利福利总收入)=工资)+工资)+工资工资 ln(salary)+b/s=f(enroll,staff,droprate,gradrate)ln(salary)=0+1(b/s)+2ln(enroll)+5gradrate+u检验工资福利替代关系，即检验H0：j=-1 H1：j-1