1、第第3 3章章一元线性回归分析一元线性回归分析3.1 一元线性回归模型一元线性回归模型3.2 一元线性回归模型参数估计一元线性回归模型参数估计 3.2.1 回归系数估计 3.2.2 误差的估计残差 3.2.3 和 的分布3.3 更多假设下更多假设下OLS估计量性质估计量性质3.4 回归系数检验(回归系数检验(t-检验)检验)3.5 拟合优度拟合优度 和模型检验(和模型检验(F检验)检验)2R01一元线性回归分析3.6 用用EViews7.2进行一元线性回归进行一元线性回归3.7 假设条件的放松假设条件的放松 3.7.1 假设条件的放松(一)非正态分布误差 项 3.7.2 假设条件的放松(二)异
2、方差 3.7.3 假设条件的放松(三)非随机抽样和序 列相关 3.7.4 假设条件的放松(四)内生性 3.7.5 总结重要概念重要概念3.1 一元线性回归模型一元线性回归模型 计量经济学用回归模型来描述经济变量之间的随机关系。因变量(被解释变量)自变量(解释变量)回归模型参数(回归系数)误差项(扰动项)uXY103.1 一元线性回归模型一元线性回归模型 模型首先要保证 的变化不会引起 的变化,这称为 的外生性,否则 对 的影响不能正确确定。u假设1(零条件均值:zero conditional mean)给定解释变量,误差项条件数学期望为0,即XuXXY0)|(EXu0)(Eu3.1 一元线性
3、回归模型一元线性回归模型模型设定要以有关的经济学理论为基础。样本模型:niuXYiii,2,1,103.2 一元线性回归模型参数估计一元线性回归模型参数估计3.2.1 回归系数估计3.2.2 误差的估计残差3.2.3 和 的分布013.2 一元线性回归模型参数估计一元线性回归模型参数估计3.2.1 回归系数估计总体矩条件:样本矩条件:0)(E)E(0)(EE1010XXYuXXYu0)(0)(11011101niiiiniiiXXYnXYn3.2 一元线性回归模型参数估计一元线性回归模型参数估计3.2.1 回归系数估计uOLS估计:()u不带常数项的回归模型XYXXYYXXniiniii,)(
4、)(01211niiiniiuXXXX111211)()(回归系数估计结论:(矩估计量性质)uOLS估计的一致性(结论1)如果回归模型误差项满足假设1,上式给出 和 分别为 和 的一致估计:uOLS估计的无偏性(结论2)如果回归模型误差项满足假设1,上式给出 和 分别为 和 的无偏估计:0011100lim,limnnpp0011100)E(,)(E113.2 一元线性回归模型参数估计一元线性回归模型参数估计3.2.2 误差估计-残差 的回归拟合值(fitted value):回归残差(residual):iYniXYii,2,1,10niYYuiii,2,1,误差估计-残差结论:如果假设1满
5、足,则回归残差是回归误差的一致估计且数学期望为0(结论3)如果假设1满足,则回归残差满足:(结论4)残差平方和(Sum of Squared Residual):0)(E;iipiuuu0,011niiiniiXuuniiiniiXYu121012)(SSR3.2 一元线性回归模型参数估计一元线性回归模型参数估计3.2.3 和 的分布 由矩估计性质知 和 渐近服从正态分布,但具体方差依对误差项的假设而定。结论5:如果假设1满足,则当样本量 较大时,OLS估计 和 近似服从正态分布:0101n01),();,(20120010)()(NNaa3.3 更多假设下更多假设下OLS估计量性质估计量性质
6、假设2(同方差:homoskedasticity)给定解释变量,误差项条件方差为常数,即假设3(随机抽样:random sample)样本 是随机抽样产生的,样本之间相互独立,模型误差项 之间相互独立。2)|(VariiXuniXYii,2,1),(niui,2,1,3.3 更多假设下更多假设下OLS估计量性质估计量性质结论6:u如果假设1假设3满足,则当样本量 较大时,OLS估计 和 近似服从正态分布,方差计算公式为:n01niiniiniiXXXXXn12222121212)(,)(103.3 更多假设下更多假设下OLS估计量性质估计量性质结论7:u如果假设1假设3满足,统计量是误差项方差
7、 的无偏估计和一致估计,即 称为回归标准误(standard error of regression),记为 。2SSR2122nnunii22222lim,)(npEs3.3 更多假设下更多假设下OLS估计量性质估计量性质结论8:u如果假设1假设3满足,则当样本量 较大时,如下统计量近似服从正态分布(结论8)n)1,0(),1,0()()(11001100NstNstaa3.3 更多假设下更多假设下OLS估计量性质估计量性质结论9:u如果假设1假设3满足,OLS估计 和 为最有效估计:在 的所有线性无偏估计中,的方差最小。这称为OLS估计的马尔科夫性。0110,10,3.3 更多假设下更多假
8、设下OLS估计量性质估计量性质假设4(正态分布:normal distribution)给定解释变量 ,模型中的误差项 服从正态分布,即其中 iXiu),0(|2iiiNXu)|(Var2iiiXu3.3 更多假设下更多假设下OLS估计量性质估计量性质结论10:u如果假设1假设4满足,则(1)(2)(3)SSR与 独立,由此得出 其中,、由课本公式(3.15)给出。),();,(20120010NN)2(SSR/22n10,)2(),2(11001100ntstntst20210s1s3.4 回归系数检验(回归系数检验(t-检验)检验)估计出参数后需对模型的有效性进行检验,即检验回归系数是否显
9、著不为零。例如考虑结论10中统计量(假设1到4全部成立):ut-检验的涵义:估计参数的绝对值足够大或者标准误很小(标准误小则随机性小,估计越精确)u样本量较大时(35),t分布接近正态分布,5%置信水平下临界值接近2,因此常用统计量是否大于2作为判断系数显著与否的标准。1t)2(111ntstn3.5 拟合优度拟合优度 和模型检验(和模型检验(F检验)检验)检验 和 之间是否 具有线性关系:看 的变化能被 的变化解释多少。总平方和(total sum squared):解释平方和(explained sum squared):残差平方和(Sum of Squared Residual):2RX
10、XYYniiYY12)(TSSniiYY12)(ESSniiu12SSRTSSSSR1TSSESSR23.5 拟合优度拟合优度 和模型检验(和模型检验(F检验)检验)不带常数项的模型其相应的TSS和ESS为:F-统计量:(原假设备择假设分别为:)2RniiniiYY1212ESS,TSS)2/(RSS1/ESSnF0:H;0:H11103.5 拟合优度拟合优度 和模型检验(和模型检验(F检验)检验)结论:设模型的截距项 ,模型误差项满足假设1,则:(结论11)TSS=ESS+SSR如果假设1假设4全都满足,则上面定义的F-统计量满足:(结论12)t-检验和F-检验等价2R00)2,1(nFF3
11、.6 用用EViews7.2进行一元线性回归进行一元线性回归步骤:先建立Excel数据文件,再将数据导入EViews,建立工作文件,在数据表格界面点击菜单:ProcMake Equation,进入模型估计(Equation Estimation)对话框 在specification中依 次填入因变量、自变 量和常数项(如果没 有则不写)3.6 用用EViews7.2进行一元线性回归进行一元线性回归步骤:在估计方法设定窗口选择需要用到的估计方法 前面的步骤也可以通过主界面的QuickEstimate Equation到达 点击OK,将输出结果:3.6 用用EViews7.2进行一元线性回归进行一
12、元线性回归在结果页面点击顶端按钮Resids,将输出残差图3.6 用用EViews7.2进行一元线性回归进行一元线性回归3.6 用用EViews7.2进行一元线性回归进行一元线性回归 残差将保存在resid中,另外,在回归结果输出界面点击菜单Forecast,在弹出的对话框中Forecast name:后面的条形窗口输入变量名,将可以保存模型的拟合值。3.7 假设条件的放松假设条件的放松3.7.1 假设条件的放松(一)非正态 分布误差项3.7.2 假设条件的放松(二)异方差3.7.3 假设条件的放松(三)非随机 抽样和序列相关3.7.4 假设条件的放松(四)内生性3.7.5 总结3.7 假设条
13、件的放松假设条件的放松3.7.1 假设条件的放松(一)非正态 分布误差项 放松了假设4后,与之相关的结论10和12 不再成立,t-检验、F-检验不再成立。大样本情况下,t-统计量近似服从标准正态分布,因此可以用标准正态分布临界值进行判断。去掉假设4不影响OLS估计的一致性、无偏性和渐近正态性。3.7 假设条件的放松假设条件的放松3.7.2 假设条件的放松(二)异方差 异方差不影响OLS估计的无偏性、一致性和渐近正态性。课本(3.15)式参数估计的方差、标准误不再正确。White异方差稳健标准(Heteroskadesticity Robust Standard Errors)用Eviews 检
14、验异方差的存在并进行White稳健标准误回归3.7 假设条件的放松假设条件的放松3.7.3 假设条件的放松(三)非随机抽 样和序列相关 同异方差一样,序列相关不影响OLS估计的无偏性、一致性和渐近正态性。影响参数估计的方差和标准误。Newey-West方法(HAC:Heteroskedasticity-Autocorrelation Consistent)用Eviews 进行Newey-West回归3.7 假设条件的放松假设条件的放松3.7.4 假设条件的放松(四)内生性假设1 模型误差项和解释变量不相关0,即结论5:如果假设1满足,(1)OLS估计 和 是 和 的一致估计;(2)当样本量 较
15、大时,和 近似服从正态分布:0),(CovXu0101n01),();,(20120010)()(NNaa3.7 假设条件的放松假设条件的放松3.7.4 假设条件的放松(四)内生性 无偏性不再成立 若假设1都不能满足,则存在内生性问题,OLS不再适用。3.7 假设条件的放松假设条件的放松3.7.5 总结外生性假设是最基本的假设,是使用OLS的前提,此时OLS估计有一致性和渐进正态性。如果外生性、同方差和随机抽样假设同时成立,则OLS估计近似服从正态分布,参数估计的标准误采用(3.15)计算,并采用结论8中的统计量对参数进行t检验。如果仅外生性和随机抽样假设成立,参数估计同上,但参数方差及标准误
16、要用White方法进行调整。3.7 假设条件的放松假设条件的放松3.7.5 总结(续)如果外生性假设成立,但误差项存在异方差和序列相关,此时应当用Newey-West的HAC方法调整方差及标准误估计。例子例子3.4 3.4 奥肯定律(见课本)奥肯定律(见课本)重要概念重要概念1.线性回归模型将因变量(被解释变量)表示成自变量 (解释变量)线性函数和误差项 的和,用OLS方法估计模型的回归系数及其标准误,并对模型显著性进行检验。2.根据研究的经济问题及其样本数据来源,可以对模型误差项做出各种假设。误差项零条件均值假设是最基本的假设,即 另一种较弱的假设是解释变量的外生性假设 ,该假设保证解释变量
17、形成的线性函数 和误差项 不相互影响,从而能将 对 的影响完全通过斜率参数 反映。3.利用零条件均值假设或者外生性假设得出的矩条件,采用矩估计方法得出一元线性回归模型截距和斜率的OLS估计YXu0)|E(Xu0),Cov(XuX10uXY1XYXXYYXXniiniii,)(/)(01211重要概念重要概念4.外生性假设满足时,回归系数的OLS估计具有一致性,保证了当样本量增大时OLS估计依概率无限接近被估计参数;同时成立的还有OLS估计的渐进正态性,不管误差项服从什么分布,当样本量较大时OLS估计近似服从正态分布,为回归系数的假设检验统计量构造提供了基础。5.要对回归系数进行假设检验,OLS
18、估计的标准误计算成为关键。当误差项满足同方差和无序列相关假设时,标准误计算公式(3.15)式)较为简单;当误差项存在异方差时,需要采用White方法计算标准误,以此计算回归系数检验的t-统计量;当误差项存在异方差和序列相关时,需要采用Newey-West方法计算HAC标准误。6.除了对单个回归系数进行假设检验外,还可以采用拟合优度和模型整体检验来评价回归模型的整体拟合效果。总平方和TSS可以分解为解释平方和ESS和残差平方和SSR,拟合优度R2定义为解释平方和占总平方和的比例。模型整体检验采用F检验进行。重要概念重要概念7.在检验统计量的构造中,回归残差起着重要作用。残差可以看做误差的一致估计
19、,回归模型的OLS回归残差向量与解释变量观测值形成的向量正交,如果回归模型有截距项,则回归残差的和为0。8.需要注意的是,当模型不带截距项时,回归残差的和不为0,总平方和的分解公式以及拟合优度的定义需要重新定义。9.由于各种原因导致解释变量为内生时,回归系数的OLS估计没有一致性和渐进正态性,不能再用OLS估计方法估计模型。踏实,奋斗,坚持,专业,努力成就未来。22.11.222.11.2Wednesday,November 02,2022弄虚作假要不得,踏实肯干第一名。3:41:233:41:233:4111/2/2022 3:41:23 AM安全象只弓,不拉它就松,要想保安全,常把弓弦绷。
20、22.11.23:41:233:41Nov-222-Nov-22重于泰山,轻于鸿毛。3:41:233:41:233:41Wednesday,November 02,2022不可麻痹大意,要防微杜渐。22.11.222.11.23:41:233:41:23November 2,2022加强自身建设,增强个人的休养。2022年11月2日上午3时41分22.11.222.11.2追求卓越,让自己更好,向上而生。2022年11月2日星期三上午3时41分23秒3:41:2322.11.2严格把控质量关,让生产更加有保障。2022年11月上午3时41分22.11.23:41November 2,2022重规矩,严要求,少危险。2022年11月2日星期三3时41分23秒3:41:232 November 2022好的事情马上就会到来,一切都是最好的安排。上午3时41分23秒上午3时41分3:41:2322.11.2每天都是美好的一天,新的一天开启。22.11.222.11.23:413:41:233:41:23Nov-22务实,奋斗,成就,成功。2022年11月2日星期三3时41分23秒Wednesday,November 02,2022抓住每一次机会不能轻易流失,这样我们才能真正强大。22.11.22022年11月2日星期三3时41分23秒22.11.2谢谢大家!谢谢大家!