1、1第三章第三章 多元线性回归模型多元线性回归模型一元线性回归模型的推广一元线性回归模型的推广2 1、研究中国的、研究中国的GDP增长增长 a.影响影响GDP增长的因素有哪些（投资、增长的因素有哪些（投资、消费、出口、货币供应量等）？消费、出口、货币供应量等）？b.GDP与各种因素关系的性质是什么？与各种因素关系的性质是什么？（增、减）（增、减）c.各影响因素与各影响因素与GDP的具体的数量关系？的具体的数量关系？d.所作数量分析结果的可靠性如何？所作数量分析结果的可靠性如何？e.今后的发展趋势怎么样？今后的发展趋势怎么样？32、中国股票价格的波动、中国股票价格的波动 股票价格变动的情况怎样（股
2、价指数）？股票价格变动的情况怎样（股价指数）？影响股票价格变动的因素是什么（资金、影响股票价格变动的因素是什么（资金、政策、政策、利率等）？利率等）？股价与各种因素的关系是什么（利空、股价与各种因素的关系是什么（利空、利多）？利多）？各种因素影响的具体数量规律是什么？各种因素影响的具体数量规律是什么？所得结果可不可靠？所得结果可不可靠？今后的发展趋势怎样？今后的发展趋势怎样？43、中国家庭汽车的市场 汽车市场状况如何（销售量）？汽车市场状况如何（销售量）？影响汽车销量的主要因素是什么（收入、影响汽车销量的主要因素是什么（收入、价格、道路状况等）？价格、道路状况等）？各种因素对汽车销量影响的性质
3、怎样各种因素对汽车销量影响的性质怎样（正、负、无）？（正、负、无）？各种因素影响汽车销量的具体数量程度？各种因素影响汽车销量的具体数量程度？以上分析所得结论是否可靠以上分析所得结论是否可靠今后发展趋势怎样？今后发展趋势怎样？5 很明显，只用一个解释变量很明显，只用一个解释变量已很难分析已很难分析,还需要寻求有更多还需要寻求有更多个解释变量情况的回归分析方法。个解释变量情况的回归分析方法。6多元线性回归分析：研究因变量（被多元线性回归分析：研究因变量（被解释变量）与两个或两个以上自变量解释变量）与两个或两个以上自变量（解释变量）之间的回归问题，称为（解释变量）之间的回归问题，称为多元回归分析。多
4、元回归分析。线性回归线性回归自变量个数自变量个数大于等于大于等于2 2多元多元线性线性回归回归7第三章 多元线性回归模型第一节第一节 多元线性回归模型概述多元线性回归模型概述第二节第二节 多元线性回归模型的参数估计多元线性回归模型的参数估计第三节第三节 多元线性回归模型的统计检验多元线性回归模型的统计检验第四节第四节 非线性模型的线性化非线性模型的线性化小结小结8一、多元线性模型一、多元线性模型 i=1,2,n 在这个模型中，在这个模型中，Y Y由由X X1 1,X,X2 2,X XK K所解释所解释，其中，其中，“斜率斜率”j j的含义是其它变量的含义是其它变量不变的情况下，不变的情况下，X
5、 Xj j改变一个单位对因变量改变一个单位对因变量所产生的影响，也称为所产生的影响，也称为偏回归系数偏回归系数。第一节第一节 多元线性回归模型及古典假定多元线性回归模型及古典假定01122iiikkiiYXXXubbbb=+鬃+9二元线性回归模型（总体）二元线性回归模型（总体）样本回归模型样本回归模型01122YXXubbb=+()01122/1,2YXXXXbbbE=+01122tYXXebbb=+01122YXXbbb=+10 与简单线性回归分析一样，多与简单线性回归分析一样，多元线性回归分析要解决的主要问元线性回归分析要解决的主要问题仍是：根据观测样本估计模型题仍是：根据观测样本估计模型
6、中的各个参数；对估计的参数及中的各个参数；对估计的参数及回归方程进行统计检验；利用回回归方程进行统计检验；利用回归模型进行预测和经济分析。归模型进行预测和经济分析。11 假定假定1 1：零均值假定：零均值假定 假定假定2 2和假定和假定3 3：同方差和无序列相关假定：同方差和无序列相关假定 假定假定4 4：随机扰动项与解释变量不相关：随机扰动项与解释变量不相关 假定假定5:5:无多重共线性假定无多重共线性假定 (多元中多元中)假定各解释变量之间不存在线性关系，或假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。各个解释变量观测值之间线性无关。假定假定6 6：正态性假定：正态性
7、假定up二、多元线性回归模型的基本假定二、多元线性回归模型的基本假定12 第二节第二节 多元线性回归模型的参数估计多元线性回归模型的参数估计 本节基本内容:普通最小二乘法（普通最小二乘法（OLSOLS）OLSOLS估计式的性质估计式的性质 随机误差项方差随机误差项方差 的估计的估计 思考题思考题2up13 一、普通最小二乘法一、普通最小二乘法（OLSOLS）最小二乘原则 剩余平方和最小：求偏导,令其为0:22min()iiieY Y=-邋2201122min()iiiikkieYXXXbbbb=-+邋2()0ijeb=140112222ii01122minQeYtYXXeXXbbbbbb=+=
8、-邋样本二元线性回归模型为：则普通最小二乘法估计参数的准则就是：（-）15011i22ii0201i11i2121i1202i11222i2i2(3)QnXXY0Q0XXX YQ0XXX YiiiiiiX XX Xbbbbbbbbbbbb+=镲=眄+=镲 镲镲=镲+=邋邋邋邋邋估计量的计算。与在一元线性回归模型估计中的原理完全一样，根据上面的式子有：这里有三个方程，三个未知数。160112221221212221212221112222212121i1i12i2i2ii()()x=XxXXyYYiiiiiiiiiiiiiiiiiiiiiiYXXx yxx yx xxxxxx yxx yx xx
9、xxxbbbbb=-=-=-=-=-邋邋邋邋邋邋邋邋式中：-X，。17P47 P47【经典实例经典实例】up18二、二、OLS估计式的性质估计式的性质 OLS估计式仍具有估计式仍具有 1.1.线性性线性性:2.2.无偏性无偏性:3.最小方差性最小方差性 结论：结论：在古典假定下，多元线性回归的在古典假定下，多元线性回归的 OLS估计式是最佳线性无偏估计式估计式是最佳线性无偏估计式 up19 三、随机误差项方差三、随机误差项方差 的估计的估计 多元回归中 的无偏估计为：T分布变换为变换：2-(1)SE()kkkktt n k=-22-ien k-1=2up20P58 练习题练习题3建立高新技术企
10、业销售额的计量建立高新技术企业销售额的计量经济模型：经济模型：01122iiYXXubbb=+212212108.32149 54.03522.9798iYXX=+-（23.152523.1525）（）（11.308811.3088）（0.81910.8191）t=(4.6783)(4.7781)(-3.6378)t=(4.6783)(4.7781)(-3.6378)23 思思 考考一元线性回归模型与多元线性回一元线性回归模型与多元线性回归模型的基本假定是否相同？归模型的基本假定是否相同？24 已知含有截距项的三元线性回归模型已知含有截距项的三元线性回归模型估计的残差平方和估计的残差平方和 ，
11、样本容量为样本容量为n=24n=24，则随机误差项的方，则随机误差项的方差估计量为差估计量为()()。A.33.33 B.40 C.38.09 D.36.36 8002teup25 第三节第三节 多元线性回归模型的检验多元线性回归模型的检验本节基本内容:拟合优度检验 回归方程的显著性检验（F检验）变量的显著性检验（t检验）up26 对于双变量线性模型对于双变量线性模型 2e其中，其中，=残差平方和残差平方和我们有我们有第一节第一节 拟合优度拟合优度一、多重可决系数一、多重可决系数R R2 222222(-)ESSTSS-RSS1-TSS(-)TSSiiiiY YeRYYy=邋邋01iiiYXu
12、bb=+27对于多元线性模型对于多元线性模型01122iiikkiiYXXXubbbb=+鬃+我们可用同样的方法定义，称为我们可用同样的方法定义，称为多重可决系数：多重可决系数：对于多元线性模型对于多元线性模型21ESSRSSRTSSTSS=-28 残差平方和的一个特点是，每当模型增加一残差平方和的一个特点是，每当模型增加一个解释变量，并用改变后的模型重新进行估计个解释变量，并用改变后的模型重新进行估计，残差平方和的值会减小。，残差平方和的值会减小。由此可以推论，拟合优度是一个与解释变量由此可以推论，拟合优度是一个与解释变量的个数有关的量：的个数有关的量：解释变量个数增加解释变量个数增加 减小
13、减小 R R2 2 增大增大也就是说，人们总是可以通过增加模型中解释也就是说，人们总是可以通过增加模型中解释变量的方法来增大变量的方法来增大 R2 的值。因此，用的值。因此，用 R2 来作来作为拟合优度的测度，不是十分令人满意的。为拟合优度的测度，不是十分令人满意的。为此，我们定义修正可决系数为此，我们定义修正可决系数 2e2R29 二、二、修正的可决系数修正的可决系数 在样本容量一定的情况下，增加解释变量在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是必定使得自由度减少，所以调整的思路是:将将残差平方和与总离差平方和分别除以各自的自残差平方和与总离差平方和分别除以各自
14、的自由度，以剔除变量个数对拟合优度的影响由度，以剔除变量个数对拟合优度的影响:其中：其中：n-k-1n-k-1为残差平方和的自由度，为残差平方和的自由度，n n-1-1为总体平方和的自由度。为总体平方和的自由度。K K为解释变量个为解释变量个数。数。2/11 /1RSS nkRTSS n-=-30如果模型增加一个没有解释能力的解释如果模型增加一个没有解释能力的解释变量，模型的残差平方和变量，模型的残差平方和RSS不会有多不会有多大的减小，却使模型待估参数的个数增大的减小，却使模型待估参数的个数增加，此时修正的可决系数不会增加，反加，此时修正的可决系数不会增加，反而减小了。而只有当模型引入有解释
15、能而减小了。而只有当模型引入有解释能力的解释变量时，修正的可决系数才会力的解释变量时，修正的可决系数才会增加。增加。2R2R2R31 变差来源变差来源 平方和平方和 自由度自由度归于回归模型归于回归模型归于剩余归于剩余总变差总变差方差分析表方差分析表2ESS()iY Y=-2TSS()iY Y=-2RSS()iiY Y=-1n-k1n-k-32 可决系数可决系数 必定非负，但修正的可决系数必定非负，但修正的可决系数 可能为负值，这时规定可能为负值，这时规定 此外：t2.4569t0.0250.025(12)=2.179(12)=2.179拒绝原假设，拒绝原假设，说明说明 1 1不等于不等于0
16、0同理同理 2 2不等于不等于0 051注意注意:在一元回归中在一元回归中F检验与检验与t检验等价检验等价,一元中：一元中：F检验：检验：H0：1=0 t检验：检验：H0：1=0但在多元回归中但在多元回归中F检验与检验与t检验作用不同。检验作用不同。521、将某公司的广告费用、将某公司的广告费用(X)与销售额与销售额(Y)的建立起一的建立起一元线性回归模型，计算的相关指标见表：元线性回归模型，计算的相关指标见表：变差变差 平方和数值平方和数值 自由度自由度回归平方和回归平方和ESS （）（）残差平方和残差平方和RSS 1540 （）总体平方和总体平方和 TSS 66042 19请回答以下问题：
17、请回答以下问题：(1)样本个数是多少？样本个数是多少？(2)求求ESS？(3)ESS 和和RSS的自由度分别是多少？的自由度分别是多少？(4)求可决系数，并说明代表的含义求可决系数，并说明代表的含义(5)检验假设：检验假设：X对对Y无影响，你用什么假设检验？在无影响，你用什么假设检验？在0.05的显著性水平下，请检验。的显著性水平下，请检验。(6)估计随机误差项的方差？估计随机误差项的方差？53练练 习习P57P57练习：课后习题三、练习：课后习题三、计算分析题计算分析题2 254补充习题55完成以下问题：完成以下问题：1写出需求量对消费者平均收入、商品写出需求量对消费者平均收入、商品价格的线
18、性回归估计方程。价格的线性回归估计方程。2解释偏回归系数的经济含义。解释偏回归系数的经济含义。3对该模型做经济意义检验。对该模型做经济意义检验。4估计调整的可决系数。估计调整的可决系数。5在在95%的置信度下对方程整体显著性的置信度下对方程整体显著性进行检验。进行检验。6在在95%的置信度下检验偏回归系数的置信度下检验偏回归系数(斜率斜率)的显著性。的显著性。up56 第四节第四节 非线性模型的线性化非线性模型的线性化57 在实际经济活动中，经济变量的关系在实际经济活动中，经济变量的关系直接表现为线性关系的情况并不多见。直接表现为线性关系的情况并不多见。如著名的如著名的恩格尔曲线恩格尔曲线表现
19、为表现为幂函数曲幂函数曲线线形式形式,宏观经济学中的宏观经济学中的菲利普斯曲线菲利普斯曲线表现表现为为双曲线双曲线形式等。形式等。但是，大部分非线性关系可通过一些简但是，大部分非线性关系可通过一些简单的数学处理，使之化为数学上的线性关单的数学处理，使之化为数学上的线性关系，从而可以运用线性回归的方法进行计系，从而可以运用线性回归的方法进行计量经济学方面的处理。量经济学方面的处理。58一、非标准线性模型的标准化 特征：特征：有线性模型的形式，但变量非完全有线性模型的形式，但变量非完全线性。线性。1、多项式函数模型、多项式函数模型2、对数模型、对数模型3、双曲线函数模型、双曲线函数模型 0111t
20、uYXbb=+01lnlntYXubb=+2012kktYXXXubbbb=+59二、非线性模型的标准线性化 特征特征：变量与参数均非线性变量与参数均非线性。如柯布如柯布-道格拉斯生产函数道格拉斯生产函数具体做法：两边取对数具体做法：两边取对数YAL Kab=lnlnlnlntYALKuab=+up60 1.多元线性回归模型是将总体回归函数描述为一多元线性回归模型是将总体回归函数描述为一 个被解释变量与多个解释变量之间线性关系的个被解释变量与多个解释变量之间线性关系的 模型。模型。2.2.多元线性回归模型中对随机扰动项多元线性回归模型中对随机扰动项u u的假定的假定:零零 均值假定、同方差假定
21、、无自相关假定、随机均值假定、同方差假定、无自相关假定、随机 扰动与解释变量不相关假定、正态性假定、无扰动与解释变量不相关假定、正态性假定、无 多重共线性假定。多重共线性假定。01122.iiippiiYX X Xu=+第三章 小结611.1.多元线性回归模型参数的最小二乘估计多元线性回归模型参数的最小二乘估计2.2.在基本假定满足的条件下，多元线性回归在基本假定满足的条件下，多元线性回归模型最小二乘估计式是最佳线性无偏估计模型最小二乘估计式是最佳线性无偏估计式。式。二、估计参数二、估计参数2minie原理：221ien ks=-621.多重可决系数的意义和计算方法：修正可决系数的作用和方法：
22、2RSS1TSSR=-2211-(1)1nRRn k-=-三、模型检验三、模型检验632.F检验是对多元线性回归模型中所有解释变量检验是对多元线性回归模型中所有解释变量联合显著性的检验，联合显著性的检验，F检验是在方差分析基础检验是在方差分析基础上进行的。上进行的。3.多元回归分析中，为了分别检验当其它解释变多元回归分析中，为了分别检验当其它解释变量不变时，各个解释变量是否对被解释变量有量不变时，各个解释变量是否对被解释变量有显著影响，需要分别对所估计的各个回归系数显著影响，需要分别对所估计的各个回归系数作作t检验。检验。ESS()(,-1)RSS(-1)kFF k n kn k=-*-(-1)SE()jjjtt n k=-64四、模型应用四、模型应用1、对偏回归系数经济含义的解释、对偏回归系数经济含义的解释2、点预测、点预测up
