1、1第四章第四章 多元线性回归模型多元线性回归模型一元线性回归模型的推广一元线性回归模型的推广2 1、研究中国的、研究中国的GDP增长增长 a.影响影响GDP增长的因素有哪些（投资、增长的因素有哪些（投资、消费、出口、货币供应量等）？消费、出口、货币供应量等）？b.GDP与各种因素关系的性质是什么？与各种因素关系的性质是什么？（增、减）（增、减）c.各影响因素与各影响因素与GDP的具体的数量关系？的具体的数量关系？d.所作数量分析结果的可靠性如何？所作数量分析结果的可靠性如何？e.今后的发展趋势怎么样？今后的发展趋势怎么样？32、中国股票价格的波动、中国股票价格的波动 股票价格变动的情况怎样（股
2、价指数）？股票价格变动的情况怎样（股价指数）？影响股票价格变动的因素是什么（资金、影响股票价格变动的因素是什么（资金、政策、政策、利率等）？利率等）？股价与各种因素的关系是什么（利空、股价与各种因素的关系是什么（利空、利多）？利多）？各种因素影响的具体数量规律是什么？各种因素影响的具体数量规律是什么？所得结果可不可靠？所得结果可不可靠？今后的发展趋势怎样？今后的发展趋势怎样？43、中国家庭汽车的市场 汽车市场状况如何（销售量）？汽车市场状况如何（销售量）？影响汽车销量的主要因素是什么（收入、影响汽车销量的主要因素是什么（收入、价格、道路状况等）？价格、道路状况等）？各种因素对汽车销量影响的性质
3、怎样各种因素对汽车销量影响的性质怎样（正、负、无）？（正、负、无）？各种因素影响汽车销量的具体数量程度？各种因素影响汽车销量的具体数量程度？以上分析所得结论是否可靠以上分析所得结论是否可靠今后发展趋势怎样？今后发展趋势怎样？5 很明显，只用一个解释变很明显，只用一个解释变量已很难分析量已很难分析,还需要寻求还需要寻求有更多个解释变量情况的回有更多个解释变量情况的回归分析方法。归分析方法。6多元线性回归分析：研究因变量（被多元线性回归分析：研究因变量（被解释变量）与两个或两个以上自变量解释变量）与两个或两个以上自变量（解释变量）之间的回归问题，称为（解释变量）之间的回归问题，称为多元回归分析。多
4、元回归分析。线性回归线性回归自变量个数自变量个数大于等于大于等于2 2多元多元线性线性回归回归7第四章 多元线性回归模型第一节第一节 多元线性回归模型及其估计多元线性回归模型及其估计第二节第二节 拟合优度拟合优度第三节第三节 显著性检验显著性检验第四节第四节 实例实例8多元线性模型多元线性模型 i=1,2,n 在这个模型中，在这个模型中，Y Y由由X X2 2,X,X3 3,X XK K所解释，所解释，有有K K个未知参数个未知参数1 1、2 2、K K.其中，其中，“斜率斜率”j j的含义是其它变量不变的情况的含义是其它变量不变的情况下，下，X Xj j改变一个单位对因变量所产生的影改变一个
5、单位对因变量所产生的影响，也称为响，也称为偏回归系数偏回归系数。第一节第一节 多元线性回归模型及其估计多元线性回归模型及其估计12233.iiikkiiYXXXu9二元线性回归模型（总体）二元线性回归模型（总体）样本回归模型样本回归模型33221XXY332213,2/XXXXYteXXY3322133221XXY10与简单线性回归分析一样，多元与简单线性回归分析一样，多元线性回归分析要解决的主要问题线性回归分析要解决的主要问题仍是：根据观测样本估计模型中仍是：根据观测样本估计模型中的各个参数；对估计的参数及回的各个参数；对估计的参数及回归方程进行统计检验；利用回归归方程进行统计检验；利用回归
6、模型进行预测和经济分析。模型进行预测和经济分析。11 为什么要做基本假定为什么要做基本假定模型中有随机扰动，估计的参数模型中有随机扰动，估计的参数是随机变量，只有对随机扰动的分是随机变量，只有对随机扰动的分布作出假定，才能确定所估计参数布作出假定，才能确定所估计参数的分布性质的分布性质 只有具备一定的假定条件，所只有具备一定的假定条件，所作出的估计才具有较好的统计性质作出的估计才具有较好的统计性质,也才可能进行假设检验和区间估计也才可能进行假设检验和区间估计 12一、多元线性回归中的基本假定一、多元线性回归中的基本假定 假定假定1 1：零均值假定：零均值假定 假定假定2 2和假定和假定3 3：
7、同方差和无自相关假定：同方差和无自相关假定 假定假定4 4：随机扰动项与解释变量不相关：随机扰动项与解释变量不相关 假定假定5:5:无多重共线性假定无多重共线性假定 (多元中多元中)假定各解释变量之间不存在线性关系，或假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。各个解释变量观测值之间线性无关。假定假定6 6：正态性假定：正态性假定13 二、普通最小二乘法二、普通最小二乘法（OLSOLS）最小二乘原则最小二乘原则 剩余平方和最小：求偏导,令其为0:22min(-)iiieY Y2212233min-(.)iiiikkieYXXX 2()0ije14例如二元线性回归模型，要
8、使残差例如二元线性回归模型，要使残差平方和平方和最小，则应有：最小，则应有：1230,0,0QQQ15由最小二乘法得到正规方程：由最小二乘法得到正规方程：32332231332322221233221XXXXYXXXXXYXXXY16由正规方程解得三个由正规方程解得三个OLS统计统计量量232322232222332323222323322233221)()(xxxxxxyxxyxxxxxxxyxxyxXXY17三、最小二乘估计量的性质三、最小二乘估计量的性质同样是最优线性无偏估计量同样是最优线性无偏估计量 1、无偏性、无偏性 2、线性性、线性性 3、最小方差性、最小方差性18112233()
9、()()2EEEY每一个估计量都能用因变量 来线性表示。、线性性bbbbbb=1、无偏性、无偏性无偏性保证参数估计值无偏性保证参数估计值在参数真实值左右波动，在参数真实值左右波动，并且估计值平均水平就并且估计值平均水平就是参数的真实值是参数的真实值193、最小方差性、最小方差性2232322222322323222322)()()()(xxxxxVarxxxxxVar20随机扰动项方差随机扰动项方差 的估计的估计 多元回归中 的无偏估计为：222-ien k221练习题练习题3.3建立家庭书刊消费的计量经济模建立家庭书刊消费的计量经济模型：型：iiiiuTXY3212223变量变量回归系数回归
10、系数标准差标准差 T T统计量统计量P P值值 C C-50.01638-50.0163849.4602649.46026-1.011244-1.0112440.32790.3279X X0.0864500.0864500.0293630.0293632.9441862.9441860.01010.0101T T52.3703152.370315.2021675.20216710.0670210.067020.00000.0000 R R2 20.9512350.951235因变量的均值因变量的均值 755.1222755.1222调整的调整的R R2 20.9447320.944732因变量
11、的标准差因变量的标准差 258.7206258.7206回归标准误差回归标准误差 60.8227360.82273赤池信息量赤池信息量 11.2048211.20482残差平方和残差平方和55491.0755491.07施瓦兹信息量施瓦兹信息量 11.3532111.35321对数似然比对数似然比-97.84334-97.84334F F统计量统计量146.2974146.2974DWDW统计量统计量 2.6057832.605783Prob(F-statistic)Prob(F-statistic)0.0000000.00000024iiiTXY3703.5208645.00162.50 （
12、49.46049.460）（0.0290.029）（5.2025.202）t=(-1.011)(2.944)(10.067)t=(-1.011)(2.944)(10.067)R R2 2=0.951 df=15=0.951 df=1525ActualActual FittedFitted ResiduResidualalY Y 残差残差 450.000 457.747-7.74749 793.200 855.947-62.7468 507.700 511.674-3.97390 660.800 663.531-2.73081 613.900 684.398-70.4977 792.700 76
13、0.439 32.2609 563.400 534.756 28.6440 580.800 554.589 26.2113 501.500 430.379 71.1215 612.700 659.900-47.1999 781.500 860.234-78.7337 890.800 876.072 14.7276 541.800 563.181-21.3808 1121.00 1118.44 2.56081 611.100 626.599-15.4994 1094.20 1059.66 34.5446 1222.10 1063.92 158.176 1253.00 1310.74-57.736
14、3Y26 思思 考考简单线性回归模型与多元线性回简单线性回归模型与多元线性回归模型的基本假定是否相同？归模型的基本假定是否相同？27 已知含有截距项的三元线性回归模型已知含有截距项的三元线性回归模型估计的残差平方和估计的残差平方和 ，样本容量为样本容量为n=24n=24，则随机误差项的方，则随机误差项的方差估计量为差估计量为()()。A.33.33 B.40 C.38.09 D.36.36 8002te28 对于双变量线性模型对于双变量线性模型 我们有我们有第二节第二节 拟合优度拟合优度一、决定系数一、决定系数R R2 222222(-)ESSTSS-RSS1-TSS(-)TSSiiiiY Y
15、eRYYy12iiiYXu29对于多元线性模型对于多元线性模型122.KKYXXu我们可用同样的方法定义决定系数：我们可用同样的方法定义决定系数：对于多元线性模型对于多元线性模型TSSRSSTSSESSR1230 残差平方和的一个特点是，每当模型增加一残差平方和的一个特点是，每当模型增加一个解释变量，残差平方和的值会减小。个解释变量，残差平方和的值会减小。即：即：解释变量个数增加解释变量个数增加 减小减小 R2 增大增大也就是说，人们总是可以通过增加模型中解释也就是说，人们总是可以通过增加模型中解释变量的方法来增大变量的方法来增大 R2 的值。的值。为此，我们定义为此，我们定义修正可决系数修正
16、可决系数2e2R31 二、二、调整的可决系数（调整的可决系数（adjusted adjusted coefficient of determinationcoefficient of determination）在样本容量一定的情况下，增加解释变量在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是必定使得自由度减少，所以调整的思路是:将将残差平方和与总离差平方和分别除以各自的自残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响由度，以剔除变量个数对拟合优度的影响:其中：其中：n-kn-k为残差平方和的自由度，为残差平方和的自由度，n n-1-1为
17、为总体平方和的自由度。总体平方和的自由度。K K为参数个数。为参数个数。2/1 /1RSS nkRTSS n-=-32自自 由由 度度 自由度（自由度（degree of freedomdegree of freedom，dfdf）当以当以样本的统计量来估计总体的参数时，样本中独样本的统计量来估计总体的参数时，样本中独立或能自由变化的数据的个数称为该统计量的立或能自由变化的数据的个数称为该统计量的自由度。自由度。通俗点说，一个班上有通俗点说，一个班上有5050个人，我们知道他们个人，我们知道他们语文成绩平均分为语文成绩平均分为8080，现在只需要知道，现在只需要知道4949个人个人的成绩就能推
18、断出剩下那个人的成绩。你可以的成绩就能推断出剩下那个人的成绩。你可以随便报出随便报出4949个人的成绩，但是最后一个人的你个人的成绩，但是最后一个人的你不能瞎说，因为平均分已经固定下来了，自由不能瞎说，因为平均分已经固定下来了，自由度少一个了度少一个了3323222123()()iRSSeYYYXX自由度为自由度为n-3n-3。2()TSSYY 自由度为自由度为n-1n-1。对于二元线性回归模型来说对于二元线性回归模型来说34 变差来源变差来源 平方和平方和 自由度自由度归于回归模型归于回归模型归于剩余归于剩余总变差总变差方差分析表方差分析表2ESS(-)iY Y2TSS(-)iY Y2RSS
19、(-)iiY Y1n-1k-n-k35 可决系数可决系数 必定非负，但修正的可决系数必定非负，但修正的可决系数 可能为负值，这时规定可能为负值，这时规定 k1时，t0.025(11-3)=2.306拒绝原假设，拒绝原假设，说明说明 2不等于不等于0同理同理 3不等于不等于044 在多元回归中有多个解释变量，在多元回归中有多个解释变量，需要说明所有解释变量联合起来对应需要说明所有解释变量联合起来对应变量影响的总显著性变量影响的总显著性,或整个方程总或整个方程总的联合显著性。对方程总显著性检验的联合显著性。对方程总显著性检验需要在方差分析的基础上进行需要在方差分析的基础上进行F F检验检验45二、
20、方程的显著性检验二、方程的显著性检验(F(F检验检验)1、检验、检验过程过程 即检验模型即检验模型Y Yi i=1 1+2 2X X2 2+3 3X X3 3+k kX Xk k+i i 中的参数中的参数 j j是否显著不为是否显著不为0 0。（1）提出如下原假设与备择假设：提出如下原假设与备择假设：H H0 0：1 1=2 2=k k=0=0 H H1 1：j j不全为不全为0 046 F F检验检验构造统计量构造统计量的思想的思想由于回归平方和2iyESS是解释变量X的联合体对被解释变量Y的线性作用的结果，考虑比值 22/iieyRSSESS 如果这个比值较大，则如果这个比值较大，则X X
21、的联合体对的联合体对Y Y的解释的解释程度高，可认为总体存在线性关系，反之总体程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此上可能不存在线性关系。因此,可通过该比值的可通过该比值的大小对总体线性关系进行推断。大小对总体线性关系进行推断。47（2 2）统计量统计量如下如下 服从自由度为服从自由度为(k-1 k-1,n n-k k)的的F F分布分布（3）给定显著性水平给定显著性水平，可得到，可得到 临界值临界值F F(k-1,n-kk-1,n-k)（4 4）比较）比较若若F F F F(k-1,n-kk-1,n-k)或或 F F F F(k-1,n-kk-1,n-k)来拒绝或
22、接受原假设来拒绝或接受原假设H H0 0。/1/ESS kFRSS nk48 F (k-1,n-k)F F检验示意图检验示意图 49课本例题课本例题P86提出假设提出假设H0：1=2=3=0 H1：1、2、3不全为不全为0构造构造F统计量统计量0.050.05/1185971.34/3 1=71.32/10428.85/11 32 8=4.462 8=4.46ESS kFRSS nkFFF（，）由于（，）拒绝原假设，说明回归方程是显著的50课本练习题课本练习题3.5 P1005152 注意注意:在一元回归中在一元回归中F F检验与检验与t t检验等价检验等价,且且 但在多元回归中但在多元回归中
23、F F检验与检验与t t检检验作用不同。验作用不同。2Ft53练练 习习1 1、多元线性回归分析中的、多元线性回归分析中的 RSSRSS反映反映A A应变量观测值总变差的大小应变量观测值总变差的大小 B B应变量回归估计值总变差的大小应变量回归估计值总变差的大小 C.C.应变量观测值与估计值之间的总变应变量观测值与估计值之间的总变差差 D DY Y关于关于X X的边际变化的边际变化 542 2、已知某一元线性回归方程的判定系已知某一元线性回归方程的判定系数为数为0.810.81，则解释变量与被解释变量，则解释变量与被解释变量间的线性相关系数绝对值为间的线性相关系数绝对值为()()A.0.81A
24、.0.81 B.0.90B.0.90 C.0.66 C.0.66 D.0.32 D.0.32 3 3、对模型、对模型Y Yi i=1 1+2 2X X2i2i+3 3X X3i3i+i i进行进行总体显著性总体显著性F F检验，检验的零假设是检验，检验的零假设是 A.A.2 2=3 3=0=0 B.B.2 2=0=0 C.C.3 3=0=0 D.D.1 1=0=0或或2 2=0=0554 4、在多元线性回归中，判定系数、在多元线性回归中，判定系数R R2 2随着解随着解释变量数目的增加而（）释变量数目的增加而（）A A减少减少 B B增加增加 C C不变不变 D D变化不定变化不定 5 5、对
25、两个包含的解释变量个数不同的回归、对两个包含的解释变量个数不同的回归模型进行拟合优度比较时，应比较它们模型进行拟合优度比较时，应比较它们的：的：()A.A.判定系数判定系数 B.B.调整后判定系数调整后判定系数 C.C.标准误差标准误差 D.D.估计标准误差估计标准误差566 6、用一组、用一组2020个观测值的样本估计模型个观测值的样本估计模型Y Yi i=1 1+2 2X X2i2i+3 3X X3i3i+i i后，在后，在0.10.1的显的显著性水平上对著性水平上对2 2的显著性作的显著性作t t检验，则检验，则2 2显著地不等于显著地不等于0 0的条件是统计量的条件是统计量t t大大于
26、等于：于等于：()A.t A.t0.10.1(20)(20)B.t B.t0.050.05(18)(18)C.t C.t0.050.05(17)(17)D.F D.F0.10.1(2,17)(2,17)577 7、调整后的判定系数与判定系数之间的、调整后的判定系数与判定系数之间的关系叙述不正确的有（关系叙述不正确的有（）A.A.均非负均非负B.B.判断多元回归模型拟合优度时，使用调判断多元回归模型拟合优度时，使用调整后的可决系数整后的可决系数C C、模型中包含的解释变量个数越多，两、模型中包含的解释变量个数越多，两者相差越大者相差越大 D D、只要模型中包括截距项在内的参数、只要模型中包括截距
27、项在内的参数的个数大于的个数大于1 1，则前者小于后者，则前者小于后者58 8、用一组有用一组有30个观测值的样本估计个观测值的样本估计模型模型Yi=1+2X2i+3X3i+i，并在，并在0.05的的显著性水平下对总体显著性作显著性水平下对总体显著性作F检验，检验，则检验拒绝零假设的条件是统计量则检验拒绝零假设的条件是统计量F大大于于()A.F0.05(3,30)B.F0.025(3,30)C.F0.05(2,27)D.F0.025(2,27)592、关于拟合优度检验与方程显著性检验关系的讨论 由由2ESSRTSS=可推出：可推出：与或22/1(1)/()RkFRnk F F和和R R2 2同
28、方向变化：当同方向变化：当R R2 2=0=0时，时，F=0F=0 R R2 2越大时，越大时，F F值也就越大值也就越大 R R2 2=1=1时，时，F F为无穷大为无穷大/1/ESS kFRSS nk60 因此，F检验时所估计回归的总显著性检验时所估计回归的总显著性的一个度量，也是的一个度量，也是R2的一个显著性检验。的一个显著性检验。也就是检验也就是检验H0：1=2=3=k=0 等价于等价于 R2=0回答了前面的问题：回答了前面的问题：R2多大才能通过拟合优度检验多大才能通过拟合优度检验61)1()(kRSSknESS)()1()1(22knRkR)1()1()(22kRknR)()1/
29、(knTSSkESS设k为回归模型中的参数个数，n为样本容量。则对多元线性回归方程进行显著性检验时，所用的F统计量可表示为（）BAB.CD62 根据可决系数根据可决系数R2与与F统计量的关统计量的关系可知，当系可知，当R2=1时有（时有（）。）。A.F=1 B.F=1 C.F+D.F=0 63已知：解释变量对被解释变量已知：解释变量对被解释变量的判定系数为：的判定系数为：R2=0.729，n=10%5要求：在显著水平要求：在显著水平的情况下对总体回归模型的情况下对总体回归模型进行显著性检验。进行显著性检验。第二步：构造统计量第二步：构造统计量 第一第一 步：提出假设步：提出假设33221XXY
30、64%5F74.4)7,2(05.0F74.4)7,2(42.905.0FF0HY第三步：在给定的显著水平第三步：在给定的显著水平下，查下，查分布表得分布表得 第四步：比较判断：第四步：比较判断：因为因为，所以拒绝，所以拒绝说明解释变量X2,X3对被解释变量的共同影响显著。22/1(1)/()RkFRnk=0.729=0.729*7/7/（0.2710.271*2 2）=9.42=9.42设某商品的需求量设某商品的需求量Y（百件），消费者平均收（百件），消费者平均收入入X2，（百元），该商品价格，（百元），该商品价格X3（元）。经（元）。经Eviews软件对观察的软件对观察的10个月份的数据用
31、最小二个月份的数据用最小二乘法估计，结果如下：（被解释变量为乘法估计，结果如下：（被解释变量为Y）VARIABLE COEFFICIENT STD.ERROR T-STAT C 99.469 13.473 7.383 X1 2.502 0.754 （）X2 -6.581 1.376 （）R-squared 0.949 Mean of dependent var 80.000Adjusted R-squared（）S.D.of dependent var 19.579S.E of regression 4.997 Sum of squared resid 174.792Durbin-Watson
32、 stat F statistics （）n完成以下问题：（至少保留三位小数）完成以下问题：（至少保留三位小数）n1 1写出需求量对消费者平均收入、商品价格的线写出需求量对消费者平均收入、商品价格的线性回归估计方程。性回归估计方程。n2 2解释偏回归系数的经济含义。解释偏回归系数的经济含义。n3 3对该模型做经济意义检验。对该模型做经济意义检验。n4 4估计调整的可决系数。估计调整的可决系数。n5 5在在95%95%的置信度下对方程整体显著性进行检验。的置信度下对方程整体显著性进行检验。n6 6在在95%95%的置信度下检验偏回归系数的置信度下检验偏回归系数(斜率斜率)的显著的显著性。性。67第四节第四节 案例分析案例分析案例：中国税收增长的分析提出问题改革开放以来，随着经济体制改革的深化和经济的快速增长，中国的财政收支状况发生很大变化，为了研究影响中国税收收入增长的主要原因，分析中央和地方税收收入的增长规律，预测中国税收未来的增长趋势，需要建立计量经济模型。
