1、第第9章章 相关与回归相关与回归9.1 简单线性相关分析9.2 一元线性回归分析9.3 多元线性回归与复相关分析9.4 变量间非线性关系的回归9.1 简单线性相关分析简单线性相关分析一、变量之间的关系一、变量之间的关系 确定性关系、非确定性关系确定性关系、非确定性关系 1.确定性关系(函数关系):变量之间依一定的函数形确定性关系(函数关系):变量之间依一定的函数形成的一一对应关系,若两个变量分别记做成的一一对应关系,若两个变量分别记做Y与与X,则当,则当Y与与X之间存在函数关系时,之间存在函数关系时,X值一旦被指定,值一旦被指定,Y值就是唯值就是唯一确定的。一确定的。2.非确定性关系(非确定性
2、关系(相关关系相关关系):两个变量之间存在):两个变量之间存在某种关系,但变量某种关系,但变量Y并不是由变量并不是由变量X唯一确定的,它唯一确定的,它们之间没有严格的一一对应关系。们之间没有严格的一一对应关系。两个变量之间若存在线性关系称为两个变量之间若存在线性关系称为线性相关线性相关,存在,存在非线性关系称为非线性关系称为曲线相关曲线相关,通常通过适当的变量变,通常通过适当的变量变换,曲线相关可转换为线性相关。换,曲线相关可转换为线性相关。3、相关的种类、相关的种类(1 1)按相关的程度分为)按相关的程度分为完全相关、不完全相关完全相关、不完全相关和不相关。和不相关。两种依存关系的标志,其中
3、一个标志的数量变两种依存关系的标志,其中一个标志的数量变化由另一个标志的数量变化所确定,则称化由另一个标志的数量变化所确定,则称完全完全相关,也称函数关系。相关,也称函数关系。两个标志彼此互不影响,其数量变化各自独立,两个标志彼此互不影响,其数量变化各自独立,称为称为不相关不相关。两个现象之间的关系,介乎完全相关与不相关两个现象之间的关系,介乎完全相关与不相关之间称之间称不完全相关。不完全相关。(2 2)按相关的方向分为)按相关的方向分为正相关和负相关正相关和负相关 正正相关相关指相关关系表现为因素标志和结果标志的数指相关关系表现为因素标志和结果标志的数量变动方向一致。量变动方向一致。负相关负
4、相关指相关关系表现为因素标志和结果标志的数指相关关系表现为因素标志和结果标志的数量变动方向是相反的。量变动方向是相反的。(3 3)按相关的形式分为)按相关的形式分为线性相关和非线性相关线性相关和非线性相关 一种现象的一个数值和另一现象相应的数值在指教一种现象的一个数值和另一现象相应的数值在指教坐标系中确定为一个点,称为线性相关。坐标系中确定为一个点,称为线性相关。(4 4)按影响因素的多少分为)按影响因素的多少分为单相关和复相关单相关和复相关。如果研究的是如果研究的是一个一个结果标志同某一因素标志相关,结果标志同某一因素标志相关,就称单相关就称单相关。如果分析如果分析若干若干因素标志对结果标志
5、的影响,称为复因素标志对结果标志的影响,称为复相关或多元相关。相关或多元相关。二、总体相关系数二、总体相关系数()()XYXYXYXXYYEXE XYE YCov(X,Y)在统计上衡量两个随机变量X、Y取值间相互联系的程度和方向的量是协方差Cov(X,Y)和相关系数,有1XY证 明2()()D YXE YXE YX证:对于任意实数,有2()()EYE YXE X222()()2()()E YE YE XE XEYE YXE X22YYXXXY XYXX令,则有()2XYXYXYYYXXXYXXXXXXD YX2()22XYYYYYXX(1-)21YY由方差的性质知,(1-)0,所以三、样本相关
6、系数三、样本相关系数2211()()11nniiiiXXYYXXYYSSnn;rYX变量 和 之间线性相关的程度可以用样本相关系数 度量。rXYXXYYSSS公式为11()1nXYiiiSXXYYn()为样本协方差r样本相关系数 的另一个计算公式为:11122221111r()()nnniiiiiiinnnniiiiiiiinx yxynxxnyy r1r1 相关系数 的取值为:r1r1r0YXYXYXYX,变量 和 是完全正相关;,变量 和 是完全负相关;在这两种情况下,和 之间的关系是函数关系。时,只能说明 和 之间不存在线性统计关系,但可能存在非线性关系xy正正 相相 关关xy负负 相相
7、 关关xy曲线相关曲线相关xy不不 相相 关关使用年限使用年限x x维修费用(元)维修费用(元)y yxyxy2 25405404 4291600291600108010803 35205209 9270400270400156015604 46406401616409600409600256025604 47407401616547600547600296029605 56006002525360000360000300030005 58008002525640000640000400040006 67007003636490000490000420042006 67607603636577
8、600577600456045606 69009003636810000810000540054008 88408406464705600705600672067209 910801080818111640011640097209720合计合计5858812081203483486268800626880045760457602x2y294581205811145760lxy 42)58(111348l2xx 274764)8120(1116268800l2yy 870274764422945r 计算结果表明,机床使用年限与维修费用之间为计算结果表明,机床使用年限与维修费用之间为高度正相关。高
9、度正相关。四、相关系数的显著性检验四、相关系数的显著性检验01:0:0HH假设2r02tn21r ntr实际应用中是对 作变换,所以对总体系数 的假设检验,可令()r因为线性相关系数通常是根据样本数据计算出的,带有一定的随机性,因此要通过样本相关系数 对总体相关系数 作出推断。2ttr若,表明 在统计上是显著的,r可作为X和Y之间是否存在线性关系的证据。2ttr若,表明 在统计上是不显著的,r不能作为X和Y之间是否存在线性关系的证据。五、相关分析中应注意的问题五、相关分析中应注意的问题 相关系数不解释两个变量间的因果关系,相关系数不解释两个变量间的因果关系,它只是表明了两个变量间互相影响的程度
10、它只是表明了两个变量间互相影响的程度和方向。和方向。有时两变量之间不存在相关关系,但却可有时两变量之间不存在相关关系,但却可能出现较高的相关系数,要警惕虚假相关能出现较高的相关系数,要警惕虚假相关导致的错误结论。导致的错误结论。第二节第二节 一元线性回归分析一元线性回归分析 回归分析是通过一个或一些变量的变化来解释另一变量回归分析是通过一个或一些变量的变化来解释另一变量的变化。的变化。其其内容和步骤内容和步骤:1.根据理论和对问题的分析判断,区分自变量和因变量。根据理论和对问题的分析判断,区分自变量和因变量。2.设法找出合适的回归模型来描述变量间的关系。设法找出合适的回归模型来描述变量间的关系
11、。3.对回归模型进行统计检验。对回归模型进行统计检验。4.利用回归模型,根据解释变量去估计、预测因变量。利用回归模型,根据解释变量去估计、预测因变量。01,iYXu例如:分析家庭消费支出Y与可支配收入X两变量的关系二者之间有数学结构式:(9.3)019.3iu式中:、是总体回归参数;是随机项,表示除可支配收入以外其他影响家庭消费支出变化的因素。式(总体回)被称为归模型。一、一元线性回归的数学模型一、一元线性回归的数学模型iu2是相互独立,具有相同方差的随机变量。随机干扰项的随机干扰项的主要内容主要内容有:有:1.未具体列入模型但又共同影响变量的种种因素未具体列入模型但又共同影响变量的种种因素2
12、.变量的观测误差变量的观测误差3.随机误差随机误差4.模型的设定误差模型的设定误差二、线性回归模型的含义二、线性回归模型的含义 1.就变量而言,线性是指Y的条件期望是X的线性函数。如:2.就参数而言,线性是指Y的条件期望是参数i的线性函数。如:i01(|)iiE YXX是一元线性函数1201122(|,)iiiiiE YXXXX是二元线性函数1011201(|).(|)iiniinniiiiE YXXXXE YXX,.是多元线性函数是非线性函数201(|)iiiE YXX是一元线性回归函数01(|)iiiE YXX而就不是线性函数三、样本回归模型三、样本回归模型 事实上,总体事实上,总体Y是未
13、知的,我们所能取得的只能是与给定是未知的,我们所能取得的只能是与给定X值相对应的值相对应的Y的样本观测值,我们通过样本提供的信息来认的样本观测值,我们通过样本提供的信息来认识总体,找出总体回归模型的估计式。识总体,找出总体回归模型的估计式。可支配收入与消费支出的简单随机样本可支配收入与消费支出的简单随机样本x1x2x3x4x5x6x7x8x9x1080100120140160180200220240260样本170659095110115120140155120样本255889080118120145135145175对散点分别拟合直线,是总体回归线的估计线对散点分别拟合直线,是总体回归线的估
14、计线01iiiiiiYXeeY样本回归模型为:称为残差,是样本观测值 与估计值Y 之间的误差。根据散点图,我们可以用样本回归直线方程对总体回归直线方程进行推断和估计。01iiX样本回归方程为:Y四、回归直线的拟合四、回归直线的拟合1.iiiiiXuuXu假定以给定的为条件,服从条件期望为零的正态分布,即E()=0;简记为:E()=02.(,)()()0()ijiijjCov u uE uEuuEuij假定各个随机干扰项之间互不相关,即假定它们之间无序列相关或自相关3.iiiiXuYuu2i假定对于每个给定的,的方差是一个常数,即各个 总体具有相同方差,即D(|X)=D()=1.简单线性回归模型
15、的统计假定简单线性回归模型的统计假定4.()()()0iiiiiiiiuXCov u XE uEuXEX假定与不相关。即,满足以上满足以上4条假设的线性回归模型称为条假设的线性回归模型称为古典或普通线性回归模型古典或普通线性回归模型,其参数估计所采用的最小平方法称作普通最小平方法其参数估计所采用的最小平方法称作普通最小平方法2.简单线性回归模型的参数估计简单线性回归模型的参数估计-最小平方法最小平方法0101iiiiiYXYXe设样本线性回归模型为:iiiYe由上两式得 Y01iiiiiiiYYeYYYX就是 的拟合值,为拟合误差201111nnniiiiiiiieYYYX22即()()min
16、ie要使拟合的直线“最佳”,就要使 最小,2011niie分别对、的一阶偏导数等于零21011niiiiieYX Xi-2()=021010niiiieYXi-2()=001201iiiiiiiiiiiYnXY XXX整理后为;+1012()()()iiiiXX YYYXXX最后得到:3.最小平方估计线和估计量的性质最小平方估计线和估计量的性质20101.0002()0iiiiiiiiYXi性质剩余残参之和为零,即由公式:可得,即e2.iXY性质所拟合的直线通过均值点(,),即通过样本散点图的重心,因而预测值Y的均值等于观测值的均值。010111()iiiiiYYXeXnn01111iiiiX
17、YXXYXXY()+(-)111iiiiYXXYYnnY(-)于是:20112()0,0iiiiiiieYX Xeii由公式:可得X,3.iieX性质剩余项 与解释变量不相关)0iiiXXeiiiii又由于e 与解释变量的协方差为(e-e)(XX0011(),()EE014.性质、分别是总体回归参数的无偏估计量。012221100225.(,),(,)()()iiiiiiXNNXXXX性质、都是服从正态分布的随机变量,有:0101iY在随机误差项为正态分布的假设下,由于、都是 的线性组合,所以、的分布也表现为正态分布。2012222iien i在,的方差中都涉及到随机干扰项u的方差,令的估计量
18、iiyYY证:令0101iiiYXuYXu对于回归模型得到:01011iiiiiyYYXXx1()iixuui两式相减,得到:yE22证明:()iiiiieYYYYYY11()()iiiiyyuux21122112()()2()()iiiiiiiiiEeEx uxuEEuu取其期望得:22221111()()2()()iiiiiiiiineuuxx uu对 个样本观察值求剩余平方和,得:222()()()2()iiiiiiiEuuEuEuE uu等式右边第一项212()iiDx22222112()()iiiiiix Exx于是等式右边第二项有:12201122()()()()iiiiiiiii
19、iiiiiiiiiiiiiiXX YYX YYxXXxxXuxuxx等式右边第三项:112iiiiixux21122222222211222()2()()2()2()22()2()2()iiiiiiiiiiiiiiiiiiiiiiiiiiiiiiixuxuEx uuExuuxExxxuxEExxxx22222()(1)2(2)iiEenn分别代入得到:22()2iieEn于是:22所以:是总体真实方差的无偏估计量五五.回归模型的检验回归模型的检验1.拟合优度拟合优度YXiYYiiYYiYY01iiYX222()()()iiiiiiiSSTYYSSRYYSSEYYSSTSSRSSE令为总离差平方
20、和为回归离差平方和为剩余平方和则有:2222()()()2()()()()iiiiiiiiiiiiiiiSSTYYYYYYYYYYYYYY证明:0101()()()()0iiiiiiiii iiiYYYYXY eYeX e因为222()()()iiiiiiiYYYYYY所以如果如果SSR占的比例越大,则回归线对观察点拟合得越好。占的比例越大,则回归线对观察点拟合得越好。221(01)SSRSSErrSSTSST 称作判定系数,可用于判断回归方程的拟合优度。称作判定系数,可用于判断回归方程的拟合优度。2222122()()iiiiiiiinXXrnYY判定系数的计算公式:判定系数与样本相关系数判
21、定系数与样本相关系数 判定系数的平方根就是相关系数。判定系数的平方根就是相关系数。1若由判定系数开平方来求相关系数,可以通过回归系数来判断相关系数的符号,回归系数与相关系数正负号相同。2.回归系数的显著性检验回归系数的显著性检验21121122(,)()(2)iiiiNXXtt nx已知:因此有检验统计量:3.回归系数的显著性检验步骤回归系数的显著性检验步骤01111.:0,:0HH建立原假设:2.计算检验统计量t22(2),(2),tnXYtnXY3.根据给定的显著水平,若t则拒绝原假设,即 作为 的解释变量作用是显著的。若t则不能拒绝原假设,即 作为 的解释变量作用是不明显。X与Y之间是否
22、存在线性关系,可以利用方差分析的方法进行F检验。1(1,2)221FSSRSSRFFnSSE nSSEnSSTn方差来源平方和 自由度值临界值回归残差总变差六、回归分析的预测和推断六、回归分析的预测和推断 1.总体均值的预测和推断总体均值的预测和推断01iiYX样本回归线为:0101iiiiiiYXuYXe总体回归模型:样本回归模型:00010,XX YX:给测定点值预22000102,()1(,()()iiXXYNXnXX:给定置信水区间预平(测1-)2220002022()(2)()1()iiiienYE YXtt nXXnXX用代替,得到t统计量2002220022()1(2),()()
23、1(2)()iiiiXXYtnnXXXXYtnnXX总体均值的预测区间为:00,Ye0对应于给定的X=X 要预测总体的个别值 的取值区间,就要考虑 的分布000eYY已知:222000022202()1()()()()()()1(1)()iiiiXXD eD YD YnXXXXnXX则000Y 与Y 都服从正态分布,则e 也服从正态分布,有202(0,1)()11()iiNXXnXX000(Y-Y)-E(e)00202(2)()1 1()iiYYtt nXXnXX当 代替 后,则有2002220022()1(2)1,()()1(2)1()iiiiXXYtnnXXXXYtnnXX0于是得到个别值
24、Y 在给定置信水平1-下的置信区间为:例例9.9 随机抽查了生产同种产品的随机抽查了生产同种产品的10个企业,个企业,得到它们的产量和生产费用的数据:得到它们的产量和生产费用的数据:企业编号12345678910产量40424855657988100120140生产费用1501401601701501621851651901851.建立生产费用对产量的回归方程建立生产费用对产量的回归方程2.预测当产量为预测当产量为80千克时,该类企业平均的生产费千克时,该类企业平均的生产费用的置信区间用的置信区间3.预测其产量为预测其产量为80千克的某企业的生产费用的置信千克的某企业的生产费用的置信水平为水平
25、为95的置信区间的置信区间解:解:1.作作X与与Y的散点图的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验)回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测作散点图作散点图从图中看出生产费用与产量之间的关系近似为线性从图中看出生产费用与产量之间的关系近似为线性解:解:1.作作X与与Y的散点图的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验)回归方程检验)4.
26、总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测01iiYX估计回归方程122010.3978()134.79iiiiiiiiiiinX YXYnXXYX根据样本数据计算得:解:解:1.作作X与与Y的散点图的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验)回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测拟合优度检验拟合优度检验2222122()0.652()iiiiiiiinXXrnYY检验结
27、果说明生产费用的变动有检验结果说明生产费用的变动有65.2可以由产量的变动解释可以由产量的变动解释解:解:1.作作X与与Y的散点图的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验)回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测2201889.23iiiiiiiiieYYX Y0111:0:0HH2(2)10.5429iien110.05223.872(8)2.306iittx回归系数检验回归系数检验拒绝原假设,说明拒绝原假设,说明X与与Y存
28、在线性关系存在线性关系解:解:1.作作X与与Y的散点图的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测回归方程检验回归方程检验22211666.33889.23iiSSRXnX因为(-)SSE0.0114.99(1,8)11.3(2)SSRFFSSE n即回归方程是高度显著的,即回归方程是高度显著的,X与与Y之间之间确实存在线性关系确实存在线性关系解:解:1.作作X与与Y的散点图的散点图 2.估
29、计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测总体均值的置信区间预测总体均值的置信区间预测20022()1(2)()66.6147.707iiXXYtnnXX即置信区间为(即置信区间为(158.844,174.321)说明了)说明了当企业的产量为当企业的产量为80千克时,生产费用平均为千克时,生产费用平均为158844元到元到174321元之间,其可信度为元之间,其可信度为95解:解:1.作作X与与Y的散点图
30、的散点图 2.估计回归方程估计回归方程 3.检验检验 (a.拟合优度检验拟合优度检验 b.回归系数检回归系数检 验验 c.回归方程检验回归方程检验)4.总体均值的置信区间预测总体均值的置信区间预测 5.总体个别值的置信区间预测总体个别值的置信区间预测总体个别值的置信区间预测总体个别值的置信区间预测20022()1(2)1()166.1425.503iiXXYtnnXX置信区间为(置信区间为(140.637,191.643)。对于产量为)。对于产量为80千克的某个企业而言,其生产费用在千克的某个企业而言,其生产费用在140637元元到到191643元之间,可能性为元之间,可能性为95七、相关分析
31、与回归分析的关系七、相关分析与回归分析的关系(一)区别一)区别 1 1、相关分析的任务是确定两个变量之间相关的方向、相关分析的任务是确定两个变量之间相关的方向和密切程度。回归分析的任务是寻找因变量对自变量和密切程度。回归分析的任务是寻找因变量对自变量依赖关系的数学表达式。依赖关系的数学表达式。2 2、相关分析不必确定两变量中哪个是自变量,哪个、相关分析不必确定两变量中哪个是自变量,哪个是因变量,而回归分析中必须区分因变量与自变量。是因变量,而回归分析中必须区分因变量与自变量。3 3、相关分析中两变量是对等的改变两者的地位,并相关分析中两变量是对等的改变两者的地位,并不影响相关系数的数值,只有一
32、个相关系数。而在回不影响相关系数的数值,只有一个相关系数。而在回归分析中,互为因果关系的两个变量可以编制两个独归分析中,互为因果关系的两个变量可以编制两个独立的回归方程。立的回归方程。4 4、相关分析中两变量可以都是随机的,而回归分析、相关分析中两变量可以都是随机的,而回归分析中因变量是随机的,自变量不是随机的。中因变量是随机的,自变量不是随机的。(二)联系二)联系 1 1、相关分析是回归分析的基础和前提。只有、相关分析是回归分析的基础和前提。只有在相关分析确定了变量之间存在一定相关关系在相关分析确定了变量之间存在一定相关关系的基础上建立的回归方程才有意义。的基础上建立的回归方程才有意义。2
33、2、回归分析是相关分析的继续和深化。只有、回归分析是相关分析的继续和深化。只有建立了回归方程才能表明变量之间的依赖关系,建立了回归方程才能表明变量之间的依赖关系,并进一步进行预测。并进一步进行预测。多元线性回归模型多元线性回归模型1多元线性回归模型的性质多元线性回归模型的性质与模型的确定与模型的确定二元线性回归模型:二元线性回归模型:总体多元线性回归模型的一般形式总体多元线性回归模型的一般形式Y的数学期望的数学期望E(Y)随机误差随机误差表明自变量表明自变量共同变动引起的共同变动引起的Y 的平均变动。也称总体的二元线性回归方差。的平均变动。也称总体的二元线性回归方差。常数项,常数项,和和Y构成
34、的平面与构成的平面与Y轴的截距轴的截距偏回归系数,表示在偏回归系数,表示在 固定时固定时 每变化一个单位引起的每变化一个单位引起的Y的平均变动;的平均变动;案例案例01122nnyxxx01122 yxx01122,E Yxx()12,xx、0 1 12,xx、2x1x偏回归系数,表示在偏回归系数,表示在 固定时固定时 每变化一个单位引每变化一个单位引起的起的Y的平均变动;的平均变动;2x1x随机误差,其理论假定与一元线性回归模型中的随机误差,其理论假定与一元线性回归模型中的 一一样。样。在多元回归模型中,还要求各自变量之间不存在显著相在多元回归模型中,还要求各自变量之间不存在显著相关,或高度
35、相关也即不得存在多重共线性。关,或高度相关也即不得存在多重共线性。样本多元线性回归模型的一般形式样本多元线性回归模型的一般形式二元线性回归模型为:二元线性回归模型为:其数学期望其数学期望也称样本(或估计的)二元线性回归方程。也称样本(或估计的)二元线性回归方程。2 1122nnyab xb xb x 1122yab xb x 1122E yab xb x()二元线性回归方程的确定二元线性回归方程的确定根据实际资料,用最小平方法,即使根据实际资料,用最小平方法,即使 ,分别对,分别对a、b1、b2求编导并令其为零,求得三个标准方求编导并令其为零,求得三个标准方程:程:解此联立方程便可得到解此联立
36、方程便可得到a、b1、b2。1122()yab xb x2()jyy 最最小小1122211121222211222jjjynabxbxx ya xb xbx xx ya xbx xbx 2多元线性回归模型的判定系数和估计标准误多元线性回归模型的判定系数和估计标准误判定系数判定系数 0r21修正的判定余数:修正的判定余数:2211(1)1nrrnp 2211222222()()()()jjjjja ybx ybx yn yyyryyyn y r2和和Sy(x1、x2)都是对回归模型拟合优度的评价指标。都是对回归模型拟合优度的评价指标。Sy(x1、x2)也是用自变量对因变量进行区间估计的抽样误差
37、。也是用自变量对因变量进行区间估计的抽样误差。估计标准误(估计标准误(Sy(x1、x2)1221122(,)()33jjjjjy xxyyya ybx ybx ySnn 3多元回归模型的显著性检验多元回归模型的显著性检验对偏回归系数的对偏回归系数的t检验检验 H0:1=0,H1:10;H0:2=0,H1:20。检验统计量:检验统计量:1212|,|bbbbtt122221(,)22211221122()()()()()by xxxxSxxxxxxxx 122222b2(,)22211221122()()()()()y xxxxSxxxxxxxx 按显著性水平按显著性水平和自由度和自由度(n-3
38、)查查t表可得到临界值表可得到临界值t02(3)tn 2(3)tn 2(3)tn 模型整体的模型整体的F检验检验检验统计量:检验统计量:(k自变量个数)自变量个数)或或 按给定的按给定的和自由度(和自由度(2)和(和(n-3)查)查F表可得到表可得到临界值临界值F22()/()/(1)jyykFyynk 22()/2()/(3)jyyFyyn 2222/2(3)(1)/(3)2(1)rrnFrnr 2,3nF ()2,3nF ()4多元回归中的相关分析多元回归中的相关分析 复相关:指一个因变量同多个自变量的相关关系。复相关:指一个因变量同多个自变量的相关关系。复相关系数恒取正值。复相关系数恒取
39、正值。偏相关(净相关)指各个自变量在其他自变量固定不变时,偏相关(净相关)指各个自变量在其他自变量固定不变时,单个变量同因变量的相关关系。单个变量同因变量的相关关系。计算偏相关系数需借助相关系数矩阵表的资料。计算偏相关系数需借助相关系数矩阵表的资料。二元回归中的相关系数矩阵表二元回归中的相关系数矩阵表yyx1x1x2x2ry1ry2r121.001.001.00 x1与与y的偏相关系数:的偏相关系数:x2与与y的偏相关系数:的偏相关系数:案例案例22122()()ynjyyrryy12121(2)222121()1()yyyyrrrrrr 21122(1)221121()1()yyyyrrrr
40、rr 5应用多元回归方程进行区间估计应用多元回归方程进行区间估计Y的平均值的区间估计的平均值的区间估计Y的特点值的区间估计的特点值的区间估计式中,式中,是是即区间估计的抽样误差。即区间估计的抽样误差。的抽样分布的标准差,的抽样分布的标准差,式中,式中,是是的抽样分布的标准差,的抽样分布的标准差,即区间估计的抽样误差。即区间估计的抽样误差。0012032ynE YYtSXXC ()()(,)120ySXXC(,)Y00120321ynYYtSXXC ()(,)1201ySXXC(,)Y 非线性回归模型非线性回归模型当自变量与因变量存在某种曲线相关关系时,可拟合曲线回归当自变量与因变量存在某种曲线
41、相关关系时,可拟合曲线回归模型。例如:模型。例如:双曲线:双曲线:xbaya0 b0a0 b0 xxyy指数曲线:指数曲线:y=aebxb0 b0 xxyy幂函数曲线:幂函数曲线:y=axba0 b0 xyb1曲线模型的判别方法:曲线模型的判别方法:理论和经验判断;理论和经验判断;观察散点图观察散点图 曲线模型的确定方法:曲线模型的确定方法:通常用变量代换法将曲线转换为直线。按线性模型求解参数,通常用变量代换法将曲线转换为直线。按线性模型求解参数,而后再变换为曲线模型。而后再变换为曲线模型。例如:双曲线模型例如:双曲线模型xbay1,1bxayxx则有令指数曲线模型指数曲线模型bxaey xe
42、xbxayLnaaLnyy,则有令9.4 变量间非线性关系的回归变量间非线性关系的回归 一些常用的可化为线性方程的函数类型一些常用的可化为线性方程的函数类型 双曲线双曲线baYX111,YXYabXYX令:则有:a0 b0a0 b0 xxyy 幂函数幂函数bYaXlg,lg,lg,YY XX caYcbX令:则有:a0 b0 xyb1b0 b0 xxyy指数函数指数函数bXYaeln,ln,YY caYcbX令:则有:对数曲线对数曲线lnYabXln,XXYabX则有:多项式多项式2012.kkYbb Xb Xb X21201122,.kkkkXX XXXXYbb Xb Xb X令:=,.,=,则有:曲线模型的判别方法:曲线模型的判别方法:理论和经验判断;理论和经验判断;观察散点图观察散点图