1、第9 9 章 相关分析与回归分析刘廷兰相关和回归分析是研究事物的相互关系、相关和回归分析是研究事物的相互关系、测定它们联系的紧密程度、揭示其变化的测定它们联系的紧密程度、揭示其变化的具体形式和规律性的统计方法,是构造各具体形式和规律性的统计方法,是构造各种经济模型、进行结构分析、政策评价、种经济模型、进行结构分析、政策评价、预测和控制的重要工具。预测和控制的重要工具。通过本章的学习要求理解相关分析通过本章的学习要求理解相关分析和回归分析的有关概念,掌握计算相和回归分析的有关概念,掌握计算相关系数和配合回归方程的方法,并能关系数和配合回归方程的方法,并能结合实际资料对变量进行相关和回归结合实际资
2、料对变量进行相关和回归分析。分析。 出租汽车费用与行驶里程:出租汽车费用与行驶里程: 总费用总费用=行驶里程行驶里程 每公里单价每公里单价PKG 家庭收入与恩格尔系数:家庭收入与恩格尔系数: 家庭收入高,则恩格尔系数低。家庭收入高,则恩格尔系数低。相关关系相关关系 在自然界和社会现象中,客观现象之间的数量关系通在自然界和社会现象中,客观现象之间的数量关系通常有两种类型,即:常有两种类型,即:函数关系函数关系2rs 相关关系相关关系 客观存在、确定性、客观存在、确定性、严格的数量对应关系严格的数量对应关系(相关分析的对象)(相关分析的对象)现象(变量)之间客观存在的、现象(变量)之间客观存在的、
3、非确定性的数量对应关系。非确定性的数量对应关系。例如:例如:消费支出与收入的关系;消费支出与收入的关系; 学习成绩与学习时间的关系等。学习成绩与学习时间的关系等。相关关系的种类(四种)相关关系的种类(四种)单相关单相关复相关复相关线性相关(直线相关)线性相关(直线相关)非线性相关(曲线相关)非线性相关(曲线相关)正相关正相关负相关负相关完全相关(函数关系)完全相关(函数关系)不完全相关不完全相关不相关不相关按涉及变量多少按涉及变量多少按相关的按相关的表现形式表现形式按相关的方向(直线相关)按相关的方向(直线相关)按按相关的程度相关的程度定性分析定性分析是依据研究者的理论知识和实践经是依据研究者
4、的理论知识和实践经验,对客观现象之间是否存在相关验,对客观现象之间是否存在相关关系,以及何种关系作出判断关系,以及何种关系作出判断定量分析定量分析在定性分析的基础上,通过编制在定性分析的基础上,通过编制相相关表关表、绘制绘制相关图相关图、计算计算相关系数相关系数与与判定系数判定系数等方法,来判断现象之等方法,来判断现象之间相关的方向、形态及密切程度间相关的方向、形态及密切程度对相关关系的分析是统计学的重要研究内容。对相关关系的分析是统计学的重要研究内容。主要研究方法:相关分析和与回归分析。主要研究方法:相关分析和与回归分析。相关分析与回归分析相关分析与回归分析 相关分析(相关分析(Correl
5、ation AnalysisCorrelation Analysis)研究变量之间相关的方向研究变量之间相关的方向和相关的程度,但无法给出变量间相互关系的具体形式,和相关的程度,但无法给出变量间相互关系的具体形式,因而无法从一个变量推测另一个变量。因而无法从一个变量推测另一个变量。 回归分析(回归分析(Regression) Regression) 可以确定变量之间相互关系的具体可以确定变量之间相互关系的具体形式(回归方程),确定一个变量对另一个变量的影响程形式(回归方程),确定一个变量对另一个变量的影响程度,并根据回归方程进行预测。度,并根据回归方程进行预测。自变量和因变量 如果两个变量中一
6、个变量是另一个变量变化的结果,那么代表原因的变量称为自变量 Independent Independent (Explanatory) Variable(Explanatory) Variable,代表结果的变量称为因变量 Dependent Dependent (Response) Variable (Response) Variable 。在散点图中习惯上把因变量绘制在纵轴上。正正 相相 关关负负 相相 关关曲线相关曲线相关不不 相相 关关xyxyxyxy用直角坐标系的用直角坐标系的x轴代表自变量,轴代表自变量,y轴代表因轴代表因变量,将两个变量间相对应的变量值用坐标变量,将两个变量间相对
7、应的变量值用坐标点的形式描绘出来,用以表明相关点分布状点的形式描绘出来,用以表明相关点分布状况的图形。况的图形。用散点图观察变量之间的相关关系用散点图观察变量之间的相关关系在在的条件下,用以反映的条件下,用以反映两变量两变量间间密切程度的统计指标,用密切程度的统计指标,用r表示表示2222222)( yynxxnyxxynnyynxxnyyxxryxxy1 1 r r 1 1r 1 1, r 0 0,r 0 01 1,两个变量完全相关两个变量完全相关两个变量不存在线性相关关系两个变量不存在线性相关关系两个变量存在一定程度线性相关关系两个变量存在一定程度线性相关关系rr0 0,0 0,两个变量正
8、相关两个变量正相关两个变量负相关两个变量负相关 |r| 0.30.30.30.30.50.50.50.50.80.80.80.81 1弱相关弱相关低度相关低度相关显著相关显著相关高度相关高度相关 调查5050个房地产公司,房屋销售面积与广告费用之间的相关系数为0.760.76,这说明( ) A.A.二者之间有较强的正相关关系 B.B.平均看来,销售面积的7676归因于其广告费用 C.C.如要多销售1 1万平方米的房屋,则要增加广告费用76007600元 D.D.如果广告费用增加1 1万元,可以多销售76007600平方米的房屋样本能代表总体吗?样本能代表总体吗? 如果红色的点碰巧为你的样本,则
9、样本相关如果红色的点碰巧为你的样本,则样本相关系数为系数为0.9070.907,总体相关系数为,总体相关系数为0.000050.00005相关系数的显著性检验1 1、提出假设:H H0 0: ;H H1 1: 0 0) 2(122ntrnrt2、 计算检验的统计量:计算检验的统计量:3、 确定显著性水平确定显著性水平 ,并作出决策,并作出决策 若若 t t,拒绝,拒绝H0 或者:若或者:若p值值 ,拒绝,拒绝H0检验的步骤是: 计算结果: t检验值为临界值t t(2121)2.082.08,故拒绝H H0 0,认为相关系数显著。消费支出和可支配收入的相关系数23个家庭调查消费支出可支配收入消费
10、支出1 1可支配收入0.99680.99681 1注意:相关关系注意:相关关系因果关系!因果关系! 典型的错误推断:典型的错误推断:统计分析表明,庆祝生日次数越多的人越长寿。因此,庆祝生日有利于健康。调查表明,世界各国人均电视机拥有量与预期寿命存在很强的正相关性。因此,电视机拥有量越高,预期寿命越长。对小学各年级学生的抽样调查表明,学生的识对小学各年级学生的抽样调查表明,学生的识字水平与他们鞋子的尺寸高度正相关。因此,字水平与他们鞋子的尺寸高度正相关。因此,学生穿的鞋越大,他的识字水平就越高。学生穿的鞋越大,他的识字水平就越高。92 一元线性回归分析 总体回归函数总体回归函数 、样本回归函数、
11、样本回归函数 一元线性回归模型的估计一元线性回归模型的估计 一元线性回归模型的检验一元线性回归模型的检验 趋向中间高度的回归 回归这个术语是由英国著名统计学家Francis Galton在19世纪末期研究孩子及他们的父母的身高时提出来的。Galton发现身材高的父母,他们的孩子也高。但这些孩子平均起来并不像他们的父母那样高。对于比较矮的父母情形也类似:他们的孩子比较矮,但这些孩子的平均身高要比他们的父母的平均身高高。 Galton把这种孩子的身高向中间值靠近的趋势称之为一种回归效应,而他发展的研究两个数值变量的方法称为回归分析。Regression 的原始释义q理论和方法具有一致性;理论和方法
12、具有一致性;q无相关就无回归,相关程度越高,无相关就无回归,相关程度越高,回归越好;回归越好;q 相关系数和回归系数方向一致,可相关系数和回归系数方向一致,可以互相推算。以互相推算。q相关分析中相关分析中x与与y对等,回归分析中对等,回归分析中x与与y要确定自变量和因变量;要确定自变量和因变量;q相关分析中相关分析中x、y均为随机变量,回归分均为随机变量,回归分析中只有析中只有y为随机变量;为随机变量;q相关分析测定相关程度和方向,回归分相关分析测定相关程度和方向,回归分析用回归模型进行预测和控制。析用回归模型进行预测和控制。注意 我们不能把回归分析看作是在变我们不能把回归分析看作是在变量间建
13、立一个因果关系的过程。量间建立一个因果关系的过程。回归分析只能表明,变量是如何回归分析只能表明,变量是如何或者是以怎样的程度彼此联系在或者是以怎样的程度彼此联系在一起的。有关因果关系的任何结一起的。有关因果关系的任何结论,必须建立在理论分析的基础论,必须建立在理论分析的基础之上。之上。一一 元元线线性性回回归归Simple Linear regression对于经判断具有线性关系的两个变量对于经判断具有线性关系的两个变量y y与与x x,构造一元线性回归模型为:,构造一元线性回归模型为:xY10为随机误差项为模型参数,与式中:XYEY10)(YEXXY10截距截距斜率斜率一元线性回归方程的可能
14、形态一元线性回归方程的可能形态 1为为正正 1为为负负 1为为0XYEY0 xy10以样本统计量估计总体参数以样本统计量估计总体参数斜率(回归系数斜率(回归系数)截距截距截距截距表示在没有自变量表示在没有自变量x的影响时,其它各的影响时,其它各种因素对因变量种因素对因变量y的平均影响;的平均影响;回归系数回归系数表表明自变量明自变量x每变动一个单位,因变量每变动一个单位,因变量y平均变平均变动多少个单位。动多少个单位。总体回归直线与样本回归直线总体回归直线与样本回归直线YXiexy10 1 0 iXXYE10)|( 在满足一系列假设条件的情况下,最小二乘估计量是方差最小线性无偏估计量。需要的基
15、本假设条件包括:1 1、2 2、对于所有的x x, 的方差 相等3 3、 与X X之间不相关4 4、 之间不相关5 5、 服从正态分布一元线性回归模型的统计假设i0)(iEiii一元线性回归模型的估计 总体回归直线是未知的,它只有一条;而总体回归直线是未知的,它只有一条;而样本回归直线则是根据样本数据拟合的,样本回归直线则是根据样本数据拟合的,每抽取一组样本,便可以拟合一条样本回每抽取一组样本,便可以拟合一条样本回归直线。归直线。 在总体参数未知的情况下,如何保证样本在总体参数未知的情况下,如何保证样本回归系数尽可能接近总体参数的真实值?回归系数尽可能接近总体参数的真实值? 在回归分析中最常用
16、的估计方法是在回归分析中最常用的估计方法是最小二最小二乘法乘法。 的意义yy 为残差:点到直线的纵向距离。1112131415165.05.56.06.5yy最小二乘估计xy(xn , yn)(x1 , y1)(x2 , y2)(xi , yi)ei = yi-yixy10通过使残差平方和达到最小来求得 01最小二乘估计将Q对和求偏导数并令其等于零,可以得到正规方程组(Normal Equations)。0 1 解这个方程组可得:注意的符号与相关系数注意的符号与相关系数r是一致的。是一致的。1 直线的起点值(不变费用)直线的起点值(不变费用) 当产量每增加当产量每增加10001000件时,单位
17、成本平件时,单位成本平均降低均降低1.821.82元件。元件。xy1 1. .8 82 27 77 7. .3 37 7一元线性回归方程的评价和检验 拟合优度 1、决定系数 2、估计标准误差显著性检验 3、t检验 4、F检验决定系数为:22222)()(1)()(yyyyyyyySSTSSRRiiiii决定系数的取值决定系数的取值 R R2 2的取值范围是00,11。 R R2 2越接近于1 1,表明回归平方和占总离差平方和的比例越大,回归直线与各观测点越接近,回归直线的拟合程度就越好。 在一元线性回归中,相关系数r r的平方等于判定系数,符号与自变量x x的系数一致。因此可以根据回归结果求出
18、相关系数。 所有的回归程序都会给出R R2 2的值. .本学期课程结束统计方法统计方法描述统计描述统计推断统计推断统计参数估计参数估计假设检验假设检验本学期内容本学期内容第第2章章+搜集数据搜集数据第第3章章+用图表展示数据用图表展示数据第第4章章+用统计量描述数据用统计量描述数据第第6章章+参数估计参数估计第第7章章+假设检验假设检验第第8章章+ 一元线性回归一元线性回归第第9章章+时间序列时间序列第第5章章+概率分布概率分布描述统计描述统计抽样推断抽样推断下次课带上做好的第下次课带上做好的第4 4、8 8、5 5与与6 6、9 9章题章题库来上课库来上课统计学期末考试统计学期末考试一、单选(每小一、单选(每小题题2 2分分,共共3030分,分,1515题)题)二、名词(二、名词(第小第小题题3 3分分,共共1515分,分,5 5题)题)三、三、简答(每小题简答(每小题5 5分,共分,共1515分,分,3 3题)题)五、计算题五、计算题(每题(每题1010分,共分,共4040分,分,4 4题,题,要求要求写出公式、算式)写出公式、算式)