1、3.1 回归分析的基本思想及其初步应用回归分析的基本思想及其初步应用一、相关知识的回顾一、相关知识的回顾回归分析回归分析是对具有相关关系的两个变是对具有相关关系的两个变 量进行统量进行统计分析的一种方法。计分析的一种方法。2、线性回归分析的步骤是什么？、线性回归分析的步骤是什么？（1）画出两个变量的散点图。（2）求回归直线方程。（3）用回归直线方程进行预报。1、什么叫回归分析？、什么叫回归分析？3.求回归直线方程的截距求回归直线方程的截距 和斜率和斜率 是根是根据据 估算得估算得 ab最小二乘法最小二乘法二、新课二、新课（一）最小二乘法（一）最小二乘法例例 从某大学中随机选取从某大学中随机选取
2、8名女大学生，其身高名女大学生，其身高和体重数据如下表所示和体重数据如下表所示：求根据一名女大学生的身高预报她的体重的回求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为归方程，并预报一名身高为172cm的女大学生的女大学生的体重。的体重。5943616454505748体重体重/kg170155165175170157165165身高身高/cm87654321编号编号解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点，作散点 图：图：2、由散点图知道身高和体重有比较好的线性相关关系，、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线
3、性回归方程刻画它们之间的关系。因此可以用线性回归方程刻画它们之间的关系。于是有于是有(,)x y 称为样本点的中心根据最小二乘法估计根据最小二乘法估计 和和 就是未知参数就是未知参数a和和b的最好的最好估计，估计，ab12210.849niiiniix ynx yxxbn85.712ybxa 所以回归方程是0.84985.712yx所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为0.849 7285.71260.316()ykg从散点图可以看到，样本点散布在某一条直线的附从散点图可以看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数近，而不是在一条直线上
4、，所以不能用一次函数y=bx+a描述它们关系。描述它们关系。我们可以用下面的我们可以用下面的线线性回归模型性回归模型来表示：来表示：y=bx+a+e，其中，其中a和和b为模型的未知参数，为模型的未知参数，e称为随机误差称为随机误差。思考思考产生随机误差项产生随机误差项e的原因是什么？的原因是什么？探究：探究：身高为身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？吗？如果不是，你能解析一下原因吗？如果不是，你能解析一下原因吗？思考：思考：产生随机误差项产生随机误差项e的原因是什么？的原因是什么？随机误差随机误差e e的来源：的来源：1、其它因素的影响：影响体重 y
5、 的因素不只是身高 x，可能还包括遗传基因、饮食习惯、是否喜欢运动、生长环境等因素；2、用线性回归模型近似真实模型所引起的误差；3、体重 y 的观测误差。（三）、随机误差、残差以及相关指数线性回归模型线性回归模型y=bx+a+e增加了随机误差项增加了随机误差项e，因变量，因变量y的值由自变量的值由自变量x和随机误差项和随机误差项e共同确定，即共同确定，即自变量自变量x只能解析部分只能解析部分y的变化的变化。在统计中，我们也把自变量在统计中，我们也把自变量x称为解析变量，因变量称为解析变量，因变量y称为预报变量。称为预报变量。思考：我们如何研究随机误差？（阅读教材思考：我们如何研究随机误差？（阅
6、读教材P84）下表列出了女大学生身高和体重的原始数据以及相应的残差数据。下表列出了女大学生身高和体重的原始数据以及相应的残差数据。在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。是否可以用回归模型来拟合数据。残差分析与残差图的定义：残差分析与残差图的定义：编号编号12345678身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.3
7、82 我们可以利用图形来分析残差特性，作图时纵坐标为残差，我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为样作出的图形称为残差图残差图。然后，我们可以通过残差然后，我们可以通过残差 ，来判断模型拟合的效果，判断原始数据中是，来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析否存在可疑数据，这方面的分析工作称为残差分析12,.ne ee残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横
8、轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；横轴为心的带形区域；对于远离横轴的点，要特别注意。对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明：第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。据
9、；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。假设身高和随机误差的不同不会对体重产生任何影响，那么所假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相同。有人的体重将相同。在体重不受任何变量影响的假设下，设在体重不受任何变量影响的假设下，设8名女名女大学生的体重都是她们的平均值，即大学生的体重都是她们
10、的平均值，即8个人的体重都为个人的体重都为54.5kg。54.554.554.554.554.554.554.554.5体重体重/kg170155165175170157165165身高身高/cm87654321编号编号54.5kg在散点图中，所有的点应该落在散点图中，所有的点应该落在同一条水平直线上，但是观在同一条水平直线上，但是观测到的数据并非如此。测到的数据并非如此。这就意这就意味着味着预报变量（体重）的值受预报变量（体重）的值受解析变量（身高）或随机误差解析变量（身高）或随机误差的影响的影响。5943616454505748体重体重/kg170155165175170157165165
11、身高身高/cm87654321编号编号 例如，编号为例如，编号为6的女大学生的体重并没有落在水平直线上，她的女大学生的体重并没有落在水平直线上，她的体重为的体重为61kg。解析变量（身高）和随机误差共同把这名学生。解析变量（身高）和随机误差共同把这名学生的体重从的体重从54.5kg“推推”到了到了61kg，相差，相差6.5kg，所以，所以6.5kg是解是解析变量和随机误差的析变量和随机误差的组合效应组合效应。编号为编号为3的女大学生的体重并也没有落在水平直线上，她的体重的女大学生的体重并也没有落在水平直线上，她的体重为为50kg。解析变量（身高）和随机误差共同把这名学生的体重。解析变量（身高）
12、和随机误差共同把这名学生的体重从从50kg“推推”到了到了54.5kg，相差，相差-4.5kg，这时解析变量和随机，这时解析变量和随机误差的组合效应为误差的组合效应为-4.5kg。用这种方法可以对所有预报变量计算组合效应。用这种方法可以对所有预报变量计算组合效应。数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用21()niiyy表示总的效应，称为表示总的效应，称为总偏差平方和总偏差平方和。在例在例1中，总偏差平方和为中，总偏差平方和为354。那么，在这个总的效应（总偏差平方和）中，有那么，在这个总的效应（总偏差平方和）中，
13、有多少来自于解析变量（身高）？有多少来自于随机多少来自于解析变量（身高）？有多少来自于随机误差？误差？假设随机误差对体重没有影响，也就是说，体重假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。回归直线上。这些点散布在回归直线附近，所以一定这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上是随机误差把这些点从回归直线上“推推”开了开了。因此，数据点和它在回归直线上相应位置的差异因此，数据点和它在
14、回归直线上相应位置的差异 是随是随机误差的效应，称机误差的效应，称 为为残差残差。()iiyy=iiieyy在例在例1中，残差平方和约为中，残差平方和约为128.361。例如，编号为例如，编号为6的女大学生，计算随机误差的效应（残差）为：的女大学生，计算随机误差的效应（残差）为：61(0.849 16585.712)6.627对每名女大学生计算这个差异，然后分别将所得的值平方后加对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号表示为：起来，用数学符号表示为：它代表了随机误差的效应。它代表了随机误差的效应。称为称为残差平方和残差平方和，21()niiiyy 由于解析变量和随
15、机误差的总效应（总偏差平方和）为由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为而随机误差的效应为128.361，所以解析变量的效应为，所以解析变量的效应为解析变量和随机误差的总效应（总偏差平方和）解析变量和随机误差的总效应（总偏差平方和）=解析变量的效应（回归平方和）解析变量的效应（回归平方和）+随机误差的效应（残差平方和）随机误差的效应（残差平方和）354-128.361=225.639 这个值称为这个值称为回归平方和。回归平方和。22121()1()niiiniiyyRyy 我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，
16、其计算公式是显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合的值越大，说明残差平方和越小，也就是说模型拟合效果越好。效果越好。在线性回归模型中，在线性回归模型中，R2表示解析变量对预报变量变化的贡献率表示解析变量对预报变量变化的贡献率。R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越接近越接近1，表，表示解析变量和预报变量的线性相关性越强）。示解析变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较则可以通过比较R2的值来做出选择，即的值来做出选择，即选取选
17、取R2较大的模型作较大的模型作为这组数据的模型为这组数据的模型。总的来说：总的来说：相关指数相关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型中，它在线性模型中，它代表自变量刻画预报变量的能力代表自变量刻画预报变量的能力。1354总计0.36128.361残差变量0.64225.639解析变量比例平方和来源 从上表中可以看出，解析变量对总效应约贡献了从上表中可以看出，解析变量对总效应约贡献了64%，即即R2 0.64，可以叙述为，可以叙述为“身高解析了身高解析了64%的体重变化的体重变化”，而随机误差贡献了剩余的而随机误差贡献了剩余的36%。所以，身高对体重的效
18、应比。所以，身高对体重的效应比随机误差的效应大得多。随机误差的效应大得多。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()1()niiiniiyyRyy 用身高预报体重时，需要注意下列问题：用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们所研究的样本的总体；、回归方程只适用于我们所研究的样本的总体；2、我们所建立的回归方程一般都有时间性；、我们所建立的回归方程一般都有时间性；3、样本采集的范围会影响回归方程的适用范围；、样本采集的范围会影响回归方程的适用范围；4、不能期望回归方程得到的预报值就是预报变量的精确值。、不
19、能期望回归方程得到的预报值就是预报变量的精确值。事实上，它是预报变量的可能取值的平均值。事实上，它是预报变量的可能取值的平均值。这些问题也使用于其他问题。这些问题也使用于其他问题。涉及到统计的一些思想：涉及到统计的一些思想：模型适用的总体；模型适用的总体；模型的时间性；模型的时间性；样本的取值范围对模型的影响；样本的取值范围对模型的影响；模型预报结果的正确理解。模型预报结果的正确理解。一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解析变量，哪）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。个变量是预报变量。（2）画出确定好的解
20、析变量和预报变量的散点图，）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。观察它们之间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程数据呈线性关系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小）按一定规则估计回归方程中的参数（如最小二乘法）。二乘法）。（5）得出结果后分析残差图是否有异常（个别数）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型等），若存在异常，则检查数据是否有误，或模型是否合适等。是否合适等。学科学科ABCDE 数学成绩数学成绩x/分分8876736663物理成绩物理成绩y/分分7865716461根据表中数据可以求得51522150.26 55iiiiix yx yxxb小结：小结：2.正确认识回归模型预报结果正确认识回归模型预报结果3.残差分析和相关指数残差分析和相关指数R2的作用的作用1.如何求回归直线方程？如何求回归直线方程？谢谢谢谢
