11回归分析的基本思想及其初步应用课件.ppt

1、1.1回归分析的基本回归分析的基本思想及其初步应用思想及其初步应用数学必修数学必修第二章第二章 统计统计2.1 2.1 随机抽样随机抽样2.2 2.2 用样本估计总体用样本估计总体2.3 2.3 变量间的相关关系变量间的相关关系问题问题1：正方形的面积：正方形的面积y与正方形的边长与正方形的边长x之之间的间的关系关系是是y=x2确定性关系确定性关系变量之间的两种关系变量之间的两种关系10 20 30 40 50500450400350300施施化肥量化肥量x 15 20 25 30 35 40 45水稻产量水稻产量y 330 345 365 405 445 450 455xy施施化肥量化肥量水

2、稻产量水稻产量问题问题2：某水田水稻产量：某水田水稻产量y与施肥量与施肥量x之间是否之间是否有一个确定性的关系？有一个确定性的关系？非确定性关系非确定性关系-相关关系相关关系两两个变量的关系个变量的关系不相关不相关 相相关关关系关系（非确定性关系）（非确定性关系）函数函数关系（确定性关系）关系（确定性关系）线性相关线性相关非线性相关非线性相关问题问题1：两：两个变量间的关系有哪些呢？个变量间的关系有哪些呢？相关关系：相关关系：对于两个变量，当自变量取值一定时，对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关因变量的取值带有一定随机性的两个变量之间的关系。系。对具有

3、相关关系的两个变量进行统计分对具有相关关系的两个变量进行统计分析的方法叫析的方法叫回归分析回归分析.步骤步骤：（1）画出两个变量的散点图）画出两个变量的散点图（2）求回归直线方程）求回归直线方程（3）利用回归直线方程进行预报）利用回归直线方程进行预报例例1 从某大学中随机选出从某大学中随机选出8 8名女大学生，其身高名女大学生，其身高和体重数据如下表：和体重数据如下表：编号12345678身高165165157170175165155170体重4857505464614359求根据女大学生的身高预报体重的回归方程，并求根据女大学生的身高预报体重的回归方程，并预报一名身高为预报一名身高为1721

4、72的女大学生的体重的女大学生的体重.解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：5943616454505748体重/kg170155165175170157165165身高/cm87654321编号由散点图可知，身高和体重有比较好的线性相关关由散点图可知，身高和体重有比较好的线性相关关系，设回归直线方程为系，设回归直线方程为由由最小二乘法最小二乘法公式得公式得0.849b 85.712a 所以回归方程为所以回归方程为0.84985.712yx对于身高对于身高172cm的女大学生，可以预报其体重为的女大学生，可以预报其体重为0.849

5、 17285.71260.316(kg)y axby1.确定变量；确定变量；2.作散点图，判断相关关系；作散点图，判断相关关系；3.设回归方程；设回归方程；4.求回归方程求回归方程:(最小二乘法最小二乘法)5.根据回归方程作出预报根据回归方程作出预报.解答步骤：解答步骤：用最用最小二小二乘法乘法求线求线性回归方性回归方程步骤：程步骤：ybxa121()()()niiiniixXyYbXX aYbXniiniiixnxyxnyx1221（1）求）求,1211nxxxxnxnniinyyyynynnii2111（2）求）求（3）把（）把（1）（）（2）带入公式即可）带入公式即可,22111nnni

6、iiyxyxyxyx2222112nniixxxx25.16581701551651751701571651658181iixx5.54859436164545057488181iiyy723155917050157571654816581iiiyx218774)170()165()165(22212niix编号12345678x身高 165165157170175165155170y体重4857505464614359849.0)25.165(82187745.5425.165872315882812281iiiiixxyxyxb25.1658170155165175170157165165

7、8181iixx5.54859436164545057488181iiyy723155917050157571654816581iiiyx218774)170()165()165(222812iix712.85xbya练习：活页练习练习：活页练习P55、7 7下表提供了某厂节能降耗技术改造后生产甲产品过程下表提供了某厂节能降耗技术改造后生产甲产品过程中记录的产量中记录的产量x(吨吨)与相应的生产能耗与相应的生产能耗y(吨标准煤吨标准煤)的几组对的几组对照数据：照数据：(1)请画出上表数据的散点图；请画出上表数据的散点图；(2)请根据上表提供的数据，用最小二乘法求出请根据上表提供的数据，用最小二

8、乘法求出y关于关于x的线的线性回归方程；性回归方程；(3)已知该厂技改前已知该厂技改前100吨甲产品的生产能耗为吨甲产品的生产能耗为90吨标准吨标准煤试根据煤试根据(2)求出的线性回归方程，预测技巧后生产求出的线性回归方程，预测技巧后生产100吨甲产品比技改前少消耗多少吨标准煤吨甲产品比技改前少消耗多少吨标准煤(参考数值：参考数值：32.5435464.566.5)x3456y2.5344.5解：解：(1)如下图如下图7.0)5.4(4865.35.445.66442412241iiiiixxyxyxb5.4465434141iixx5.345.4435.24141iiyy5.665.4645

9、345.2341iiiyx86)6()5()4()3(2222412iix(2)35.0 xbya35.07.0 xy则(3)根据回归方程预测，现在生产根据回归方程预测，现在生产100吨产品消吨产品消耗的标准煤的数量为耗的标准煤的数量为0.71000.3570.35，故耗能减少了故耗能减少了9070.3519.65(吨吨/标准煤标准煤)讲评：活页练习讲评：活页练习P55、1,2,3,5，课后练习报纸第五版随堂练习课后练习报纸第五版随堂练习 回归分析回归分析 1,2,4,5，探究：身高为探究：身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原

10、因吗？吗？如果不是，你能解析一下原因吗？答：用这个回归方程不能给出每个身高为答：用这个回归方程不能给出每个身高为172cm的女大的女大学学生的体重的预测值生的体重的预测值，只，只能给出她们平均体能给出她们平均体重的估重的估计值。计值。0.84985.712yx回归方程回归方程对于身高对于身高172cm的女大学生，可以预报其体重为的女大学生，可以预报其体重为0.849 17285.71260.316(kg)y 由于所有的样本点不共线，而只是散布在某一直线的附近，所由于所有的样本点不共线，而只是散布在某一直线的附近，所以身高和体重的关系可以用以身高和体重的关系可以用线性回归模型线性回归模型来表示：

11、来表示：其中其中a和和b为模型的未知参数，为模型的未知参数，e称为随机误差称为随机误差.eabxy函数模型与函数模型与“回归模型回归模型”的关系的关系函数模型：因变量函数模型：因变量y完全由自变量完全由自变量x确定确定回归模型：回归模型：预报变量预报变量y完全由解释变量完全由解释变量x和随机误差和随机误差e确定确定注：注：e 产生的主要原因：产生的主要原因：(1)所用确定性函数不恰当；所用确定性函数不恰当；(2)忽略了某些因素的影响；忽略了某些因素的影响；(3)观测误差。观测误差。思考思考1:产生随机误差项产生随机误差项e的原因是什么？的原因是什么？思考思考2：在线性回归模型中，在线性回归模型

12、中，e是用是用bx+a预报真实值预报真实值y的的随机误差，它是一个不可观测的量，那么应如何研究随机随机误差，它是一个不可观测的量，那么应如何研究随机误差呢？误差呢？e=y-(bx+a),1,2,.,1,2,.iiiiiiiiybxa ineyyybxa ine1122nniii残差：一般的对于样本点（x,y）,(x,y),.,(x,y),它们的随机误差为e其估计值为称为相应于点(x,y)的残差。结合例结合例1除了身高影响体重外的其他因素是不可测量的，除了身高影响体重外的其他因素是不可测量的，不能希望有某种方法获取随机误差的值以提高预报变量的不能希望有某种方法获取随机误差的值以提高预报变量的估计

13、精度，但却可以估计预报变量观测值中所包含的随机估计精度，但却可以估计预报变量观测值中所包含的随机误差，这对我们查找样本数据中的错误和模型的评价极为误差，这对我们查找样本数据中的错误和模型的评价极为有用，因此在此我们引入残差概念。有用，因此在此我们引入残差概念。eyy 随机误差随机误差eyy e的估计量的估计量样本点：样本点：1122(,),(,),.,(,)nnxyxyxy相应的随机误差为：相应的随机误差为：,1,2,.,iiiiieyyybxa in 随机误差的估计值为：随机误差的估计值为：,1,2,.,iiiiieyyybxa in ie称为相应于点称为相应于点 的的残差残差.(,)iix

14、y思考思考3：如何发现数据中的错误？如何衡量随机模型的拟合效果？：如何发现数据中的错误？如何衡量随机模型的拟合效果？(1)我们可以通过分析发现原始数据中的可疑数据，判断我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。建立模型的拟合效果。iiieybxa（1）计算（i=1,2,.n）残差分析（2）画残差图（1）查找异常样本数据（3）分析残差图（2）残差点分布在以O为中心的水平带状区域，并沿水平方向散点的分布规律相同。残差图的制作和作用：残差图的制作和作用：制作：坐标纵轴为残差变量，横轴可以有不同的选择制作：坐标纵轴为残差变量，横轴可以有不同的选择.横轴为编号：可以考察残差与编号

15、次序之间的关系，横轴为编号：可以考察残差与编号次序之间的关系，常常用于调查数据错误用于调查数据错误.横轴为解释变量：可以考察残差与解释变量的关系，常用横轴为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地于研究模型是否有改进的余地.作用：判断模型的适用性若模型选择的正确，残差图中的点应作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域该分布在以横轴为中心的带形区域.下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。编号编号12345678身高身高/cm1651651

16、57170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以横轴若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明：第一个样本点和第第一个样本点和第6个样本点的残差比较大，需

17、要确认在采集过个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。回归方程的预报精度越高。

18、显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。表示解析变量对预报变量变化的贡献率。R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越接近越接近1，表示解析变量和预报变量的，表示解析变量和预报变量的线性相关性越强）线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值的值来做出选择，即选取来做出选择，即选取R2较大的

19、模型作为这组数据的模型。较大的模型作为这组数据的模型。（2）我们可以用相关指数）我们可以用相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残 差 平 方 和。总 偏 差 平 方 和一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系 （如是否存在线性关系等）。（如是

20、否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。否有误，或模型是否合适等。问题五：归纳建立回归模型

21、的基本步骤问题五：归纳建立回归模型的基本步骤问题六：若两个变量呈现非线性关系，如何解决？问题六：若两个变量呈现非线性关系，如何解决？（分析例（分析例2）例例2 一只红铃虫的产卵数一只红铃虫的产卵数y和温度和温度x有关。现收集了有关。现收集了7组观测数据列于表中：组观测数据列于表中：温度温度xoC21232527293235产卵数产卵数y/个个711212466115325（1 1）试建立产卵数）试建立产卵数y y与温度与温度x x之间的回归方程；并预测温度为之间的回归方程；并预测温度为2828o oC C时产卵数目。时产卵数目。（2 2）你所建立的模型中温度在多大程度上解释了产卵数的变化？）你

22、所建立的模型中温度在多大程度上解释了产卵数的变化？选变量选变量 解：选取气温为解释变量解：选取气温为解释变量x x，产卵数，产卵数 为预报变量为预报变量y y。画散点图画散点图假设线性回归方程为假设线性回归方程为：=bx+a选选 模模 型型分析和预测分析和预测当当x=28时，时，y=19.8728-463.73 93估计参数估计参数由计算器得：线性回归方程为由计算器得：线性回归方程为y=y=19.8719.87x x-463.73-463.73 相关指数相关指数R R2 2=r r2 20.8640.8642 2=0.7464=0.7464所以，一次函数模型中温度解释了所以，一次函数模型中温度

23、解释了74.64%的产卵数变化。的产卵数变化。050100150200250300350036912151821242730333639当当x=28时，时，y=19.8728-463.73 93方法一：一元函数模型方法一：一元函数模型产卵数产卵数气温气温 变换变换 y=bx+a 非线性关系非线性关系 线性关系线性关系43c xyc e对数对数方法二：指数函数模型xccexccecyxc43433lnlnlnlnlnln4abxzzybcac则有令,ln,ln43温度温度x/21232527Z=lny1.9462.3983.4053.178产卵数y/个71121242932354.1904.74

24、5 5.78466115325c由计算器得：由计算器得：z关于关于x的线性回归方程的线性回归方程相关指数相关指数 因此因此y关于关于x的非线性回的非线性回归方程为归方程为98.02R489.3272.0 xz当当x=28 时，时，y 44，指数回归模型中温度解释了，指数回归模型中温度解释了98%的产卵数的变化的产卵数的变化C489.3272.0 xey y=c1 x2+c2 变换变换 y=c1 t+c2 非线性关系非线性关系 线性关系线性关系问题问题选用选用y=c1x2+c2，还是，还是y=c1x2+cx+c2？问题问题3 产卵数产卵数气温气温问题问题2如何求如何求c1、c2？t=x2方法方法

25、三三，二元函数模型，二元函数模型平方变换平方变换：令令t=xt=x2 2，产卵数，产卵数y y和温度和温度x x之间二次函数模型之间二次函数模型y=bxy=bx2 2+a+a就转化就转化为产卵数为产卵数y y和温度的平方和温度的平方t t之间线性回归模型之间线性回归模型y=bt+ay=bt+a温度温度21232527293235温度的平方温度的平方t44152962572984110241225产卵数产卵数y/个个711212466115325作散点图，并由计算器得：作散点图，并由计算器得：y y和和t t之间的线性回归方程为之间的线性回归方程为y=y=0.3670.367t t-202.54

26、-202.54，相关指数，相关指数R R2 2=r r2 20.8960.8962 2=0.802=0.802将将t=xt=x2 2代入线性回归方程得：代入线性回归方程得：y=y=0.3670.367x x2 2-202.54-202.54当当x x=28=28时时，y y=0.367=0.36728282 2-202.5485202.5485，且，且R R2 2=0.802=0.802，所以，二次函数模型中温度解所以，二次函数模型中温度解释了释了80.2%80.2%的产卵数变化。的产卵数变化。t函数模型函数模型相关指数相关指数R2线性回归模型线性回归模型0.7464二次函数模型二次函数模型0

27、.802指数函数模型指数函数模型0.98最好的模型是哪个最好的模型是哪个?显然，指数函数模型最好！显然，指数函数模型最好！(2)20.367202.543yx (1)0.2723.849xye 利用残差计算公式：利用残差计算公式：0.2723.849(1)(1),1,2,7ixiiiieyyyei (2)(2)20.367202.543,1,2,7iiiiieyyyxi 77.968-58.265-40.104-41.000-5.83219.40047.69634.675-13.3819.230-8.9501.875-0.1010.557325115662421117Y353229272523

28、21X(1)ie(2)ie故指数函数模型的拟合效果比二次函数的模拟效果好故指数函数模型的拟合效果比二次函数的模拟效果好.由条件由条件R2分别为分别为0.98和和0.80，可得它们的效果，可得它们的效果.在散点图中，样本点没有分布在某个带状区域内，因在散点图中，样本点没有分布在某个带状区域内，因此两个变量不呈现线性相关关系，所以不能直接利用此两个变量不呈现线性相关关系，所以不能直接利用线性回归方程来建立两个变量之间的关系线性回归方程来建立两个变量之间的关系.令令z=lny，则变换后样本点应该分布在直线，则变换后样本点应该分布在直线z=bx+a（a=lnc1，b=c2）的周围）的周围.利用线性回归模型建立利用线性回归模型建立y和和x之间的非线性回归方程之间的非线性回归方程.当回归方程不是形如当回归方程不是形如y=bx+a时，我们称之为时，我们称之为非线性回归方非线性回归方程程.根据已有的函数知识，可以发现样本点分布在某一条指根据已有的函数知识，可以发现样本点分布在某一条指数函数曲线数函数曲线 的周围，其中的周围，其中c1和和c2是待定参数是待定参数.xcecy21回归分析的基本思想及其初步应用回归分析的基本思想及其初步应用探索无止境探索无止境探索无止境探索无止境探索无止境