曲线拟合精选课件.ppt

1、y=56.665ey=56.665e-0.038x-0.038xy=159.93xy=159.93x-0.7191-0.7191y=-0.7525x+46.46y=-0.7525x+46.46y=-15.966Ln(x)+72.283y=-15.966Ln(x)+72.283-20-200 020204040606080801001001201200 02020404060608080曲线拟合曲线拟合Curve fitting 郑大公卫统计教研室郑大公卫统计教研室平智广平智广 医学研究中医学研究中X和和Y的数量关系常常不的数量关系常常不是线性的，如毒物剂量与动物死亡率，人是线性的，如毒物剂量与

2、动物死亡率，人的生长曲线，药物动力学等，都不是线性的生长曲线，药物动力学等，都不是线性的。如果用线性描述将丢失大量信息，甚的。如果用线性描述将丢失大量信息，甚至得出错误结论。至得出错误结论。一、非线性关系的类型与特点一、非线性关系的类型与特点根据非线性关系的性质和特点可大致分为根据非线性关系的性质和特点可大致分为6类：类：1.指数形式关系指数形式关系2.对数形式关系对数形式关系3.幂形式关系幂形式关系4.双曲形式关系双曲形式关系5.S型形式关系型形式关系6.多项式形式关系多项式形式关系两种形式：两种形式：bxaey xaby a 0,b0a 0,b0，b0时，Y随x的而，曲线凹向上；当a0，b

3、0 b 0时，Y随x的而，曲线凸向上；当b0,0b0,b1a 0,b0，b1时，Y随x的而，曲线凹向上；当a0，0b0，b0,b0a0,b0，b0时，Y随x的而，速率趋小，曲线凸向上，并向y=1/b渐进；当a0，b0时，Y随x的而，速率趋大，曲线凹向上，并向y=-a/b渐近。(五五)S)S型曲线型曲线 S型曲线由于其曲线形状与动、植物的生长过程的基本特点类似，故又称生长曲线，曲线一开始时增长较慢，而在以后的某一范围内迅速增长，达到一定的限度后增长又缓慢下来，曲线呈拉长的”S”，故称S曲线 最著名的曲线是Logistic生长曲线，它最早由比利时数学家P.F.Vehulst于1838年导出，但直至

4、20世纪20年代才被生物学家及统计学家R.Pearl和L.J.Reed 重新发现，并逐渐被人们所发现。目前它已广泛应用于多领域的模拟研究。221xbxbay(6)(6)多项式回归多项式回归当两个变数间的曲线关系很难确定时，可以适当两个变数间的曲线关系很难确定时，可以适应多项式去逼近，称为多项式回归（应多项式去逼近，称为多项式回归（polynomial regression)。最简单的是二次多项式，其方程为：最简单的是二次多项式，其方程为：它的图象是抛物线。它的图象是抛物线。当当b20时，曲线凹向上，有一个极小值；时，曲线凹向上，有一个极小值；b2 0 时，曲线凸向上，有一个极大值。时，曲线凸向

5、上，有一个极大值。曲线直线化估计曲线直线化估计(Curve estimation)非线性非线性/曲线回归曲线回归(Nonlinear/curvilinear regression)解决办法解决办法二、曲线直线化二、曲线直线化拟合曲线回归方程的步骤：拟合曲线回归方程的步骤：根据变数根据变数X与与Y之间的确切关系，选择适当的曲之间的确切关系，选择适当的曲线类型。线类型。对选定的曲线类型，在线性化后按最小二乘法对选定的曲线类型，在线性化后按最小二乘法原理配置直线回归方程。原理配置直线回归方程。将直线回归方程转换成相应的曲线回归方程，将直线回归方程转换成相应的曲线回归方程，并对有关统计参数作出推断。并

6、对有关统计参数作出推断。1.比较决定系数选取比较决定系数选取“最佳最佳”曲线方程曲线方程(一一)对数关系曲线的拟合对数关系曲线的拟合xbayln例例1：上海医科大学微生物学教研室以已知浓度：上海医科大学微生物学教研室以已知浓度X的的免疫球蛋白免疫球蛋白A(IgA,g/ml)作火箭电泳作火箭电泳,测得火箭测得火箭高度高度Y(mm)如表如表1所示。试拟合所示。试拟合Y关于关于X的非线性的非线性回归方程。回归方程。表表1 免疫球蛋白与火箭高度的关系免疫球蛋白与火箭高度的关系xbaylnY(lnX)2 Y2 (lnX)Y 残差平方残差平方2.5902 57.76 -12.2314 2.5902 57.

7、76 -12.2314 7.23 0.1380 0.8396 151.29 -11.2705 0.8396 151.29 -11.2705 12.62 0.1017 0.2609 246.49 -8.0196 0.2609 246.49 -8.0196 15.77 0.0053 0.0498 331.24 -4.0604 0.0498 331.24 -4.0604 18.01 0.0361 0.0000 349.69 0.0000 0.0000 349.69 0.0000 19.75 1.0921 0.0332 457.96 3.9012 0.0332 457.96 3.9012 21.16

8、0.0563 0.1132 510.76 7.6049 0.1132 510.76 7.6049 22.36 0.0566 0.2209 566.44 11.1860 0.2209 566.44 11.1860 23.40 0.1597 4.10784.1078 2671.632671.63 -12.8898-12.8898 1.6458表表2 免疫球蛋白与火箭高度的关系免疫球蛋白与火箭高度的关系 回归方程为：回归方程为：=19.7451+7.7771lnX 方差分析有统计学意义，方差分析有统计学意义，P0.0000，F763.50，表明回，表明回归方程有贡献。归方程有贡献。确定系数为确定系数

9、为0.992，表明回归拟合原资料很好。，表明回归拟合原资料很好。Y(二二)指数函数拟合指数函数拟合15名重伤病人的住院天数名重伤病人的住院天数X与预后指数与预后指数Y的数据，根据两者的关系拟合曲线。的数据，根据两者的关系拟合曲线。表表2 重伤病人的住院天数重伤病人的住院天数X与预后指数与预后指数Y0102030405060020406080住院天数预后指数00.511.522.533.544.5020406080住院天数预后指数（lnY）2.曲线直线化变换曲线直线化变换3.建立线性回归方程建立线性回归方程 回归方程为：回归方程为：4.037-0.038X 方差分析有统计学意义，方差分析有统计学

10、意义，P0.0001，F276.38，表明回归方程有贡献。表明回归方程有贡献。R2为为0.9551，表明回归拟合原资料较好。，表明回归拟合原资料较好。转换为原方程的另一种形式：转换为原方程的另一种形式：YlnXXeeY038.0)038.0037.4(665.56曲线直线化曲线直线化 AnalyzeRegressionCurve Estimation 可选可选Power、Logarithmic、Exponential、Quadratic、Cubic 等等 非线性回归非线性回归 AnalyzeRegression Nonlinear 设置模型：设置模型：Model Expression 参数赋初

11、值：参数赋初值：Parameters 三、采用三、采用SPSS进行曲线拟合进行曲线拟合 当仅分析两个变量之间的数量关系时，可以通过当仅分析两个变量之间的数量关系时，可以通过curve estimation进行估计，此过程即为进行曲线直线化的过程。进行估计，此过程即为进行曲线直线化的过程。(一一)Curve Estimation Linear Quadratic Compound Growth Logarithmic Cubic S Exponential Inverse Power LogisticXbbY102210XbXbbYXbbY10)(10XbbeYXbbYln10332210XbX

12、bXbbYXbbY/10)/(10XbbeYXbebY1010bXbY)/1/(110XbbuYM Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable:火箭高度.93992.44516.0007.76110.863.992 763.49916.00019.7457.777.88545.94816.00123.511-3.516.987 185.16525.0004.09121.872-6.116.994 22

13、9.28734.0001.52935.202-23.5886.471.84232.08816.0018.7302.041.982 332.17416.00019.325.537.968 180.01816.0003.242-.255.84232.08816.0012.167.714.84232.08816.0018.730.714.84232.08816.001.115.490EquationLinearLogarithmicInverseQuadraticCubicCompoundPowerSGrowthExponentialLogisticR SquareFdf1df2Sig.Model

14、SummaryConstantb1b2b3Parameter EstimatesThe independent variable is 免疫球蛋白.M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable:火箭高度.958159.87617.00017.711.015.10817.752-3.138.3363.54617.1024.850.996699.37126.00031.443-10.808.999 27

15、71.87835.00041.751-31.2319.094.87749.88617.00013.811.078.58817.468-1.100.4816.48517.038.899.87749.88617.0002.625.87749.88617.0002.625.87749.88617.000.072EquationLinearLogarithmicInverseQuadraticCubicCompoundPowerSGrowthExponentialLogisticR SquareFdf1df2Sig.Model Summaryb1b2b3Parameter EstimatesThe i

16、ndependent variable is 免疫球蛋白.(二二)非线性回归非线性回归 变量变化可以解决一部分曲线拟合的问题，变量变化可以解决一部分曲线拟合的问题，直线回归采用的是最小二乘法，它保证的直线回归采用的是最小二乘法，它保证的是变换后的残差平方和最小，如果变换回是变换后的残差平方和最小，如果变换回原始数据，不一定是最优方程；原始数据，不一定是最优方程；曲线关系极为复杂时，简单的变量变化往曲线关系极为复杂时，简单的变量变化往往不能转换为直线方程；往不能转换为直线方程；Curve Estimation仅能进行简单的曲线拟仅能进行简单的曲线拟合，而且其原理也是曲线直线化。合，而且其原理也是

17、曲线直线化。XXeeY038.0)038.0037.4(665.56Parameter EstimatesParameter Estimates58.6071.47255.42661.787-.040.002-.043-.036ParameterabEstimateStd.ErrorLower BoundUpper Bound95%Confidence Interval-0.03958645282527XeY0396.06066.58M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es

18、st ti im ma at te es sDependent Variable:预后指数.955276.379113.00056.665-.038EquationExponentialR SquareFdf1df2Sig.Model SummaryConstantb1Parameter EstimatesThe independent variable is 住院天数.ANOVAANOVAa a12060.54126030.27049.459133.80512110.000153943.33314SourceRegressionResidualUncorrected TotalCorrect

19、ed TotalSum ofSquaresdfMeanSquaresDependent variable:预后指数R squared=1-(Residual Sum of Squares)/(Corrected Sum of Squares)=.987.a.XXeYeY0396.0038.06066.58;665.56曲线直线化曲线直线化 非线性最小二乘法非线性最小二乘法l比较两个回归方程可见，对同一份样本采比较两个回归方程可见，对同一份样本采用不同估计方法得到的结果并不相同。用不同估计方法得到的结果并不相同。l主要因为曲线直线化以后的回归只对变换主要因为曲线直线化以后的回归只对变换后的后的Y

20、*(lnY)负责负责,得到的线性方程可使得到的线性方程可使Y*与其估计值与其估计值 之间的残差平方和最小，之间的残差平方和最小，并不保证原变量并不保证原变量Y与其估计值与其估计值 之间的残差之间的残差平方和也是最小。平方和也是最小。XeY038.0665.56YYXeY0396.06066.58对于例对于例2，几个常见曲线拟合得到的决定系数，几个常见曲线拟合得到的决定系数R2如如下（下（曲线直线化曲线直线化）：）：l线线 性性R2：0.8856(y=46.4604-0.7525x)l幂幂 曲曲 线线R2：0.8293(y=159.9297x-0.7191)l对数曲线对数曲线R2：0.9654(

21、y=72.2829-15.9662ln(x)l指数曲线指数曲线R2：0.9551(y=56.6651e-0.0380 x)l二二 项项 式式R2：0.9812(y=55.8221-1.7103x+0.0148x2)对于例对于例2，几个常见曲线拟合得到的决定系数，几个常见曲线拟合得到的决定系数R2如如下（下（非线性回归非线性回归迭代法迭代法）：）：l线线 性性R2：0.8856(y=46.4604-0.7525x)l幂幂 曲曲 线线R2：0.8413(y=88.7890 x-0.4662)l对数曲线对数曲线R2：0.9654(y=72.2829-15.9662ln(x)l指数曲线指数曲线R2：0

22、.9875(y=58.6066e-0.0396x)l二二 项项 式式R2：0.9812(y=55.8221-1.7103x+0.0148x2)原变量原变量Y与与 （直线或曲线方程得到）间相关系数（直线或曲线方程得到）间相关系数的绝对值相关指数的绝对值相关指数Rl线线 性性R：X与与Y间相关系数绝对值间相关系数绝对值l幂幂 曲曲 线线R：lnX与与lnY间相关系数绝对值间相关系数绝对值l对数曲线对数曲线R：lnX与与Y间相关系数绝对值间相关系数绝对值l指数曲线指数曲线R：X与与lnY间相关系数绝对值间相关系数绝对值l二二 项项 式式R：(1SS残差残差/SS总总)R的计算的计算（曲线直线化）（曲

23、线直线化）YR的计算的计算（非线性回归）（非线性回归）原变量原变量Y与与 （直线或曲线方程得到）间相关系数（直线或曲线方程得到）间相关系数的绝对值相关指数的绝对值相关指数Rl线线 性性R：X与与Y间相关系数绝对值间相关系数绝对值l幂幂 曲曲 线线R：lnX与与lnY间相关系数绝对值间相关系数绝对值l对数曲线对数曲线R：lnX与与Y间相关系数绝对值间相关系数绝对值l指数曲线指数曲线R：X与与lnY间相关系数绝对值间相关系数绝对值l二二 项项 式式R：(1SS残差残差/SS总总)Y散点图辨析散点图辨析 0102030405060010203040506070病人住院天数X预后指数Y对数曲线指数曲线

24、 如果条件允许最好采用非线性回归如果条件允许最好采用非线性回归（Nonlinear Regression）拟合幂函数曲线）拟合幂函数曲线与指数函数曲线与指数函数曲线 注意绘制散点图，并结合专业知识解释注意绘制散点图，并结合专业知识解释M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te es sDependent Variable:Detrended sales.839 114.548122.0006.5841.071.901 199.831122.0

25、006.2743.539.894 185.866122.00013.751-9.508.908 104.213221.0003.9032.854-.245.90966.684320.0003.2833.471-.422.015.81697.750122.0006.9581.114.898 193.274122.0006.708.362.916 240.216122.0002.672-.986.81697.750122.0001.940.108.81697.750122.0006.958.108.81697.750122.000.144.897EquationLinearLogarithmicI

26、nverseQuadraticCubicCompoundPowerSGrowthExponentialLogisticR SquareFdf1df2Sig.Model SummaryConstantb1b2b3Parameter EstimatesThe independent variable is Advertising spending.XbebbY210XbebY101306.9580.108-6-1Parameter EstimatesParameter Estimates12.904.61011.63614.173-11.2681.581-14.556-7.979-.496.138

27、-.782-.209Parameterb0b1b2EstimateStd.ErrorLower BoundUpper Bound95%Confidence IntervalANOVAANOVAa a2748.5193916.1736.77821.3232755.2972474.52023SourceRegressionResidualUncorrected TotalCorrected TotalSum ofSquaresdfMeanSquaresDependent variable:Detrended salesR squared=1-(Residual Sum of Squares)/(C

28、orrected Sum of Squares)=.909.a.四、曲线回归的注意事项四、曲线回归的注意事项(一一)初始值设定初始值设定一般来说，当拟合模型较为简单，数据也不多时，无论一般来说，当拟合模型较为简单，数据也不多时，无论初始值如何，通过迭代都可以最终达到正确结果。但在初始值如何，通过迭代都可以最终达到正确结果。但在拟合复杂模型时，如果初始值设定不合理，常常造成迭拟合复杂模型时，如果初始值设定不合理，常常造成迭代不收敛或者得到模型的局部最优解，而不是全局最优代不收敛或者得到模型的局部最优解，而不是全局最优解。解。多选几个初始值进行拟合，观察最终分析结果是否相同，多选几个初始值进行拟合

29、，观察最终分析结果是否相同，若不同，则筛选出最有结果；若不同，则筛选出最有结果；从图形上取几个点，解出各参数的近似值，将其作为初从图形上取几个点，解出各参数的近似值，将其作为初始值代入；始值代入；1.迭代时首先简化模型，拟合不太复杂的雏形，然后逐渐迭代时首先简化模型，拟合不太复杂的雏形，然后逐渐添加内容，最终拟合目标函数。添加内容，最终拟合目标函数。(二二)模型的分段拟合模型的分段拟合 许多情况下变量间的非线性关系不太好用一个统许多情况下变量间的非线性关系不太好用一个统一的函数关系来定义，但如果分为几段，则非常一的函数关系来定义，但如果分为几段，则非常容易表达。容易表达。22)(bXaY0X5

30、00 X50XdXcY0Y0)50()(50&0()(0(22XdXcXXbXaXY五、非线性回归软件介绍五、非线性回归软件介绍 目前世界上在该领域有名的软件工具包很多，如：Origin Pro、Matlab、SAS、SPSS、DataFit、GraphPad、TableCurve2D、TableCurve3D等。进行非线性回归时，均需用户提供适当的参数初始值以便计算能够收敛并找到最优解。如果设定的参数初始值不当则计算难以收敛，其结果是无法求得正确结果。而在实际应用当中，对大多数用户来说，给出(猜出)恰当的初始值是件相当困难的事，特别是在参数量较多的情况下，更无异于是场噩梦。(一一)采用采用S

31、AS进行曲线拟合进行曲线拟合(二二)利用利用Origin进行曲线拟合进行曲线拟合1stOpt(First Optimization)1stOpt是世界领先的非线性曲线拟合，是七维高科有限公司独立开发的一套数学优化分析综合工具软件包。在非线性回归、曲线拟合、非线性复杂工程模型参数估算求解等领域，居世界领先地位。界面简单易用，采用通用全局优化算法求解，该算法之最大特点是克服了当今世界上在优化计算领域中使用迭代法必须给出合适初始值的难题，即用户勿需给出参数初始值，而由1stOpt随机给出，通过其独特的全局优化算法，最终找出最优解。1stOpt凭借其超强的寻优，容错能力，在大多数情况下（大于90%)，从任一随机初始值开始，都能求得正确结果。LINGO Lingo是Linear Interactive and General Optimizer的缩写，即“交互式的线性和通用优化求解器”，由美国LINDO系统公司推出的，可以用于求解非线性规划，也可以用于一些线性和非线性方程组的求解等，功能十分强大，是求解优化模型的最佳选择。其特色在于内置建模语言，提供十几个内部函数，可以允许决策变量是整数(即整数规划，包括 0-1 整数规划)，方便灵活，而且执行速度非常快。能方便与EXCEL，数据库等其他软件交换数据。