计算方法第三章函数逼近与快速傅里叶变换课件.ppt

1、1 第第第第第第3 3 3章章章章章章 函数逼近与快速傅里函数逼近与快速傅里函数逼近与快速傅里函数逼近与快速傅里函数逼近与快速傅里函数逼近与快速傅里叶变换叶变换叶变换叶变换叶变换叶变换3.13.1函数逼近的基本概念函数逼近的基本概念3.23.2正交多项式正交多项式3.33.3最佳平方逼近最佳平方逼近3.43.4曲线拟合的最小二乘法曲线拟合的最小二乘法3.53.5有理逼近有理逼近3.63.6三角逼近与快速傅里叶变换三角逼近与快速傅里叶变换23.1 函数逼近的基本概念函数逼近的基本概念问题的提出在数值计算中经常要计算函数值，如计算机中计算基本初等函数及其它特殊函数；当函数只在有限点集上给定函数值，

2、要在包含该点集的区间上用公式给出函数的简单表达式，这些都涉及在区间a,b上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题.第二章讨论的插值法就是函数逼近的一种.3本章讨论的函数逼近，是指本章讨论的函数逼近，是指“对函数类对函数类A中给定的中给定的函数函数f(x)，记作，记作f f(x)AA，要求在另一类简单的便，要求在另一类简单的便于计算的函数类于计算的函数类B B中求函数中求函数p p(x)BB，使，使p p(x)与与f f(x)的误差在的误差在”.函数类函数类A通常是通常是区间区间 a,b 上的连续函数，记作上的连续函数，记作C a,b，称为，称为函函数逼近空间数逼近空间；而函数；而

3、函数B通常为通常为n n次多项式次多项式,有理函数有理函数或或分段低次多项式分段低次多项式等等.为了在数学上描述更精确，为了在数学上描述更精确，先要介绍代数和分析中一些基本概念及预备知识。先要介绍代数和分析中一些基本概念及预备知识。问题的提出问题的提出4空间定义空间定义 数学上常把在各种集合中引入某一些不同的确定数学上常把在各种集合中引入某一些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合关系称为赋予集合以某种空间结构，并将这样的集合称为空间。称为空间。5空间举例空间举例例例3 所有定义在所有定义在 a,b 集合上的连续函数全体，按函集合上的连续函数全体，按函数的加法和数乘构成数的加

4、法和数乘构成数域数域R上的上的连续函数连续函数线性空间线性空间 Ca,b,称为称为连续函数空间连续函数空间.类似地记类似地记Cpa,b为为具有具有p阶连续导数的函数空间阶连续导数的函数空间.例例1 所有实所有实n维向量集合，按向量的加法和数乘构成维向量集合，按向量的加法和数乘构成实数域实数域R上的上的线性空间线性空间-Rn,称为称为n维向量空间维向量空间.例例2 对次数不超过对次数不超过n的（的（n为正整数）实系数多项式为正整数）实系数多项式全体，按多项式加法和数乘构成数域全体，按多项式加法和数乘构成数域R上的多项式上的多项式线线性空间性空间-Hn,称为称为多项式空间多项式空间.6线性无关线性

5、无关 定义定义1 1 设集合设集合S是数域是数域P上的线性空间，元素上的线性空间，元素x1,x2,xnS，如果存在不全为零的数，如果存在不全为零的数a1,a2,anP，使得使得则称则称x1,x2,xn 线性相关线性相关，否则称，否则称x1,x2,xn 线性无关线性无关，即只有当即只有当a1=a2=an=0时等式时等式(3.1)(3.1)才成立才成立.1122.0,nna xa xa x (3.1)7线性空间线性空间 若线性空间若线性空间S是由是由n个线性无关元素个线性无关元素x1,xn生成的，生成的，即对任意即对任意xS，都有，都有则则x1,xn称为空间称为空间S的的一组基一组基,记为记为S=

6、spanx1,xn,并称空间并称空间S为为n维空间维空间，系数，系数a1,an为为x在基在基x1,xn下下的的坐标坐标，记作，记作(a1,an)，如果，如果S中有无限多个线性无关中有无限多个线性无关元素元素x1,xn,，则称，则称S为为无限维线性空间无限维线性空间.,11nnxaxax 8多项式空间多项式空间 下面考虑次数不超过下面考虑次数不超过n实系数多项式集合实系数多项式集合Hn，其其元素元素p(x)Hn表示为表示为它由它由n+1个系数个系数(a0,a1,an)唯一确定唯一确定.1,x,xn 线性无线性无关，它是关，它是Hn的一组基，故的一组基，故集合集合 Hn=span1,x,xn，且且

7、(a0,a1,an)是是p(x)的坐标向量的坐标向量，Hn是是n+1维维的的.)2.3()(0111axaxaxaxPnnnn9连续函数逼近连续函数逼近 对连续函数对连续函数f(x)Ca,b，它不能用有限个线性它不能用有限个线性无关的函数表示，故无关的函数表示，故Ca,b是无限维的，但它的任一是无限维的，但它的任一元素元素f(x)Ca,b均可用有限维的均可用有限维的p(x)Hn逼近，使逼近，使误差误差其中其中为任意给的小正数，即精度要求为任意给的小正数，即精度要求.这就是下面这就是下面著名的著名的魏尔斯特拉斯（魏尔斯特拉斯（WeierstrassWeierstrass）定理）定理.)()()(

8、)(maxxpxfxpxfbxa10魏尔斯特拉斯定理魏尔斯特拉斯定理 定理定理1 1 设设f(x)Ca,b，则对任何则对任何0，总存在一总存在一个代数多项式个代数多项式p(x)，使使 )()(xpxf在在a,b上一致成立上一致成立.（证明略，见书（证明略，见书p52p52有说明有说明.）11伯恩斯坦多项式伯恩斯坦多项式上一致成立；，在使得其中伯恩斯坦多项式给出一种构造性证明：伯恩斯坦 1,0)(),(lim ,)1()(3.3),(),()1912(0 xfxfBxxknxPxPnkfxfBnnknkknkkn).(),(lim 1,0)()()(xfxfBCxfmmnnm ，则，则若若由由(

9、3.3)(3.3)式给出的式给出的Bn(f,x)也是也是f(x)在在0,1上的一上的一个逼近多项式，但它收敛太慢，实际中很少使用个逼近多项式，但它收敛太慢，实际中很少使用.12一般提法一般提法 更一般地，可用一组在更一般地，可用一组在Ca,b上线性无关的函数上线性无关的函数集合集合 来逼近来逼近f(x)Ca,b，元素表示为元素表示为 niix0)(函数逼近问题就是对任何函数逼近问题就是对任何f(x)Ca,b，在子空，在子空间间 中找一个元素中找一个元素*(x)，使使f(x)-*(x)在某种意义在某种意义下最小下最小.,)(,)(,)(span )()()()(101100baCxxxxaxax

10、axnnn13范数与赋范线性空间范数与赋范线性空间 为了对线性空间中元素大小进行衡量，需要为了对线性空间中元素大小进行衡量，需要引进范数定义，它是引进范数定义，它是Rn空间中向量长度概念的直空间中向量长度概念的直接推广接推广.定义定义2 设设S为线性空间，为线性空间，x S，若存在唯一实，若存在唯一实数数 ，满足条件：，满足条件：(1)x0;当且仅当当且仅当x0时时,x=0;(正定性正定性)(2)x=|x,R;(齐次性齐次性)(3)x+yx+y,x,y S.(三角不等式三角不等式)则称则称 为线性空间为线性空间S上的上的范数范数，S 与与 一起称一起称为为赋范线性空间赋范线性空间，记为，记为X

11、.14向量的常用范数向量的常用范数 称称为为范范数数或或最最大大范范数数,1称称为为 范范数数,2称称为为 范范数数.1max,ii nxx 11,niixx 12221,niixx 对对Rn上的向量上的向量 x(x1,x2,xn)T,三种常用范数为三种常用范数为15函数的常用范数函数的常用范数 类似的对连续函数空间类似的对连续函数空间Ca,b,若若fCa,b可定可定义以下三种常用义以下三种常用函数的范数函数的范数|max|()|,axbff x 称称为为范范数数1|()|,baff xdx 1 称称为为范范数数1222|(),baffx dx 2 称称为为范范数数16矩阵的常用范数矩阵的常用

12、范数max11aAnjijni)aAnij（()0)(maxAAEfAAAATTTmax111aAniijnjlll)(max2AAATl即的最大特征值表示其中称为称为A的行范数的行范数对n阶方阵称为称为A的列范数的列范数称为称为A的的2-范数范数17例题例题例例4 计算向量计算向量x的范数，其中的范数，其中Tx3,2,1 解解 6321311iixx7.3143)2(122312221iixx33,2,1maxmax31iixx18例题例题例例5 计算函数计算函数x2关于关于C0,1的范数的范数.解解 1max2102xxx55)(21102222dxxx3110212dxxx19例题例题例

13、例6 计算矩阵计算矩阵A的范数，其中的范数，其中解解 75107A17710,57maxmax21211iijjaA9.14223)(max2AAATl1775,107maxmax2121jijiaA20向量内积向量内积 在线性代数中，在线性代数中，Rn上的两个向量上的两个向量 x(x1,x2,xn)T与与y(y1,y2,yn)T的内积定义为的内积定义为 (x,y)=x1 y1+x2 y2+xn yn.若将它推广到一般的线性空间若将它推广到一般的线性空间X，则有下面的定义，则有下面的定义.21内积与内积空间内积与内积空间 定义定义3 设设X是数域是数域K(R或或C)上的线性空间，对任上的线性空

14、间，对任意意u,vX，有，有K中一个数与之对应，记为中一个数与之对应，记为(u,v)，它满，它满足以下条件：足以下条件：.0),(,0,0),()4(;,),(),(),()3(;,),(),()2(;,),(),()1(_ uuuuuXwvuwvwuwvuXvuKavuavauXvuuvvu时时当且仅当当且仅当则称则称(u,v)为为X上上u与与v的的内积内积，对应了内积的线性空间，对应了内积的线性空间称为称为内积空间内积空间.定义中定义中(1)当当K为实数域为实数域R时为时为(u,v)(v,u).22向量垂直向量垂直 如果如果(u,v)=0，则称，则称u与与v正交正交(记为记为uv)，这是，

15、这是向量相互垂直概念的推广向量相互垂直概念的推广.23加权内积加权内积若给定实数若给定实数wi0(i=1,n)，wi称为称为权函数权函数，则在，则在Rn上可定义上可定义加权内积加权内积为为niiiiyxyx1),(在在Ca,b上也可以类似定义带权内积上也可以类似定义带权内积，为此先给为此先给出权函数定义出权函数定义.24权函数权函数 定义定义4 设设a,b是有限或无限区间，在是有限或无限区间，在a,b上的上的非负函数非负函数w(x)满足条件：满足条件：),1,0()()1(kdxxwxbak存在且为有限值则称则称w(x)为为a,b上的一个上的一个权函数权函数.它的物理意义可以它的物理意义可以解

16、释为解释为密度函数密度函数.0)(0)()(,)2(xgdxxxgbaba则则，如果如果上的非负连续函上的非负连续函数数g(x)对对w25例题例题 例例7 Ca,b上的上的内积，设内积，设f(x),g(x)Ca,b，w(x)是是上给定的权函数，则可内积定义为上给定的权函数，则可内积定义为badxxgxfxwxgxf)()()()(),(容易验证它满足容易验证它满足内积定义的内积定义的4 4条，由此条，由此内积导出的范数内积导出的范数1222()(),()()()baf xf xf xw x fx dx 为带权为带权w(x)的的范数范数.26最佳逼近最佳逼近则称则称P*(x)是是f(x)在在a,

17、b上的上的最佳逼近多项式最佳逼近多项式.如果如果P(x)=span 0,1,n，则称相应的，则称相应的P*(x)为为最最佳逼近函数佳逼近函数.函数逼近主要讨论给定函数逼近主要讨论给定f(x)Ca,b，求它的，求它的最佳逼近多项式最佳逼近多项式.若若P*(x)Hn=span1,x,xn，使，使误差误差()()min()(),nP Hf xPxf xP x 27最佳一致逼近最佳一致逼近若范数若范数 取为取为 ,即即()()min()()minmax()()nnP HP Ha x bf xPxf xP xf xP x 则称则称P*(x)是是f(x)在在a,b上的上的最佳一致逼近多项式最佳一致逼近多项

18、式.这时求这时求P*(x)就是求就是求a,b上使得最大误差最小的多上使得最大误差最小的多项式项式.28最佳平方逼近最佳平方逼近如果范数如果范数 取为取为 2，即，即22222()()min()()min()()nnP HbaP Hf xPxf xP xf xP xdx 则称则称P*(x)为为f(x)在在a,b上的上的最佳平方逼近多项式最佳平方逼近多项式.29最小二乘拟合最小二乘拟合若若f(x)是是a,b上的一个列表函数，在区间节点上的一个列表函数，在区间节点ax0 x1xmb上给出上给出(xi)(i=0,1,m)，要求，要求P*(x)使使220minmin()()nmiiPP HifPfPf

19、xP x 本章将着重讨论实际应用多便于计算的最佳平本章将着重讨论实际应用多便于计算的最佳平方逼近与最小二乘拟合方逼近与最小二乘拟合.则称则称P*(x)为为f(x)在在a,b上的上的最小二乘拟合最小二乘拟合.303.2 正交多项式正交多项式略略313.3 最佳平方逼近最佳平方逼近略略323.4 曲线拟合的最小二乘法曲线拟合的最小二乘法问题的提出问题的提出 某种合成纤维的强度与其拉伸倍数有直接关系，某种合成纤维的强度与其拉伸倍数有直接关系，下表是实际测定的下表是实际测定的2424个纤维样品的强度与相应个纤维样品的强度与相应拉伸倍数的记录。拉伸倍数的记录。提示：将拉伸倍数作为提示：将拉伸倍数作为x,

20、x,强度作为强度作为y,y,在座标在座标纸上标出各点，可以纸上标出各点，可以发现什么发现什么?33数据表格数据表格34数据图数据图35曲线拟合曲线拟合 已知的离散数据已知的离散数据yi=f(xi)(i=0,1,2,n)往往是往往是通过观测而得到的，经常带有观测误差。通过观测而得到的，经常带有观测误差。曲线拟合：希望找到曲线拟合：希望找到条曲线，它既能反映条曲线，它既能反映结定数据的总体分布形式，又不致于出现局部较结定数据的总体分布形式，又不致于出现局部较大的波动。这种逼近方式只要所构造的逼近函大的波动。这种逼近方式只要所构造的逼近函数数(x)与被逼近函数与被逼近函数f(x)在区间在区间 a,b

21、 上的偏差满上的偏差满足其种要求即可。足其种要求即可。36偏差偏差 设给定数据点设给定数据点(xi,yi),(i=0,1,2,n),记记),2,1,0()(niyxeiii并称并称ei为偏差。为偏差。37最小二乘法最小二乘法曲线拟合的最小二乘法：以使得偏差的平方和曲线拟合的最小二乘法：以使得偏差的平方和最小为标难最小为标难min)()(0202niiiiniiyxxweEmjjjxax0)()(38线性最小二乘拟合线性最小二乘拟合假设所给的数据点假设所给的数据点(xi，yi),(i=0,1,2,n)的的分布大致呈直线，故可选择线性函数作拟合曲线。分布大致呈直线，故可选择线性函数作拟合曲线。【问

22、题【问题1】对于给定的数据点对于给定的数据点(xi，yi),(i=0,1,2,n)，求作一次式求作一次式ya+bx，使总误差为最小。，使总误差为最小。min02niiiybxaE39线性最小二乘拟合（续）线性最小二乘拟合（续）【解】由微积分的知识可知，这一问题的求解，可归【解】由微积分的知识可知，这一问题的求解，可归结为求二元函数结为求二元函数E(a,b)的极值，即的极值，即0,0bEaE020niiiybxaaE020niiiixybxabE40线性最小二乘拟合（续）线性最小二乘拟合（续）niniiniiyxba0001niiiniiniiyxxbxa0020niiiniiniiniinii

23、niyxybaxxx00020001这是关于这是关于a,b的线性方程组，称为法方程。的线性方程组，称为法方程。4041多项式最小二乘拟合多项式最小二乘拟合有时所给数据点的分布并不一定近似地呈一条直有时所给数据点的分布并不一定近似地呈一条直线，这时若仍用直线似合显然是不合适的。对于线，这时若仍用直线似合显然是不合适的。对于这种情况，可以考虑用多项式拟合。这种情况，可以考虑用多项式拟合。【问题【问题2】对于给定的数据点对于给定的数据点(xi，yi),(i=0,1,2,n)，求作多项式，求作多项式，使总误差为最小使总误差为最小。min020 niimjjijyxaEmjjjxay042多项式最小二乘

24、拟合（续）多项式最小二乘拟合（续）【解】由微积分的知识可知，这一问题的求解，可归【解】由微积分的知识可知，这一问题的求解，可归结为求二元函数结为求二元函数E(a0,a1,am)的极值，即的极值，即0,0,010maEaEaEmkxyxaaEnikiimjjijk,1,00200 mkxyxanikiimjnikjij,1,00000 43多项式最小二乘拟合（续）多项式最小二乘拟合（续）nimiiniiiniimniminiminiminiminiiniiniminiinixyxyyaaaxxxxxxxx0001002010010200001这是关于这是关于a0,a1,am的线性力程组，称为法方

25、程。的线性力程组，称为法方程。44例题例题例例8 某合金成分某合金成分x与膨胀系数与膨胀系数y之间的关系之间的关系有如下实验数据，求膨胀系数有如下实验数据，求膨胀系数y与成分与成分x的拟合的拟合曲线曲线y=P(x)。i0123456x37383940414243y3.40 3.00 2.101.531.801.902.9045例题例题解解 将数据标在坐标纸上，由散点图可以将数据标在坐标纸上，由散点图可以推断他们大致分布在一条抛物线上。为推断他们大致分布在一条抛物线上。为此取此取22102)(xaxaaxp46例题例题法方程法方程602606021060460360260360260602606

26、01iiiiiiiiiiiiiiiiiiiiiiiiixyxyyaaaxxxxxxxx47例题例题代入数据后得代入数据后得2.263682.66163.16181889964513601122845136011228280112282807210aaa解得解得163.0,171.13,010.268210aaa于是所求拟合曲线为于是所求拟合曲线为22163.0171.13010.268)(xxxp48其他函数曲线拟合其他函数曲线拟合最小二乘法并不只限于多项式，也可以用任何具最小二乘法并不只限于多项式，也可以用任何具体给出的函数形式。即可取体给出的函数形式。即可取【问题【问题3】对于给定的数据点

27、对于给定的数据点(xi，yi),(i=0,1,2,n)，求作曲线，求作曲线，使总误差为最小。使总误差为最小。min)()(020niimjijjiyxaxwEmjjjxay0)(mjijjxax0)()(49其他函数曲线拟合（续）其他函数曲线拟合（续）【解】由微积分的知识可知，这一问题的求解，可归【解】由微积分的知识可知，这一问题的求解，可归结为求二元函数结为求二元函数E(a0,a1,am)的极值，即的极值，即0,0,010maEaEaEmkxyxaxwaEniikimjijjik,1,00)()()(200mkxyxwxxxwaniikiimjniikijij,1,0)()()()()(00

28、0 50其他函数曲线拟合（续）其他函数曲线拟合（续）引进内积记号引进内积记号niikijikjxxxw0)()()(),(niikiikxyxwy0)()(),(mkyakmjjkj,1,0),(),(051其他函数曲线拟合（续）其他函数曲线拟合（续）这是关于这是关于a0,a1,am的线性方程组，称为法方程。的线性方程组，称为法方程。)4.3(),(),(),(),(),(),(),(),(),(),(),(),(1010101110101000mmmmmmmmyyyaaa52例题例题例例9 对例对例8中的数据，试求形如中的数据，试求形如xaxaax10cos5sin)(210的拟合函数。的拟

29、合函数。解解 取拟合函数系取拟合函数系xxxxx10cos)(,5sin)(,1)(21053例题例题53得法方程得法方程9064.126980.16300.168090.40.06957.50.03090.40.06957.50.07210aaa解出解出581.3,394.0,289.5210aaa因此所求的拟合函数为因此所求的拟合函数为xxx10cos581.35sin394.0289.5)(54正交多项式最小二乘拟合正交多项式最小二乘拟合 普通多项式作最小二乘拟合时，其法方程是普通多项式作最小二乘拟合时，其法方程是病态的。为了避免解病态方程组，通常用正交多病态的。为了避免解病态方程组，通

30、常用正交多项式作最小二乘拟合。项式作最小二乘拟合。55正交多项式正交多项式 正交多项式：对给定点集正交多项式：对给定点集 nxxx,10及权函数及权函数,),1,0()(nixwi如果函数系如果函数系)(,)(,)(10 xSxSxSm满足满足kjSSkjxSxSxwSSkkikijinikj0),0)()()(),0（则称函数系则称函数系带权函数带权函数)(xSj关于点集关于点集 ix)(ixw正交。正交。56法方程法方程56),(),(),(),(),(),(10101100mmmmSySySyaaaSSSSSS)()(xxSjj代替代替现在以现在以，并利用并利用)(xSj的正交性的正交性

31、，则法方程（则法方程（3.4）成为对角型方程组）成为对角型方程组（3.5）57广义多项式广义多项式其解为其解为)6.3(,1,0)()()()(),(),(020mjxSxwxSyxwSSSyaniijiijiinijjjj于是所求的拟合函数（称为广义多项式）为于是所求的拟合函数（称为广义多项式）为mjjjxSax0)7.3()()(3.8)()(02niiiimyxxwE误差为误差为58正交多项式递推公式推导正交多项式递推公式推导 设设式（式（3.7）中的正交函数系）中的正交函数系)(xSj系数为系数为1的正交多项式系。正交多项式的一个基本性质的正交多项式系。正交多项式的一个基本性质是能够通

32、过递推关系逐个生成。事实上，任何一个是能够通过递推关系逐个生成。事实上，任何一个k次次多项式能表示成正交多项式多项式能表示成正交多项式)(,)(,)(10 xSxSxSk的线性组合，于是的线性组合，于是)9.3()()()(01xSaxSxxSjkjjkk成立成立，其中其中是特定参数。以是特定参数。以),1,0(kjaj)2,1,0)(kixSi为最高次项为最高次项对式（对式（3.9）两边作内积）两边作内积59正交多项式递推公式推导（续）正交多项式递推公式推导（续）),(),(01ijkjjikkSSaSSxS即即),(),(),(1iiiikikSSaSSxSS由于由于)(xxSi次数小于次

33、数小于k，可写成，可写成10,)(krrrxSb代入上式，并利用正交性，得代入上式，并利用正交性，得2,1,00kiai60正交多项式递推公式推导（续）正交多项式递推公式推导（续）以以)(1xSk对式（对式（3.9）两边内积）两边内积),(),(1011kjkjjkkkSSaSSxS即即),(),(),(111111kkkkkkkSSaSSxSS)(1xxSk可写成可写成101)()()(krrrkkxScxSxxS代入上式，并利用正交性，得代入上式，并利用正交性，得61正交多项式递推公式推导（续）正交多项式递推公式推导（续）),(),(111kkkkkSSSSa以以)(xSk对式（对式（3.

34、9）两边作内积，得）两边作内积，得),(),(kkkkkSSSxSa 将将),1,0(kiai的表达式，代入式（的表达式，代入式（3.9），），得得,2,1)(),(),()(),(),()(1111kxSSSSSxSSSSxSxxSkkkkkkkkkkk62正交多项式递推公式推导（续）正交多项式递推公式推导（续）niikiniikikkkkkniikiniikiikkkkkxSxwxSxwSSSSkxSxwxSxxwSSSxS0210211102021)()()()(),(),(,1,0)()()()(),(),(l若记若记63正交多项式递推公式正交多项式递推公式则得递推公式则得递推公式)(

35、)()()()()()(1)(11110110 xSxSxxSxSxxSxSkkkkkll (3.10),3 ,2,1k64误差递推关系误差递推关系,2,1),(),(),(),(11211121021kESSaESSaSSayyEkkkkkkkkkjjjjk另外，误差的递推关系也不难得到。由式（另外，误差的递推关系也不难得到。由式（3.8）可得）可得由式（由式（3.73.7）和）和 （3.83.8）可得）可得65例题例题例例10 利用正交多项式对例利用正交多项式对例8中的数据作二次拟合。中的数据作二次拟合。解解 按递推公式（按递推公式（3.10）计算权函数为）计算权函数为1的正交多项式的正交

36、多项式1596804)40()(4,40,40)(40,1)(22222110 xxxxSxxSxSll按公式（按公式（3.6）计算广义多项式系数）计算广义多项式系数163.0,1429.0,3757.2210aaa66例题例题22211002163.0171.13010.268)()()()(xxxSaxSaxSax代入式（代入式（3.7）中，得到所求的二次函数）中，得到所求的二次函数67非线性最小二乘拟合非线性最小二乘拟合baxy 两边取对数，得两边取对数，得bzAwxzaAywxbay,lg,lg,lglglglg则得则得令令两边取自然对数，得两边取自然对数，得令令则得则得bxaey b

37、xay lnlnbzAwxzaAyw,ln,ln（1）（2）68非线性最小二乘拟合（续）非线性最小二乘拟合（续）（3）xaby 两边取对数，得两边取对数，得bzawxzywxbayBzAwxzbBaAywbxay,lg,lg,lg,lg,lglglglg则得则得令令令令则得则得（4）69非线性最小二乘拟合（续）非线性最小二乘拟合（续）baxy1令令则得则得,/1xzywbazw（6）baxxy,/1,/1xzyw令令则得则得bzaw（5 5）70例题例题例例11 给定实验数据给定实验数据 x1.00 1.25 1.50 1.75 2.00 y5.10 5.79 6.53 7.45 8.46试求

38、形如试求形如bxaey 的拟合函数。的拟合函数。解解 对拟合函数的两边取自然对数，即对拟合函数的两边取自然对数，即bxay lnln令令则上式则上式 成为关于成为关于A，b 的线性函数的线性函数,ln,lnxzaAywbzAw71例题例题根据数据根据数据(x,y)算出对应的算出对应的(z,w),得下表得下表 z1.001.251.501.752.00 w1.6292 1.7561 1.8764 2.0082 2.1353建立法方程建立法方程4239.144052.9875.115.75.75bA解得解得0725.3,5057.0,1225.1AeabA因此，所求的拟合函数为因此，所求的拟合函数

39、为xey5057.00725.372线性矛盾方程组线性矛盾方程组方程个数大于未知量个数的方程组称为矛盾方程方程个数大于未知量个数的方程组称为矛盾方程组，一般形式为组，一般形式为nmnmnnmmbxaxaxabxaxaxa221111212111即即73线性矛盾方程组（续）线性矛盾方程组（续）Axb A是是 n m阶的列满秩矩阵阶的列满秩矩阵,x是是 m维维的列向量的列向量,b是是 n维的列向量维的列向量,min2222AxbeeeTAxbe剩余向量剩余向量（3.11）（3.12）74线性矛盾方程组（续）线性矛盾方程组（续）b)AAx(AA)(Ab)AAx(AbAA)A(AbbbAx)(bAx)

40、(beeTTTTTTTTTTTT11由于由于A的的m个列向量线性无关，易知个列向量线性无关，易知是是mm阶对称正定矩阵，而且上式右端最后一项是阶对称正定矩阵，而且上式右端最后一项是正定二次型，同时其它两项与正定二次型，同时其它两项与x无关。因此，欲使式无关。因此，欲使式（3.12）成立，必须有）成立，必须有1)A(AA,ATT75线性矛盾方程组（续）线性矛盾方程组（续）0bAAxATT)13.3(bAAxATT该式称为方程组该式称为方程组Axb 的法方程。因此，求解的法方程。因此，求解n阶矛盾阶矛盾方程组的问题转化求解方程组的问题转化求解m阶线性方程组的问题。阶线性方程组的问题。76例题例题例

41、例12 利用解线性矛盾方程组对例利用解线性矛盾方程组对例8中的数据作二次拟中的数据作二次拟合，合，。解：按题意，得矛盾方程组，解：按题意，得矛盾方程组，i0123456x37383940414243y3.40 3.00 2.101.531.801.902.9022102)(xaxaaxp6,2,1,02210iyxaxaaiii77例题例题写成矩阵形式，为写成矩阵形式，为yAw其中其中 266211200111xxxxxxA310yyyy210aaaw78例题例题其法方程为其法方程为即即yAAwATT2.263682.66163.16181889964513601122845136011228

42、280112282807210aaa79例题例题解得解得163.0,171.13,010.268210aaa于是所求拟合曲线为于是所求拟合曲线为22163.0171.13010.268)(xxxp80例题例题例例13 已知观测数据已知观测数据(1，-5)，(2，0)，(4，5)，(5，6)，试用最小二乘法求形如，试用最小二乘法求形如上的经验公式上的经验公式。xbaxx)(81例题例题81解：记解：记按题意，得矛盾方程组，按题意，得矛盾方程组，写成矩阵形式，为写成矩阵形式，为;6,5;5,4;0,2;5,133221100yxyxyxyx)3,2,1,0(iyxbaxiii82例题例题写成矩阵形

43、式，为写成矩阵形式，为yAw其中其中 33221100/1/1/1/1xxxxxxxxA3210yyyyybaw83例题例题其法方程为其法方程为即即yAAwATT83其法方程为其法方程为即即解得解得 于是所求拟合曲线为于是所求拟合曲线为55.2453525.14446ba432976311.6537650114.1baxxy/432976.6537650.1843.5 有理逼近有理逼近略略853.6 三角逼近与快速傅里叶变换三角逼近与快速傅里叶变换略略86本章小结本章小结 最小二乘法曲线拟和是实验数据处理的常用方最小二乘法曲线拟和是实验数据处理的常用方法。但当正规方程阶数较高时，往往出现病态法。但当正规方程阶数较高时，往往出现病态。因此必须谨慎对待和加以巧妙处理。有效方。因此必须谨慎对待和加以巧妙处理。有效方法之一是引入正交多项式以改善其病态性。法之一是引入正交多项式以改善其病态性。87本章习题本章习题 88