1、第第 4 4 节节误差分析误差分析第 4 节 前面我们已经给出了求解线性方程组前面我们已经给出了求解线性方程组 A X=b A X=b 的直的直接方法接方法,然而由于原始数据然而由于原始数据A,bA,b常常是有误差的常常是有误差的,所以一所以一般得不到方程组的精确解般得不到方程组的精确解,只能得到近似解只能得到近似解思考思考题题如何判断向量如何判断向量 的精确程度呢的精确程度呢?怎样衡量向量怎样衡量向量 的大小呢的大小呢?xxx x 基于三维空间向量模的概念基于三维空间向量模的概念,这里构造了这里构造了类似的概念类似的概念_向量的范数和矩阵的范数向量的范数和矩阵的范数.范数范数概念在数值分析中
2、起着重要的作用概念在数值分析中起着重要的作用!一、范数在数值分析中的作用它它满满足足：对对于于上上的的实实值值函函数数是是定定义义在在向向量量的的范范数数维维实实向向量量集集设设向向量量的的范范数数nnnRx,Rx)x(N,n_R ，三三角角不不等等式式，或或，正正定定条条件件当当且且仅仅当当)()3()(,)2()()00(0)1(yxyxCRxxxxx 定义定义1上上的的一一个个是是则则称称nR)x(N二、向量范数的一般定义模）。模）。向量范数（或向量范数（或范范数数（最最大大范范数数）：向向量量的的 .1xxini 1max niixx11:1.2范范数数向向量量的的2112212)()
3、,(:2.3 niixxxx范范数数向向量量的的:.4范数范数向量的向量的 p,)(11pnipipxx 欧氏范数三、常用的向量范数几点说明几点说明范范数数的的特特殊殊情情况况三三种种范范数数是是 p,2,1pnipipniixxx11111)(ppniipniixxx11221122)()(pnipippppinixxxx1)(limlimmax11 ipppipnipinppipixxnxxxxmaxmaxmaxmax1 说 明 1111 -:1,2,(1,)m a xm a x m a xm a xiiiiiiininiiininxyRxyinxyxyxyxyxy 可可 验验 证证 上上
4、 面面 三三 个个 范范 数数 均均 满满 足足 范范 数数 定定 义义 的的 条条 件件。以以范范 数数 为为 例例满满 足足 条条 件件显显 然然。由由 于于为为 向向 量量，而而 其其 分分 量量为为 实实 数数，故故 有有可以验证上面三个范数均满足范数定义的条件可以验证上面三个范数均满足范数定义的条件.以以范数为例：范数为例：满足条件满足条件1、2显然。显然。由于由于 为向量，而其分量为向量，而其分量Ry,x)n,i(,y,xii1 为实数，故有为实数，故有说 明12 (1,2,3)6,3,1 4.,0,TnxxxxRmMnxmxxMx 例例：计计算算向向量量的的各各种种范范数数。解解
5、：如如果果中中两两个个范范数数和和，存存在在实实数数，使使得得对对任任意意维维向向量量都都有有 ，则则称称这这两两个个范范数数是是等等价价的的。对对两两个个等等价价范范数数而而言言，同同一一向向量量序序列列有有相相同同的的极极限限。说 明 2221221122212222 12 max.max.2 ininjiinnjxxxxxxxxxxxxxxxnnxxxn 不不难难证证明明，范范数数，范范数数和和范范数数是是等等价价的的。例例：设设则则范范数数和和范范数数等等价价。如如不不作作说说明明，今今后后是是指指任任意意一一种种向向量量范范数数。2221221122212222 12 max.max
6、.2 ininjiinnjxxxxxxxxxxxxxxxnnxxxn 不不难难证证明明，范范数数，范范数数和和范范数数是是等等价价的的。例例：设设则则范范数数和和范范数数等等价价。如如不不作作说说明明，今今后后是是指指任任意意一一种种向向量量范范数数。2221221122212222 12 max.max.2 ininjiinnjxxxxxxxxxxxxxxxnnxxxn 不不难难证证明明，范范数数，范范数数和和范范数数是是等等价价的的。例例：设设则则范范数数和和范范数数等等价价。如如不不作作说说明明，今今后后是是指指任任意意一一种种向向量量范范数数。2221221122212222 12 m
7、a x.ma x.2 ininjiinnjxxxxxxxxxxxxxxxnnxxxn 不不难难证证明明，范范数数，范范数数和和范范数数是是等等价价的的。例例：设设则则范范数数和和范范数数等等价价。如如不不作作说说明明，今今后后是是指指任任意意一一种种向向量量范范数数。不难证明，不难证明，1-范数，范数，2-范数和范数和-范数是等价的。范数是等价的。例例设设则则2-范数和范数和-范数等价。范数等价。如不做说明，今后如不做说明，今后|是指任意一种向量范数。是指任意一种向量范数。说 明.14,3,621 xxx的的各各种种范范数数。计计算算向向量量Tx)3,2,1(例例4.1解解1.18271,10
8、00,50050021 xxx的的各各种种范范数数。计计算算向向量量Tx)1000,.3,2,1(例例4.2解解SqrtSumn2,n,1,1000/N18271.1举 例,_RAnn实实矩矩阵阵集集合合设设矩矩阵阵（矩矩阵阵的的范范数数）:,RA)A(Nnn它它满满足足非非负负的的实实值值函函数数上上的的是是定定义义在在矩矩阵阵的的范范数数 （正定条件）（正定条件）（)00(01 AAA),2为实数（齐次条件）为实数（齐次条件）（cAccA 定义定义（三三角角不不等等式式）（BABA 3)(4乘乘积积不不等等式式）（BAAB 四、矩阵的范数 njijniaAA11max:.2的的行行范范数数
9、矩矩阵阵 niijnjaAA111max:.1的的列列范范数数矩矩阵阵 ninjijFaAFA112:.3范范数数的的矩矩阵阵计算不方便计算不方便,但理论价值高但理论价值高)(:.4max2AAAAT 的的谱谱范范数数矩矩阵阵的的最最大大特特征征值值表表示示其其中中AAAATT)(max 五、常用的矩阵范数几点说明几点说明一般说到范数泛指上述任意一种一般说到范数泛指上述任意一种当向量范数和矩阵范数同时出现时当向量范数和矩阵范数同时出现时,默认它们是相容的默认它们是相容的nIpIInnFp ),2,1(1:有有单单位位矩矩阵阵对对于于iniAAAA 122max)(,的的最最大大特特征征值值对对
10、于于实实对对称称矩矩阵阵2AAAT 称为矩阵称为矩阵A A的的谱半径谱半径xAAx 说 明则由向量范数的等价性可得矩阵范数的等价性。则由向量范数的等价性可得矩阵范数的等价性。如果将矩阵范数看作如果将矩阵范数看作 空间上的向量范数，空间上的向量范数，2nR说 明例例4.34.3 6134A:给定矩阵给定矩阵FpA),p(:A:和和求求 21解解9max111 niijnjaA7max11 njijniaA87401.721,2 jiijFaA17.33508749)(max2 AAAT 9 97 77.874017.874017.3350874917.335087491举 例A=4,-3,-1,
11、6;A=4,-3,-1,6;MatrixFormMatrixForm%;%;A1=MaxSumAbsAn,n,1,2A1=MaxSumAbsAn,n,1,2A100=MaxTableSumAbsAn,m,m,1,2,n,1,2A100=MaxTableSumAbsAn,m,m,1,2,n,1,2AE=SqrtSumAi,j2,i,1,2,j,1,2/NAE=SqrtSumAi,j2,i,1,2,j,1,2/NT=TransposeA.A;T=TransposeA.A;MatrixFormMatrixForm%;%;A2=NSqrtMaxEigenvaluesT,10A2=NSqrtMaxEig
12、envaluesT,109 97 77.874017.874017.3350874917.335087491计算程序计算程序:特征值特征值转置转置举 例例例4.44.4 110121021A:给定矩阵给定矩阵FpA),p(:A:和和求求 21解解5max111 niijnjaA4max11 njijniaA60555.31,2 njiijFaA0237.3)(max2 AAAT 5 54 43.605553.605553.0237063423.023706342举 例A=1,2,0,-1,2,-1,0,1,1;MatrixForm%;A1=MaxSumAbsAn,n,1,3A100=MaxTa
13、bleSumAbsAn,m,m,1,3,n,1,3AE=SqrtSumAi,j2,i,1,3,j,1,3/NT=TransposeA.A;MatrixForm%EigenvaluesNTA2=NSqrtMaxEigenvaluesNT,10求矩阵的范数例题求矩阵的范数例题举 例1111 4 .max()max()maxmax 5 xxxxnxAxAAxAxxABABxABxABxABxABnxAxAx ，对对任任意意维维非非零零向向量量,有有 即即 故故有有，对对任任意意维维向向量量，都都有有。这这一一 性性质质称称为为矩矩阵阵范范数数与与向向量量范范数数的的相相容容性性。可可由由三三种种常常
14、用用的的向向量量范范数数诱诱导导出出矩矩阵阵范范数数。1 max ()maxmaxnxi jxxAnRAxAxAanxnAxxAxxxxAxAAxx 定定理理：设设为为阶阶方方阵阵，是是中中的的向向量量范范数数，则则 是是一一种种矩矩阵阵范范数数，称称其其为为由由向向量量范范数数诱诱导导出出的的矩矩阵阵范范数数。证证：设设为为任任意意阶阶方方阵阵，为为任任意意维维非非零零向向量量。因因为为为为单单位位向向量量，故故证证明明（略）略）注注意：意：此此式式左左端端 表表示示矩矩阵阵范范数，数，而而右右端端是是向向量量 和和 的的范范数。数。利利用用向向量量范范数数所所具具有有的的性性质质可可证证明
15、明其其满满足足矩矩阵阵范范数数的的四四个个条条件。件。另另外外还还满满足足性性质：质：举 例212131A,A,A,A及及求求设设 解：解：421,31max A523,11max1 A 1355221312311AAT例例4.54.5举 例212*12 ,34 6,7,5.46./nRAAAAAAAAAAAAA 如如果果将将矩矩阵阵范范数数看看作作空空间间上上的的向向量量范范数数，则则由由向向量量范范数数的的等等价价性性可可得得矩矩阵阵范范数数的的等等价价性性。例例：计计算算的的各各种种范范数数。解解：矩矩阵阵的的误误差差可可用用矩矩阵阵范范数数表表示示：设设是是的的近近似似矩矩阵阵，、分分
16、别别称称为为的的关关于于范范数数的的绝绝对对误误差差与与相相对对误误差差。864.32221152 A013552 AAIT特征方程为特征方程为222115,22211521 举 例误差分析第第 5 5 节节矩阵的条件数矩阵的条件数第 5 节 求解线性方程组求解线性方程组 A X=b A X=b 的解是由其系数矩阵的解是由其系数矩阵A A和常数向量和常数向量b b决定的决定的.由于原始数据由于原始数据A,bA,b常常是有误差的常常是有误差的,必然会影响到解的精确度。必然会影响到解的精确度。思考思考题题那些因素决定原始数据的误差对解的影响那些因素决定原始数据的误差对解的影响?,?AA bbx若若
17、 有有误误差差有有误误差差解解的的误误差差有有多多大大一、扰动分析问题.xAb,bAx为为方方程程组组的的精精确确解解为为非非奇奇异异矩矩阵阵，其其中中设设以以下下设设考考虑虑线线性性方方程程组组0 .)b(A的的微微小小误误差差对对解解的的影影响响或或下下面面我我们们来来研研究究数数据据.首先考察一个例子首先考察一个例子.220001.111121 xx设有方程组设有方程组例例4.74.7分析分析 02,xbAx它它的的精精确确解解为为记记为为二、病态方程组即即考考察察方方程程组组，变变化化对对方方程程组组解解的的影影响响现现在在考考虑虑常常数数项项的的微微小小为为其其解解 11xxy.程程
18、组组这这种种方方程程组组称称为为病病态态方方bbyy 0001.00220001.220001.111121.1000012:方程组的解却变化很大方程组的解却变化很大的微小变化，的微小变化，个分量只有个分量只有的第的第常数项常数项可见可见b二、病态方程组方方程程组组，矩矩阵阵称称为为此此方方程程组组为为“病病态态”的的解解的的巨巨大大变变化化，则则称称组组的的微微小小变变化化，引引起起方方程程如如果果矩矩阵阵或或常常数数项项bxb 定义.自自身身特特性性矩矩阵阵的的“病病态态”是是它它的的矩阵的条件数刻画矩阵的条件数刻画矩阵“病态”的程度用矩阵“病态”的程度用否则方程组为否则方程组为，相相对对
19、于于方方程程组组而而言言“病病态态”矩矩阵阵)(.“良良态态”方方程程组组，称称为为“良良态态”矩矩阵阵二、病态方程组111111 ,(),bbxxAxxbbAxbAxbxAbxAbAbAxbxAAAbAAbxbxbAAA设有扰动，相应解的扰动记为即由，两边取范数又因为此式表明当右端项有扰动时解的相对误差不超过右端项的相对误差的倍。111111 ,(),bbxxAxxbbAxbAxbxAbxAbAbAxbxAAAbAAbxbxbAAA设有扰动，相应解的扰动记为即由，两边取范数又因为此式表明当右端项有扰动时解的相对误差不超过右端项的相对误差的倍。111111 ,(),bbxxAxxbbAxbAx
20、bxAbxAbAbAxbxAAAbAAbxbxbAAA设有扰动，相应解的扰动记为即由，两边取范数又因为此式表明当右端项有扰动时解的相对误差不超过右端项的相对误差的倍。111111 ,(),bbxxAxxbbAxbAxbxAbxAbAbAxbxAAAbAAbxbxbAAA设有扰动，相应解的扰动记为即由，两边取范数又因为此式表明当右端项有扰动时解的相对误差不超过右端项的相对误差的倍。右端项b 的扰动对解的影响1111111,11AAAAAAAAxAAxAAAAAAAAA-1-1 AAxx,(A+A)(x+x)=bAx+A(x+x)=0 x=AA(x+x)AA(x+x)如如果果右右端端项项无无扰扰动
21、动，系系数数矩矩阵阵有有扰扰动动，相相应应的的解解的的扰扰动动仍仍记记为为则则如如果果充充分分小小，使使得得则则由由上上式式得得上上式式表表明明，当当系系数数矩矩阵阵有有扰扰动动时时，解解的的扰扰动动仍仍与与有有关关。一一般般地地，1越越大大，解解的的扰扰动动也也越越大大。11111111,()()()0()()1,11AAxxAAxxbAxAxxxAAxxAAxxAAAAAAAAxAAxAAAAAAAAA 如如果果右右端端项项无无扰扰动动，系系数数矩矩阵阵有有扰扰动动，相相应应的的解解的的扰扰动动仍仍记记为为则则如如果果充充分分小小，使使得得则则由由上上式式得得上上式式表表明明，当当系系数数
22、矩矩阵阵有有扰扰动动时时，解解的的扰扰动动仍仍与与有有关关。一一般般地地，1越越大大，解解的的扰扰动动也也越越大大。11111111 ,()()()0()()1,11AAxxAAxxbAxAxxxAAxxAAxxAAAAAAAAxAAxAAAAAAAAA如果右端项无扰动，系数矩阵有扰动，相应的解的扰动仍记为则如果充分小，使得则由上式得上式表明，当系数矩阵有扰动时，解的扰动仍与有关。一般地，1越大，解的扰动也越大。11111111,()()()0()()1,11AAxxAAxxbAxAxxxAAxxAAxxAAAAAAAAxAAxAAAAAAAAA 如如果果右右端端项项无无扰扰动动，系系数数矩矩
23、阵阵有有扰扰动动，相相应应的的解解的的扰扰动动仍仍记记为为则则如如果果充充分分小小，使使得得则则由由上上式式得得上上式式表表明明，当当系系数数矩矩阵阵有有扰扰动动时时，解解的的扰扰动动仍仍与与有有关关。一一般般地地，1越越大大，解解的的扰扰动动也也越越大大。系数矩阵A 的扰动对解的影响.)2,1()(1的的条条件件数数为为矩矩阵阵或或为为非非奇奇异异矩矩阵阵，称称数数设设AvAAAcondAvvv 定义定义说明说明分分重重要要的的概概念念矩矩阵阵的的条条件件数数是是一一个个十十)(1)(是是“病病态态”矩矩阵阵是是“病病态态”的的时时，则则的的条条件件数数相相对对的的大大，即即当当AbAxAc
24、ondA 的的病病态态程程度度愈愈严严重重的的条条件件数数愈愈大大，方方程程组组A三、矩阵的条件数常常用用的的条条件件数数有有.)AA()AA(AA)A(condA)(TminTmax 21222的谱条件数的谱条件数,)A(condA)(n 123为为对对称称矩矩阵阵时时，当当;AA)A(cond)(11.An最最小小的的特特征征值值的的绝绝对对值值最最大大和和绝绝对对值值为为，其其中中 1三、矩阵的条件数;1)(.1)(.111 vvvvvAAAAAcondAcondA事事实实上上，都都有有对对任任何何非非奇奇异异矩矩阵阵;)()(0.2vvAcondcAcondcA 常常数数），则则为为非
25、非奇奇异异矩矩阵阵且且设设.)()()(;1)(.32222AcondARcondRAcondRAAcondA 为为正正交交矩矩阵阵，则则为为非非奇奇异异矩矩阵阵，如如果果为为正正交交矩矩阵阵，则则如如果果1 AAT四、矩阵条件数的性质2minmaxminmax2)()()()()()()()(ACondAAAARARARARARACondTTTT 21min1maxminmax2)()()()()()()()(ACondARARARARARARARARARCondTTTT 有有相相同同的的特特征征值值与与注注意意QQRR1:四、矩阵条件数的性质,nnnnnH)Hilbertn 1211111
26、131211211矩阵矩阵已知希尔伯特（已知希尔伯特（例例4.84.8解解.3的的条条件件数数计计算算H 180180301801923630369,51413141312131211133HH矩阵条件数的举例.HH)H(cond,H,H7486114084086111333133 所所以以ClearA,AN,A1,AN1,A100,AN100A=1,1/2,1/3,1/2,1/3,1/4,1/3,1/4,1/5;MatrixForm%;AN=InverseA;MatrixForm%;A1=MaxSumAbsAn,n,1,3;AN1=MaxSumAbsANn,n,1,3;condA1=A1*A
27、N1A100=MaxTableSumAbsAn,m,m,1,3,n,1,3;AN100=MaxTableSumAbsANn,m,m,1,3,n,1,3;condA100=A100*AN100=748矩阵条件数的举例76109.2)(Hcond.6的的条条件件数数计计算算H希尔伯特矩阵的条件数程序希尔伯特矩阵的条件数程序(6(6阶阶)ClearBB=Table1/(i+j),i,1,6,j,0,5;MatrixForm%BN=InverseB;B1=MaxSumAbsBn,n,1,6;BN1=MaxSumAbsBNn,n,1,6;condA1=B1*BN1B100=MaxTableSumAbsB
28、n,m,m,1,6,n,1,6;BN100=MaxTableSumAbsBNn,m,m,1,6,n,1,6;condA100=B100*BN100=29070279矩阵条件数的举例871085.9)(Hcond.7的的条条件件数数计计算算H81085195.9 希尔伯特矩阵的条件数程序希尔伯特矩阵的条件数程序(7(7阶阶)ClearBB=Table1/(i+j),i,1,7,j,0,6;MatrixForm%BN=InverseB;B1=MaxSumAbsBn,n,1,7;BN1=MaxSumAbsBNn,n,1,7;condA1=B1*BN1/NB100=MaxTableSumAbsBn,m
29、,m,1,7,n,1,7;BN100=MaxTableSumAbsBNn,m,m,1,7,n,1,7;condA100=B100*BN100/N )(8Hcond33872791095矩阵条件数的举例112233112233111 1123611111 3 12341 214 71116 034531.0 00.5 0 00.3 3 3 0.5 0 00.3 3 30.2 5 00.3 3 30.2 5 00.2 0 0 xxxxxxHbxxxxxx 考考虑虑设设及及有有微微小小误误差差（取取位位有有效效数数字字）有有331.8 31.0 80.7 8 3()().(1.0 8 9 5,0.4
30、 8 8 0,1.4 9 1)THHxxbbxx 简简记记为为其其解解为为1122331122311111236111113 2 1234121471116034531.000.5000.333 0.5000.3330.2500.3330.2500.200 xxxxxxHbxxxxx （）考考虑虑设设及及有有微微小小误误差差（取取位位有有效效数数字字）有有3331.831.080.783()().(1.0895,0.4880,1.491)TxHHxxbbxx 简简记记为为其其解解为为1122331122311111236111113 2 1234121471116034531.000.5000
31、.333 0.5000.3330.2500.3330.2500.200 xxxxxxHbxxxxx （）考考虑虑设设及及有有微微小小误误差差（取取位位有有效效数数字字）有有3331.831.080.783()().(1.0895,0.4880,1.491)TxHHxxbbxx 简简记记为为其其解解为为考虑考虑设及设及b有微小误差（取位有效数字）有有微小误差（取位有效数字）有简记为简记为其解为其解为矩阵条件数的举例3333 (1.0895,0.4880,1.491),(1,1,1)(0.0895,0.5120,0.4910)0.18100.02%0.51200.182%51.2%1 50TTTx
32、xxxHHbxbxHb 由由于于 这这表表明明与与相相对对误误差差不不超超过过0 0.2 2%，而而引引起起解解的的相相对对误误差差超超过过.3333 (1.0895,0.4880,1.491),(1,1,1)(0.0895,0.5120,0.4910)0.18100.02%0.51200.182%51.2%1 50TTTxxxxHHbxbxHb 由由于于 这这表表明明与与相相对对误误差差不不超超过过0 0.2 2%，而而引引起起解解的的相相对对误误差差超超过过.3333 (1.0895,0.4880,1.491),(1,1,1)(0.0895,0.5120,0.4910)0.18100.02
33、%0.51200.182%51.2%1 50TTTxxxxHHbxbxHb 由由于于 这这表表明明与与相相对对误误差差不不超超过过0 0.2 2%，而而引引起起解解的的相相对对误误差差超超过过.由于由于这表明与这表明与b是误差不超过是误差不超过.，而引起，而引起解的相对误差超过解的相对误差超过3H矩阵条件数的举例 123 ,det()0,()(nAAAIAcondAcond 计计算算条条件件数数需需要要求求矩矩阵阵的的逆逆，因因而而比比较较困困难难。根根据据数数值值经经验验，在在下下列列情情况况下下，方方程程组组常常是是“病病态态”的的。（）再再用用主主元元素素法法时时出出现现小小主主元元；（
34、）如如果果的的最最大大特特征征值值和和最最小小特特征征值值之之比比（按按绝绝对对值值）是是大大的的，则则是是“病病态态”的的。（）系系数数矩矩阵阵中中有有行行（或或列列）近近似似线线性性相相关关，或或系系数数行行列列式式的的值值近近似似于于零零。但但这这不不是是绝绝对对的的，如如当当为为很很小小的的数数时时，有有但但)1,4IAA 方方程程组组状状态态良良好好。（）系系数数矩矩阵阵元元素素间间数数量量级级相相差差很很大大，并并且且无无一一定定规规则则可可能能“病病态态”。123 ,det()0,()(计计算算条条件件数数需需要要求求矩矩阵阵的的逆逆，因因而而比比较较困困难难。根根据据数数值值经
35、经验验，在在下下列列情情况况下下，方方程程组组常常是是“病病态态”的的。（）在在用用主主元元素素法法时时出出现现小小主主元元；（）如如果果的的最最大大特特征征值值和和最最小小特特征征值值之之比比（按按绝绝对对值值）是是大大的的，则则是是“病病态态”的的。（）系系数数矩矩阵阵中中有有行行（或或列列）近近似似线线性性相相关关，或或系系数数行行列列式式的的值值近近似似于于零零。但但这这不不是是绝绝对对的的，如如当当为为很很小小的的数数时时，有有但但nAAAIAcondAcond )1,4方方程程组组状状态态良良好好。（）系系数数矩矩阵阵元元素素间间数数量量级级相相差差很很大大，并并且且无无一一定定规
36、规则则可可能能“病病态态”。IAA 123 ,det()0,()(nAAAIAcondAcond 计计算算条条件件数数需需要要求求矩矩阵阵的的逆逆，因因而而比比较较困困难难。根根据据数数值值经经验验，在在下下列列情情况况下下，方方程程组组常常是是“病病态态”的的。（）再再用用主主元元素素法法时时出出现现小小主主元元；（）如如果果的的最最大大特特征征值值和和最最小小特特征征值值之之比比（按按绝绝对对值值）是是大大的的，则则是是“病病态态”的的。（）系系数数矩矩阵阵中中有有行行（或或列列）近近似似线线性性相相关关，或或系系数数行行列列式式的的值值近近似似于于零零。但但这这不不是是绝绝对对的的，如如
37、当当为为很很小小的的数数时时，有有但但)1,4IAA 方方程程组组状状态态良良好好。（）系系数数矩矩阵阵元元素素间间数数量量级级相相差差很很大大，并并且且无无一一定定规规则则可可能能“病病态态”。123 ,det()0,()(nAAAIAcondAcond 计计算算条条件件数数需需要要求求矩矩阵阵的的逆逆，因因而而比比较较困困难难。根根据据数数值值经经验验，在在下下列列情情况况下下，方方程程组组常常是是“病病态态”的的。（）再再用用主主元元素素法法时时出出现现小小主主元元；（）如如果果的的最最大大特特征征值值和和最最小小特特征征值值之之比比（按按绝绝对对值值）是是大大的的，则则是是“病病态态”
38、的的。（）系系数数矩矩阵阵中中有有行行（或或列列）近近似似线线性性相相关关，或或系系数数行行列列式式的的值值近近似似于于零零。但但这这不不是是绝绝对对的的，如如当当为为很很小小的的数数时时，有有但但)1,4IAA 方方程程组组状状态态良良好好。（）系系数数矩矩阵阵元元素素间间数数量量级级相相差差很很大大，并并且且无无一一定定规规则则可可能能“病病态态”。123 ,det()0,()(nAAAIAcondAcond 计计算算条条件件数数需需要要求求矩矩阵阵的的逆逆，因因而而比比较较困困难难。根根据据数数值值经经验验，在在下下列列情情况况下下，方方程程组组常常是是“病病态态”的的。（）再再用用主主
39、元元素素法法时时出出现现小小主主元元；（）如如果果的的最最大大特特征征值值和和最最小小特特征征值值之之比比（按按绝绝对对值值）是是大大的的，则则是是“病病态态”的的。（）系系数数矩矩阵阵中中有有行行（或或列列）近近似似线线性性相相关关，或或系系数数行行列列式式的的值值近近似似于于零零。但但这这不不是是绝绝对对的的，如如当当为为很很小小的的数数时时，有有但但)1,4IAA 方方程程组组状状态态良良好好。（）系系数数矩矩阵阵元元素素间间数数量量级级相相差差很很大大，并并且且无无一一定定规规则则可可能能“病病态态”。“病态”方程的经验判断 第第 6 6 节节超定线性方程组的最小二乘解第 6 节 ,2
40、2112222212111212111mnmnmmnnnnbxaxaxabxaxaxabxaxaxa 设有超定设有超定线性方程组线性方程组：矩阵形式为矩阵形式为：bAx mnmmnmmnnbbbbaaaaaaaaaA2121222211121122211)()(minAybyabxFminjjiji 令：令：Tnyyyy).,(21 设广义解为：设广义解为：线性方程的最小二乘问题线性方程的最小二乘问题线性方程的最小二乘问题为求为求最小二乘解：先求最小二乘解：先求F(x)F(x)的驻点的驻点),.2,1()(2)(21111nkyabaayabyFminjjijiikmiiknjjijik 0)
41、(11 minjjijiikyaba),.2,1(nk miiiminjjijibayaa11111)(miiiminjjijibayaa12112)(线性方程的最小二乘问题 miiinminjjijinmiiiminjjijimiiiminjjijibayaabayaabayaa1111211211111)(.)()(mjjjTkjmjniijikminjjijikyaayaayaa11111)()(babaTkmiiik 1则则若记若记,),(21Tmkkkkaaaa),.2,1(nk 线性方程的最小二乘问题mmnmnmmmnnnnba.baba)yayaya(a,)yayaya(ayay
42、aya(a122111122111222212121121211111 mmnmnmmmnnnnbababayayayaayayayaayayayaa222211222112222212122121211112.)(,)(即即线性方程的最小二乘问题mmnmmnmnmmmmnnmnnmbababayayayaayayayaayayayaa.)(,)(221122112222121212121111 bAyAAT 超定问题的正则方程组超定问题的正则方程组.，其其解解即即为为最最小小二二乘乘解解正正则则方方程程组组存存在在唯唯一一解解因因而而是是一一个个对对称称正正定定矩矩阵阵，为为列列满满秩秩时时
43、，当当AAAT线性方程的最小二乘问题例例4.9求求方程组的最方程组的最小二乘解小二乘解 1032425212121xxxxxx 322111A 14996322111321211AAT 43291045321211bAT解：解：线性方程的最小二乘问题正则方程组为正则方程组为 4314929962121xxxx1,319:21 xx解为解为此为此为超定线性方程组的最小二乘解。超定线性方程组的最小二乘解。线性方程的最小二乘问题本章小结本章小结 线性方程组的直接解法线性方程组的直接解法线性方程组的直接方法AX=b直接法直接法迭代法迭代法0)(kiia?是是列主元列主元消去法消去法Gauss消去法消去
44、法全主元全主元消去法消去法否否0 iA是是LU分解法分解法追赶法追赶法A对称对称且正定且正定平方根法平方根法A三对三对角矩阵角矩阵是是改进平改进平方根法方根法 请请重重点点掌掌握握基基本本内内容容知识结构框图知识结构框图线性方程组线性方程组:bAx 如何求解?CramerCramer法则法则MathsMaths的一般解法的一般解法GaussGauss消元法的原理消元法的原理列主元素法列主元素法全主元素法全主元素法LULU分解法分解法直接三角分解法直接三角分解法要 点 回 顾解三对角方程组的追赶法解三对角方程组的追赶法平方根法及改进的平方根法平方根法及改进的平方根法LULU分解法分解法直接三角分
45、解法直接三角分解法要 点 回 顾上三角方程组的一般形式是上三角方程组的一般形式是：三角形方程组三角形方程组一般方程组一般方程组消元法消元法 高斯消元法高斯消元法(1)(1)(1)(1)(1)11112213311(2)(2)(2)(2)22223322(3)(3)(3)33333 nnnnnna x a xa xa xba xa xa xba xa xb()()nnnnnna xb高斯消元法 nikiikikiinnnnaxabxabx1/)(,/aaaaa(k)kk(k)kj(k)ik(k)ij1)(kij ababb(k)kk(k)k(k)i2(k)i1)(ki 消元公式消元公式回代公式回
46、代公式高斯消元法ClearP1,P2,P3,P4,P5,A,A1,A2,A3,A4,A5,A6A0=1,1,1,0,4,-1,2,-2,1;MatrixForm%b=6,5,1;X=x1,x2,x3;A=1,1,1,6,0,4,-1,5,2,-2,1,1;MatrixForm%;P1=1,0,0,0,1,0,-2,0,1;A1=P1.A;MatrixForm%;P2=1,0,0,0,1/4,0,0,0,1;A2=P2.A1;MatrixForm%;MathsMaths程序程序若当消元法举例说明P3=1,0,0,0,1,0,0,4,1;A3=P3.A2;MatrixForm%;P4=1,0,0,
47、0,1,0,0,0,1/(-2);A4=P4.A3;MatrixForm%;P5=1,0,-1,0,1,1/4,0,0,1;A5=P5.A4;MatrixForm%;P6=1,-1,0,0,1,0,0,0,1;A6=P6.A5;MatrixForm%LinearSolveA0,bSolveA0.X=b,考虑将此程序改考虑将此程序改写为一般程序。写为一般程序。若当消元法举例说明 假定假定Ax=b bLyyUxAX=（LU)x=L(U x)=b令令 U x=y,U x=y,则原线性方程组则原线性方程组 Ax=bAx=bbLy 先求解先求解yUx 再求解再求解LU分解的方法及应用四阶四阶LULU分解
48、分解_ _程序（请记录）程序（请记录）A=1,2,3,4,1,4,9,16,1,8,27,64,1,16,81,256;b=2,10,44,190;AE=IdentityMatrix4;MatrixForm%;L1=1/A1,1,0,0,0,AE2,AE3,AE4;MatrixForm%;A1=L1.A;MatrixForm%;L2=AE1,-A12,1,1,0,0,-A13,1,0,1,0,-A14,1,0,0,1;A2=L2.A1;MatrixForm%;L3=AE1,0,1/A22,2,0,0,AE3,AE4;A3=L3.A2;MatrixForm%;取第一行、第一列元素取第四行四阶单位
49、矩阵LU分解的方法及应用L4=AE1,AE2,0,-A33,2,1,0,0,-A34,2,0,1;A4=L4.A3;L5=AE1,AE2,0,0,1/A433,0,AE4;A5=L5.A4;L6=AE1,AE2,AE3,0,0,-A54,3,1;A6=L6.A5;L7=AE1,AE2,AE3,0,0,0,1/A64,4;A7=L7.A6;U=A7;MatrixForm%L=InverseL7.L6.L5.L4.L3.L2.L1;MatrixForm%;L.U;MatrixForm%LinearSolveL,b;y=%LinearSolveU,yLinearSolveA,b答案：答案：Y=2,4
50、,3,1X=-1,1,-1,1X=-1,1,-1,1求逆矩阵LU分解的方法及应用 nnnnnnnnnnnndxbxadxcxbxadxcxbxadxcxb1111111232221212111三对角线性方程组：三对角线性方程组：nnnnnbacbacbacbA11122211对对应应的的系系数数矩矩阵阵LU分解的方法及应用1,2,1)(,3,21111 nnkuxcyxuyxnkyldydykkkkknnnkkkk：三三对对角角矩矩阵阵计计算算公公式式为为 1,1)(,3,211111111nkuxcyxuyxyldynkclbuualdybukkkkknnnkkkkkkkkkkk，角角方方程
