1、第第5章章 线性方程组的数值解法线性方程组的数值解法5.2 方程组的性态与条件数-基本的高斯消元法5.3 高斯消元法高斯列主元消去法高斯 若当消去法矩阵的三角分解5.4 基于矩阵三角分解的方法 平方根法和改进的平方根法追赶法（三对角矩阵）-SOR雅可比迭代法5.5 雅可比迭代法和高斯 赛德尔迭代法高斯 赛德尔迭代法5.6 逐次超松弛迭代法（）直接法迭代法5.1 引言线性方程组的常见分类有唯一解：适定方程组(本章)根据解析解的情况 不存在解：超定方程组有无穷解：欠定方程组大型（高阶）稀疏方程组大型（高阶）稠密方程组根据方程组的形式和规模小型（低阶）稀疏方程组小型（低阶）稠密方程组1（）直接解法：
2、经过有限次的算术运算(四则运算)，计算出方程组的精确解(在每一步运算过程都不会发生舍入误差的假设下)。但实际计算中不可避免舍入误差的存在和影响，n1000适用于低阶()稠密(零元素较少)的方程组所以只能求得线性方程组的近似解。及系数矩阵为带状的方程组。线性方程组线性方程组Ax=b的一般数值解法：的一般数值解法：适用于低阶稠密方程组适用于低阶稠密方程组非零元素较多，零元素较少非零元素较多，零元素较少1).Gramer法则：优点：收敛 稳定 结论可靠(1)(1)!缺点：计算量大，共次乘、除运算，nnnn逐次消元，再回代求解，实际计算中常用。2).Gauss消去法：Gramer优点：计算量相对方法小
3、很多，便于程序化占用空间大缺点：误差分析困难，当用很小的数作除数或两个相近数相减时，往往造成其解不稳定实际计算中不常用，可用于理论分析。实际计算中常用的有效方法。3).Gauss改进的消去法：如：列（行）主元法，全主元法，LU分解法，平方根法，追赶法等2（）迭代法：利用将方程组变形为某种等价的迭不动点理论代公式，(0)()(0,1,2,)给出初始解，求出迭代序列的极限kxxk*（精确解）。xn1000适宜于求解大型()稀疏的(零元素较多)线性方程组。适用于大型稀疏方程组适用于大型稀疏方程组上万阶，零元素很多，非上万阶，零元素很多，非零元素很少零元素很少主要方法有：GuassSeidel2)高斯
4、赛.德尔（）法1).Jacobi雅可比（）迭代法SOR超松弛（3).）法：GS是方法的加速优点：速度高，计算机存储量小，程序设计简单；缺点：有误差，需要事先确定迭代算法的收敛性及收敛速度。2).运算量或计算时间（加、减、乘、除的运算次数1).近似解与真解的误差大小（常用范数度量）3).存储空间或步数，通常只记乘、除法）4).逻辑复杂度5).稳定性及收敛性评价求解评价求解Ax=b数值方法好坏的标准：数值方法好坏的标准：5.2 线性方程组的性态及条件数线性方程组的性态及条件数 1()xbxbxbAxbAAA xb11|xbxbAAAxbbAx()AxAxAAxbAxAxb 1()AAAAAAA I
5、A若不受限制的话，可能奇异，而11111111()1()1AAAAAAAIAIAAP（16定理当1时，存在，且.3.7）11xAAxAAxAAAxx=11+xAAxAxA1111111AAxAAAAAAAAAxAAAAA11xAAxAxA=111AxAAxA11)cond()AAA1max222min()2)cond()()TTA AAAAA Amax2min()cond()()AAAA当为对称矩阵时，条件数的性质：11),cond()AAAA对于任何非奇异阵有11AAI2)0,cond()cond()AkkAA设为非奇异阵，且则23)()1Acond A如果 为正交矩阵，则AR4)如果为非奇
6、异矩阵，为正交矩阵，222cond()cond()cond()RAARA则条件数不变一定不是病态的7condcondcond7836()748,()2.910,()9.8510HHH111211112321111221nHnnnn1246612Hcondcondcond2 1222()27,()19.28,()27HHH)1 用选主元素消去法解时出现小主元；2)A的行列式值相对来说很小，或某些行（或列）近似线性相关；3)A的元素之间数量级相差很大，并无一定规律；)4 最大特征值与最小特征值相差很大；5)|A 很大。矩阵的基本运算矩阵的基本运算 (5)单位矩阵单位矩阵 (1)矩阵加法矩阵加法,B
7、AC (2)矩阵与标量的乘法矩阵与标量的乘法.,ijijacAC (3)矩阵与矩阵乘法矩阵与矩阵乘法).R,R,R(1pmpnnmnkkjikijCBAbac,ABC)R,(nmijijijCBAbac (4)转置矩阵转置矩阵.,RijijTnmacACA,R21nnneeeI.,2,1,0,0,1,0,0nkeTk (6)非奇异矩阵非奇异矩阵 称称 为非奇异矩阵为非奇异矩阵.A 如果如果 均为均为非奇异矩阵，非奇异矩阵，nnBAR,设设 如果如果 则称则称 是是 的逆矩阵，记为的逆矩阵，记为 且且.R,RnnnnBA,IBAABBA,1A.)()(11TTAA.)(111ABAB则则(7)矩
8、阵的行列式矩阵的行列式 设设,RnnA则则 的行列式可按任一行的行列式可按任一行(或列或列)展开，展开，A),2,1()(det1niAaAnjijij其中其中 为为 的代数余子式，的代数余子式，ijAija,)1(ijjiijMA即即 ija 的余子式的余子式.为元素为元素ijM行列式性质行列式性质.R,),()det(det)(det a)(nnBABAAB.R),(det)(det (b)nnTAAA.RR,),(det)(det (c)nnnAcAccA.0)(det (d)是非奇异矩阵AA矩阵的特征值与谱半径矩阵的特征值与谱半径设设 若存在数若存在数 （实数或复数）和（实数或复数）和
9、非零向量非零向量 ，使使nnijaARnTnxxxxR),(21,xAx（1）则称则称 为为 的特征值，的特征值，为为 对应对应 的特征向量，的特征向量，AxA.,)(21nA.max)(1iniA称为矩阵称为矩阵 的谱半径的谱半径.A（2）有非零解，有非零解，0)(xAI 由由(1)(1)知知 可使齐次线性方程组可使齐次线性方程组AA)(A 的全体特征值记为的全体特征值记为 的谱，记作的谱，记作 ，即即故系数行列式故系数行列式 ，0)det(AI记记 为矩阵为矩阵 的特征多项式，方程的特征多项式，方程(3)(3)称为矩阵称为矩阵 的特的特征方程征方程.)(pAA.0)det()(111212
10、222111211 nnnnnnnnnncccaaaaaaaaaAIp （3）记记行列式展开行列式展开 因为因为 次代数方程次代数方程 复数域中有复数域中有 个根个根 n)(pn故故,21n).()()(21np.det)1()1(,211211Acacnnnnniiin 故矩阵故矩阵 个特征值个特征值 是它是它的特征方程的特征方程(3)(3)的的 个根个根.nnijaAR)(n,21nn且且,)det(21nA（4）记记.tr11niiniiiaA（5）称称 为为 的迹的迹.AAtr 的的 特征值特征值 和特征向量和特征向量 的其他性质：的其他性质：Ax (1)(1)与与 有相同的特征值有相
11、同的特征值.ATA (2)(2)若若 非奇异，则非奇异，则 的特征值为的特征值为 ，特征向量为，特征向量为 .A1A1x (3)(3)相似矩阵相似矩阵 有相同的特征多项式有相同的特征多项式.ASSB1矩阵矩阵 的特征方程为的特征方程为 A,0)7()2(28243242422221)det(223 AI故故 特征值为特征值为2,22,2，-7-7A.242422221A 例例 求求 的特征值及谱半径的特征值及谱半径 A.7)(A 的谱半径为的谱半径为 A解解 设设 .R)(nnijaA (1)对角矩阵对角矩阵 (2)三对角矩阵三对角矩阵.01 ijaji，如果当如果当 (3)上三角矩阵上三角矩
12、阵.0 ijaji，如果当如果当 (4)海森伯格（海森伯格（Hessenberg）阵）阵.01 ijaji，如果当如果当 (5)对称矩阵对称矩阵.AAT 如果如果.0 ijaji，如果当如果当 (6)埃尔米特矩阵埃尔米特矩阵.,CAAAHnn 如果如果 (7)对称正定矩阵对称正定矩阵 ,(a)AAT 如果如果.0),(,R (b)AxxxAxxTn对任意非零向量对任意非零向量 特殊矩阵特殊矩阵11121112122212323331nnnnnnnnnhhhhhhhhhhhhhH(12)设矩阵设矩阵 n nRA，若，若 1,(1,2,)niiijjj iaain且至少有一个不等式严格成立，则称矩
13、阵且至少有一个不等式严格成立，则称矩阵 A为弱对角占优阵弱对角占优阵，1,(1,2,)niiijjjiaain对所有不等式严格成立，则称矩阵对所有不等式严格成立，则称矩阵 A为为严格对角占优阵严格对角占优阵。若若 (8)正交矩阵正交矩阵.1TAA 如果如果 (9)酉矩阵酉矩阵.,CH1AAAnn 如果如果设设 (10)初等置换阵初等置换阵单位矩阵单位矩阵 交换第交换第 行与第行与第 行行(或交换第或交换第 列与第列与第 列列)IijijijI (11)置换阵置换阵AAIij（为交换（为交换 第第 行与第行与第 行得到的矩阵）；行得到的矩阵）；Aij（为交换（为交换 第第 列与第列与第 列得到的
14、矩阵）；列得到的矩阵）；iAjBAIij由初等置换阵的乘积得到的矩阵由初等置换阵的乘积得到的矩阵.定理定理1 设设 则下述命题等价：则下述命题等价：nnAR(1)对任何对任何 方程组方程组 有唯一解有唯一解.,RnbbAx (2)齐次方程组齐次方程组 只有唯一解只有唯一解 .0Ax0 x (4)存在存在.1A (5)的秩的秩A.)(nArank.0)det(A(3),2,1(nk或或 的特征值的特征值A),2,1(0nii定理定理2 设设 为对称矩阵为对称矩阵.如果如果nnAR0)(detkA则则 为为A对称正定阵对称正定阵.定理定理3 设设 为对称正定为对称正定阵，则阵，则 nnAR(1)为
15、非奇异矩阵，且为非奇异矩阵，且 亦是对称正定阵亦是对称正定阵.A1A(2)记记 为为 的顺序主子阵，则的顺序主子阵，则 kAA).,2,1(1111nkaaaaAkkkkk),2,1(nkAk亦是对称正定矩阵，亦是对称正定矩阵，其中其中 (3)的特征值的特征值 A).,2,1(0nii(4)的顺序主子式都大于零，即的顺序主子式都大于零，即 A).,2,1(0)det(nkAk 定理定理4(若尔当（若尔当（JordanJordan）标准型）标准型)设设 为为 阶矩阵，阶矩阵，则存在一个非奇异矩阵则存在一个非奇异矩阵 使得使得 AnP,)()()(22111 rrJJJAPP 其中其中 .),2,1(111)(1nnrinJriiinniiiiiiii 且 为若尔当块为若尔当块.(1)当当 的若当标准型中所有若尔当块的若当标准型中所有若尔当块 均为一阶时，均为一阶时，AiJ此标准型变成对角矩阵此标准型变成对角矩阵.(2)如果如果 的特征值各不相同，则其若尔当标准型必为的特征值各不相同，则其若尔当标准型必为A).,(21ndiag对角阵对角阵
