1、数值分析数值分析数值分析数值分析11212()0(1)()0nnnfxxxfxxx 非非线线性性方方程程组组的的一一般般形形式式，11()()0()()0(2),:nnnnxfxxF xxfxF xFDRR令令则则方方程程(1)(1)可可改改写写为为*(2)()0 xDxF x 若若存存在在，使使方方程程组组精精确确成成立立，则则称称 为为方方程程组组的的解解。第二节第二节 非线性方程组的简单迭代法非线性方程组的简单迭代法一、引言一、引言数值分析数值分析数值分析数值分析211212221212(,)0(,)0fxxxxafxxxxaa 2 2是是平平面面R R 上上的的两两条条抛抛物物线线，其
2、其交交点点即即为为方方程程组组的的解解，当当参参数数 在在-1-1和和1 1之之间间变变化化就就例例：有有以以下下情情形形:121212121212(1)1,11(2),42(3)0,01(4)1,1,0;0,1;1(15)2aaxxaxxxxaxxxxxx 无无解解一一个个解解，两两个个解解，；四四个个解解，。非线性方程组解的复杂性非线性方程组解的复杂性数值分析数值分析数值分析数值分析clear,clfx1=-2:.2:2;y2=-2:.2:2;y1=f1(x1);x2=f2(y2);plot(x1,y1,r:,x2,y2,b)xlabel(x),ylabel(y)(3)a=0(4)a=-1
3、(1)a=1(2)a=1/4数值分析数值分析数值分析数值分析几类典型非线性问题几类典型非线性问题2()(,)ln01(0)1,(1)2ytf t ytytyy 非非线线性性两两点点边边：值值题题例例问问21101()(,)(ln)1,21,2,.,iiiiiiinOyyyf tytyyyin 2 2iiii2222略略去去h h，并并令令yy(t)yy(t)，有有-2+=hh-2+=hh为为非非线线性性方方程程组组。()O i ii i2 2i-1ii+1i-1ii+1i i2 2将区间0，1n+1等分，在内点t(i=1,2,.,n)将区间0，1n+1等分，在内点t(i=1,2,.,n)用差商
4、逼近y(t)，得用差商逼近y(t)，得y(t)-2y(t)+y(t)y(t)-2y(t)+y(t)y(t)=hy(t)=hh h解：解：数值分析数值分析数值分析数值分析2211122222221112209ln)0(ln)0(ln)0(ln)nnnnnnyhtyyh tyyh tyyh ty 写写成成矩矩阵阵向向量量形形式式2-12-1-12-1-12-1-12-1-12-1-12-12数值分析数值分析数值分析数值分析例：半线性椭圆型边值问题例：半线性椭圆型边值问题2222(,),0,1(,)|(,)uufx y ux yxyu x yx y 解解:(1)剖分求解域剖分求解域.1,.,1,0,
5、NNjijhyyihxxjiYN+1N:2100 1 2 .N N+1 X数值分析数值分析数值分析数值分析)(),(),(2),(),()(),(),(2),(),(221122221122hOhyxuyxuyxuyxyuhOhyxuyxuyxuyxxujijijijijijijiji (2)对微分算子进行离散对微分算子进行离散.21,1,222,1,1222),(2),(huuuyxyuhuuuyxxujijijijijijijiji 在每个点在每个点(xi,yj)上的有限差分方程为上的有限差分方程为2,1,1,1,14(,)1,i jijiji ji jijuuuuuh f ih jh u
6、i jN在边界上在边界上0,1,0,1(0,),(1,),(,0),(,1),1,2,.,jNjii Nujh ujh ujhujhi jN 数值分析数值分析数值分析数值分析对非边界点进行编号对非边界点进行编号:顺序为顺序为-从下往上从下往上,从左往右从左往右),(),.,(),(),.,(.,),(),(),(),.,(),(212222111211NNNNNNyxyxyxyxyxyxyxyxyx相应的解向量和右端向量分别为相应的解向量和右端向量分别为 1,12,1,11,22,2,21,2,1,12,1,11,22,2,21,2,2,(,.,.,.,.,)()(,.,.,.,.,),(,)
7、(,)NNNTNN NNNNTNN Ni jijijuuuuuuuuuuF uFFFFFFFFFFh f ih jh uih jh 其其中中为为非非线线性性函函数数 含含右右端端项项及及相相应应边边界界点点。数值分析数值分析数值分析数值分析1122()NNAuF uAIIAAIIA 非非线线性性方方程程组组其其中中 4114114iiA数值分析数值分析数值分析数值分析 多元向量值函数的导数多元向量值函数的导数111122221212()()()()()()()()()nn nnnnnnF xxFxfxfxfxxxxfxfxfxxxxFxDF xRfxfxfxxxx 多多元元向向量量值值函函数数
8、()在在点点 的的导导数数记记为为()，()=()=F xxFxF xxJacobi多多元元向向量量值值函函数数()()在在点点 的的导导数数()()又又常常称称为为()()在在点点 的的矩矩阵阵。数值分析数值分析数值分析数值分析221213212132()()51xxx xF xDF xxxx x 例例已已知知，求求：。11112322212313212313()()()()()()22152fxfxfxxxxFxDF xfxfxfxxxxxxxxxx x()=()()=()：=解解数值分析数值分析数值分析数值分析12;11 222;2122;(1,2,1,2)2,12 2 2 1,1 11
9、122212symsxxfx xxfxxDFjacobianffxxDFxxMatlabxxffxxffxx 输输函函数数出出：为为例例调调用用数值分析数值分析数值分析数值分析多元实函数的高阶导数多元实函数的高阶导数2222121122221222222212()()()()()()()()()nn nnnnnf xf xf xxxxxxf xf xf xf xD f xRx xxxxf xf xf xx xxxx ()()的的二二阶阶导导数数()=()=12()()()Tnf xf xf xf xf xxxx()()的的一一阶阶导导数数()=()=(),(),()()nf xxRnnf xH
10、essianH xD f x多多元元实实函函数数的的二二阶阶导导数数是是一一个个矩矩阵阵称称为为的的矩矩阵阵 记记为为数值分析数值分析数值分析数值分析(1)()(0)(1)(2)()()*(),lim()()0()kkkkkxxxxxxxxxxF xxx 由由迭迭代代格格式式产产生生迭迭代代序序列列若若，则则，即即称称为为映映射射的的不不动动点点。()0()F xxx 将将写写成成便便于于迭迭代代的的形形式式 研究非线性方程组解的存在唯一性问题可转研究非线性方程组解的存在唯一性问题可转化为研究不动点的存在唯一性。化为研究不动点的存在唯一性。二、压缩映射与不动点迭代（简单迭代法）二、压缩映射与不
11、动点迭代（简单迭代法）数值分析数值分析数值分析数值分析 *(0)(1)()()*0()*:1)()().2)1,()()()();(2),1()nnkkkkkDRRDDDxDxDDLx yDxyL xyxDxxxxDxxxxLxx 设设映映射射，是是闭闭集集,若若有有，即即对对，有有是是 上上的的压压缩缩映映射射，即即存存在在正正常常数数，使使都都有有则则有有:(1):(1)在在 上上有有唯唯一一不不动动点点满满足足对对 初初值值由由迭迭代代格格式式产产生生的的迭迭代代序序列列收收敛敛到到，定定理理（压压缩缩映映射射原原理理）且且有有估估计计式式()(1)()*(1)(0)11kkkkxxLL
12、xxxxL 数值分析数值分析数值分析数值分析()xyeeexyexy(1)()()011()kkkkxxxDD 条条件件）是是保保证证由由产产生生的的迭迭代代序序列列仍仍在在 中中，这这是是证证明明对对压压在在 中中存存在在缩缩映映射射原原理理的的认认识识和和讨讨论论不不动动点点的的不不可可：少少的的条条件件。22()1 1,()20,1,()xDDxeDxDx 条条件件）是是要要求求映映射射 是是 上上的的压压缩缩映映射射，这这个个“压压缩缩”与与所所取取的的闭闭集集 有有关关（也也与与范范数数有有关关）如如可可以以验验算算在在 上上是是压压缩缩的的，而而在在上上不不是是压压缩缩映映射射。数
13、值分析数值分析数值分析数值分析2*22()0,1!02,1()()()()()(1)220,3,0,1|()()|12|12|11,0,1|()()|xxxxxyxyxyxyxyxyx yxyxyLx yxyL xy 在在中中不不动动点点，但但它它不不是是压压缩缩的的对对任任意意小小的的正正数数，取取显显然然则则有有这这是是一一个个等等式式，而而可可以以无无限限接接近近于于，因因此此，不不存存在在能能对对都都有有例例：3压压缩缩映映射射原原理理只只是是一一个个充充分分性性原原理理，不不是是充充分分必必要要的的，也也就就是是说说，不不满满足足压压缩缩映映射射原原理理，也也可可能能有有不不动动点点
14、。数值分析数值分析数值分析数值分析线性问题与非线性问题有本质的区别：线性问题与非线性问题有本质的区别：线性问题：解存在唯一，迭代收敛与区域无关。线性问题：解存在唯一，迭代收敛与区域无关。非线性问题：解不唯一，有多解性，迭代收敛与非线性问题：解不唯一，有多解性，迭代收敛与所取闭区域有关。所取闭区域有关。(1)()(0)4(),(),|()()|1kknnAxbxBxgxBxgxBxg AxbxxBxgx yRxxBxyBxR 非非线线性性问问题题的的迭迭代代法法是是线线性性方方程程组组迭迭代代法法的的推推广广线线性性问问题题相相当当于于令令用用压压缩缩映映射射原原理理的的形形式式当当时时，对对任
15、任意意初初值值均均收收敛敛。数值分析数值分析数值分析数值分析(0)51()0:()0()1,(),;2,1|()()|(),().(2),nf xxRfRRf xxxxRRRRRxa bxa bx ya bLxyL xyxa bxxxxa b 将将压压缩缩映映射射原原理理用用到到时时，即即单单个个非非线线性性方方程程的的问问题题：这这时时的的压压缩缩映映射射原原理理为为:设设：，若若有有）有有）存存在在正正常常数数，使使则则(1 1)在在中中存存在在唯唯一一不不动动点点，使使对对初初值值 (1)()()*0()*()(1)()*(1)(0)()11kkkkkkkkkxxxxLxxxxLLxxx
16、xL 由由迭迭代代格格式式产产生生的的迭迭代代序序列列收收敛敛到到，且且有有估估计计式式数值分析数值分析数值分析数值分析,|()()|()|(,)2,1|()|xyxya bxa bLxL ，因因此此，在在压压缩缩映映射射原原理理中中条条件件）常常改改成成存存在在正正常常数数，使使62|()|1nRDxLxD 在在中中一一般般形形式式的的压压缩缩映映射射原原理理中中的的条条件件）也也可可改改成成数值分析数值分析数值分析数值分析()()()xF xxx 构构造造迭迭代代函函数数，使使解解：122212230250 xxxx T T用用不不动动点点迭迭代代求求非非线线性性方方程程组组在在(1.5,
17、0.7(1.5,0.7：)例例附附近近的的解解。122212152()1(3)2xxxxxx 即即为为1222152()1(3)2xxx 迭迭代代函函数数数值分析数值分析数值分析数值分析1()2(1)21(1)()21:520,1,2,1(3)2kkkkxxkxx 不不动动点点迭迭代代格格式式（J Ja ac co ob bi i迭迭代代格格式式）212220(102):()102xxDx 迭迭代代函函数数的的J Ja ac co ob bi i矩矩阵阵 1212(0)*(6),)|1,2,0.5,1.53122xxxxxxxx T TT T取取一一个个包包括括点点(1.5,0.75)(1.5
18、,0.75)的的邻邻域域S=(S=(计计算算出出在在S S上上，都都有有 D()D()因因此此，所所构构造造的的迭迭代代格格式式是是收收敛敛的的。取取初初值值=(1.5,1.0)=(1.5,1.0)迭迭代代计计算算6 6次次得得到到近近似似解解=(1.488,0.756)=(1.488,0.756)数值分析数值分析数值分析数值分析1()2(1)21(1)(1)21:520,1,2,1(3)2kkkkxxkxx Gauss-SeidelGauss-Seidel迭代格式迭代格式数值分析数值分析数值分析数值分析二、局部收敛性原理二、局部收敛性原理原理的局限性：原理的局限性：（1）收敛域）收敛域 很难
19、找很难找（2）对非线性问题这是一个充分性原理，不是充分）对非线性问题这是一个充分性原理，不是充分必要的，只有对线性问题，才是充分必要条件必要的，只有对线性问题，才是充分必要条件.如：如：SBxDxgBxxbAx )()(*(0)(1)()*:()()|()nnnkkDRRDxxxxSxRxxxSxxx 设设，若若在在内内有有一一个个不不动动点点，在在点点可可导导，且且()1 1,则则存存在在一一个个邻邻域域对对邻邻域域中中任任意意初初值值，迭迭代代格格式式产产生生的的迭迭代代序序列列收收2 2敛敛到到定定理理。数值分析数值分析数值分析数值分析P=1，C1为线性收敛，为线性收敛，P=2为平方收敛
20、。为平方收敛。(1)()()*0P(1)*()*(1)*()*()0()10limkkkkkkkPkkkkxxxxPCxxC xxxxCxxxPP 设设迭迭代代格格式式产产生生的的迭迭代代序序列列收收敛敛到到。若若存存在在正正常常数数和和，使使或或使使则则称称迭迭代代序序列列是是 阶阶收收敛敛的的。定定义义也也称称此此迭迭代代格格式式是是 阶阶收收敛敛的的迭迭代代格格式式。三、收敛速度三、收敛速度数值分析数值分析数值分析数值分析112212(,)0()0(,)0fxxF xfxx 以以两两个个方方程程为为例例推推导导()()()()12()()()()11112112112212112()()
21、()()22212212112212212(,)(,)(,)()()(,)(,)(,)()()(,)kkkTkkkkkkkkkkxxxxfffxxfxxxxxxxxlxxfffxxfxxxxxxxxlxx 已已知知第第 次次近近似似值值，在在作作泰泰劳劳展展开开 第三节第三节 非线性方程组的非线性方程组的NewtonNewton型算法型算法一、一、Newton-RaphsonNewton-Raphson方法的迭代格式方法的迭代格式数值分析数值分析数值分析数值分析11(1)()12()(1)()()11(1)()222212,()kkkkkkkkffxxxxxxxDF xffxxxx 记记11(
22、1)()()()1211112(1)()()()222221212(,)(,)kkkkkkkkffxxxxfxxffxxfxxxx 112(1)212(,)(),()0(,)klxxL xL xlxx 令令，得得到到()()()(1)()()()()kkkkkkNewtonDF xxF xxxx 得得迭迭代代格格式式()(1)1max()kkii nxF x 迭迭代代终终止止标标准准为为或或数值分析数值分析数值分析数值分析()()12kDF xJacobi计计算算的的方方法法（）解解系系法法：直直接接计计算算出出矩矩阵阵（）数数值值法法()()()()()()()()()1111()()(,)
23、(,),1,.,kijkkkkkkkkijjjjninkjf xxf xxxhxxf xxhi jn ()()()(1)()()1()(1)()()1()()()()Newton()()()kkkkkkkkkkDF xxF xxxDF xF xxxxxxDF xF x 的的迭迭代代函函数数是是数值分析数值分析数值分析数值分析()()(1)(0)24()()()()46(0)3()(0)()(1()1010(1,2,.,)00(1,2,.,)1010101min,max10(1(1)(2),2,.3).)(,kkkjjjjkkjjkjkjjkkkkjjiijhxxhjncxxhcxjnchhhx
24、xhjn 可可按按以以下下几几种种方方案案选选取取取取一一般般数值分析数值分析数值分析数值分析(0)(1.5,1.0)Tx 用用牛牛顿顿迭迭代代法法解解方方例例程程组组，取取初初值值迭迭代代一一次次。052032222121xxxxT2212121212(1)(0)(0)(0)(1)(0)(0)(0)(0)1(0)2(0)()(),()(23,25)12()426-24k0,()()1.5 1.0120.5620.50.TTF xfxfxxxxxDF xxxxDF xxF xxxxxxxx ）按按格格式式（）取取计计算算将将初初值值（，）代代入入得得解解得得（解解：(1)(1)(0)(0)0,
25、0.25),1.5,0.75)TTxxxx 于于是是求求出出解解为为（数值分析数值分析数值分析数值分析1*1*()()()()()()0 xxDF xF xxIDF xDF xII N Ne ew wt to on n迭迭代代法法的的迭迭代代函函数数是是故故根根据据定定理理2 2知知N Ne ew wt to on n迭迭代代法法是是局局部部收收敛敛的的。2*()2(1)*()*()()()(0)kkkxxSxxc xxcxxxxc xx N Ne ew wt to on n迭迭代代法法的的迭迭代代函函数数满满足足对对一一切切，有有利利用用此此结结论论，令令，则则有有二、二、NewtonNew
26、ton迭代法的收敛性迭代法的收敛性由迭代收敛阶的定义，由迭代收敛阶的定义，Newton迭代法是平方收敛的。迭代法是平方收敛的。数值分析数值分析数值分析数值分析111211112()()()()()()(),(),()()(),()(),1,2,()()()()()()()(),(),()(ijn nTnnkikijkjTnxxDF xF xDF xaxF xfxfxfxDF xDF xIfxaxi jnxxxB xDxID B xB xDF xF xbxbxbxDB x 对对记记即即记记其其中中()(),1,2,in njbxi jnx ()0Dx 下下面面证证明明数值分析数值分析数值分析数值
27、分析11*1*()()()()()()()()()01,2,()()(),1,2,()()()()0niikkkniikkkikkjjjknikikijkjjijn nb xax fxb xaxfxfxaxxxxfxknb xfxaxi jnxxb xD B xIxDxID B xII 而而于于是是证证闭闭数值分析数值分析数值分析数值分析(0)(0)(0)(0)()0,:0,1(,)0,(,0)(),()0,()0,(0)1,(,1)(),()0,()0,(1)(,)0(),(0)(1)(,)nnF xFRRtH x ttH xxxxxxxtH xF xF xxF xxxH x txx txx
28、xxH x t 设求解设求解引入一个参变量引入一个参变量构造函数（族），使其满足要求构造函数（族），使其满足要求时且有已知根时且有已知根使即，使即，时则由可求出根时则由可求出根使即使即由可得且有，。由可得且有，。称称()()()0 xx txx tF xx 为同伦函数，称为同伦曲线。为同伦函数，称为同伦曲线。求出同伦曲线，即可求出的根。求出同伦曲线，即可求出的根。二、同伦算法二、同伦算法数值分析数值分析数值分析数值分析(0)(0)(0)(,)1(,)()(1)()()0()0(,)()(1)()00,(,0)()01,(,1)()0H x tH x ttF xtxxxxH x ttF xtxt
29、H xxtH xF x 构构造造的的方方法法（）取取其其中中有有根根使使显显然然满满足足要要求求 222121221212(0)(0)(0)02529(),(),01112,()0(,)()(1)(),0,1(,)00,(,0)()0,(0)()1,(,1)()0,(1)TxxxxF xxxxxxxxH x ttF xtxtH x ttH xxxxxx ttH xF xxx 例例：取取可可构构造造同同伦伦函函数数求求解解有有（要要解解出出数值分析数值分析数值分析数值分析(0)(0)(0)(0)(1)(2)(,)()(1)()(,)0,()0,(,0)()()0,(0),1,(,1)()0,(1
30、)nxRH x tF xtF xH x txx ttH xF xF xxxtH xF xxxx 任任取取初初值值，构构造造同同伦伦函函数数求求解解解解出出显显然然满满足足要要求求解解解解(0)(3)(,)()(1)(),0,1n nH x ttF xt A xxARt 非非奇奇异异数值分析数值分析数值分析数值分析0)()1()(),()0(xFtxFtxH求求解解同同伦伦方方程程),.,1,0(,101,1,010NkNkttttNNkN 个个节节点点有有等等分分将将的的初初值值作作为为求求解解用用，的的解解由由于于0),()0(0)0,(),(1)0()0(0 txHxxxxHtxH)1()
31、(0),(,)()2(2)1()1(xtxxNxtxHxxNewtonNN 步步求求出出重重复复以以上上过过程程继继续续到到第第，求求出出解解作作为为初初值值求求解解再再用用迭迭代代法法求求解解得得到到解解用用数值分析数值分析数值分析数值分析1(0)(1)()()1()()(1)()()1(),(,)0,0,1,2,.,1Newton0,1,2,.,1(,)(,),1,2,.(,1)(,1)kknkkkkknkkkkktH txkNNxRkNkkxxDH xH xNNxRkN NNxxDH xH x 具具体体计计算算格格式式为为取取求求解解（）每每一一步步 用用迭迭代代计计算算一一次次，取取合
32、合适适初初值值对对再再取取作作初初值值，对对数值分析数值分析数值分析数值分析(0)(0)(1)()()1()(0)()(1)()()1()(,)()(1)()0,1,2,.,1()()(1)(),1,2,.()()nkkkkknkkkkH x tF xtF xxRkNkxxDF xF xF xNxRkN NNxxDF xF x 将将代代入入上上式式后后，实实际际的的计计算算格格式式为为取取初初值值，对对再再取取作作初初值值，对对数值分析数值分析数值分析数值分析。可以通过递推形式计算可以通过递推形式计算而且而且来代替来代替用一个矩阵用一个矩阵拟牛顿法的基本思想：拟牛顿法的基本思想：kknnkBx
33、DFRB),()()(1)()(1)(1)()(1)()()()()()kkkkkkkF xxTaylorF xF xDF xxx 它它的的一一般般原原理理是是：将将在在点点作作展展开开(1)11(1)()(1)()1()()()()kkkkkkkkBDF xBBxxF xF x 若若用用一一个个矩矩阵阵代代替替，则则应应满满足足条条件件三、拟牛顿法三、拟牛顿法数值分析数值分析数值分析数值分析 ,.2,1,0)()()()1()()(kxxxxFxBNewtonkkkkkk迭代格式变为迭代格式变为把把kkkkBBBB 1,即应有即应有应能用递推公式计算应能用递推公式计算其中其中是待求的向量是待
34、求的向量其中其中令令nTkkkRUUSBBB ,1ySBxFxFyxxSnBBroydenkkkkkk 1)()1()()1()()(,11记记维维向向量量的的乘乘积积两两个个的的矩矩阵阵，并并将将它它表表示示为为为为一一个个秩秩为为它它是是取取算算法法方方法法称称之之为为秩秩数值分析数值分析数值分析数值分析SSSSByBSSSByUSBySUSSBySBBTTkkTkkTkkk)(,)(1 解出解出则得到则得到,.2,1,0)()()()()1()()()0(0)0(kxxxxFxBxDFBxBroydenkkkkkk，取，取给定初值给定初值方法的具体计算式方法的具体计算式)()(,.2,1
35、)()()()1()()()()1()()()()()()(1kkkkkkkkTkTkkkkkkxFxFyxxxSkSSSSByBB 数值分析数值分析数值分析数值分析(1)()()(1)()1()00,1,2,2()()ikkkkkkkffxinxxxpf xf x 求求解解方方法法有有两两条条途途径径：（）求求解解非非线线性性方方程程组组（）优优化化方方法法（搜搜索索寻寻优优，下下降降法法）格格式式选选取取，使使)(min)(,:),(*1xfxfxRRDfxfnDxn 使使求求对对于于目目标标函函数数题题的的一一般般形形式式元元实实函函数数无无约约束束优优化化问问第四节第四节 无约束优化算
36、法无约束优化算法数值分析数值分析数值分析数值分析21*11()()()()22()0()min()nTiix DxF xF xfxxF xxxx 构构造造目目标标函函数数求求使使求求使使 无无约约束束优优化化问问题题。转转化化为为一一个个目目标标函函数数的的：，对对于于非非线线性性方方程程组组TnnnxfxfxfxFRRDFxF)(,),(),()(,0)(21 数值分析数值分析数值分析数值分析0)()(min)()(21)(xxxxFxFxDxT 必必满满足足方方程程组组的的解解，是是若若根根据据极极值值的的必必要要条条件件，对对于于目目标标函函数数0)()()()()()()()()()(
37、)()()()(21212222111211 xFxDFxfxfxfxxfxxfxxfxxfxxfxxfxxfxxfxxfTnnnnnnn即即一、高斯一、高斯-牛顿法牛顿法数值分析数值分析数值分析数值分析用线性化思想构造求解上述方程组的迭代法用线性化思想构造求解上述方程组的迭代法()()()()()()()()()kkkkF xxF xDF xxxF xLx 将将在在点点线线性性展展开开 ()()()()()(1)()()()()()()0,1,2,.TTkkkkkkkkDF xDF xxDF xF xxxxk 0)()()()(min)(:*xFxDFxxxxTDx 就就可可转转化化为为求求
38、解解方方程程组组使使求求求求极极小小化化问问题题()()T()()()()()()0kkkkLxF xDF xDF xDF xLx 用用代代替替，代代替替得得(1)-kx 并并将将它它的的解解记记作作，得得高高斯斯 牛牛顿顿迭迭代代法法数值分析数值分析数值分析数值分析(1)()()()()()()()()()12()()()()()11(1)0,1,2,()()()()(,)()()()()()1,2,kkkkkkkkkkkkTnkkkkknniiixxpkppxxxpxxxxfxfxxfxfxxxxin 最速下降法最速下降法为搜索方向为搜索步长为搜索方向为搜索步长取搜索方向为最速下降方向取搜
39、索方向为最速下降方向二、搜索法二、搜索法数值分析数值分析数值分析数值分析(1)()()()(1)()()()()()()()()()(1)()()()(1)()()()()()()()0(,)(,)kkkkkkkkTkkkTkkkkTkkkkkkkkkkkkkkxxpxxxxxpxxppxxppxxxpkpp 确确定定最最优优搜搜索索步步长长（）（）（）（）（）（）应应使使（），故故最最速速下下降降法法的的计计算算格格式式：（）0,1,2,数值分析数值分析数值分析数值分析(1)()()()()()1()()()()(2)0,1,2,()()()()3()4kkkkkkkkkkkkkxxpkppH xxH xxHessianppBxB 牛牛顿顿下下山山法法取取搜搜索索方方向向为为其其中中是是的的矩矩阵阵。（）变变尺尺度度法法取取搜搜索索方方向向为为可可用用递递推推形形式式计计算算。（）共共轭轭斜斜量量法法数值分析数值分析数值分析数值分析习题习题 P279-1,3,7,9
