1、矩阵论第8讲-1矩阵理论-第十讲矩阵论第8讲-2上节内容回顾矩阵的幂级数方阵幂级数收敛的判别定理:收敛半径为r:谱半径为绝对收敛 发散绝对收敛Neumann级数收敛充要条件 收敛n nAC(0,1,)kaCkn nAC0kkka A0kkka z( )A( )Ar0kkka A( )Ar0kkka AAr0kkka A( )AA:n nCR0kkA( )1A10()kkAIA矩阵论第8讲-3上节内容回顾矩阵函数收敛的矩阵幂级数 在矩阵集合 与 之间建立了一个(多对一)映射称之为矩阵函数。此矩阵幂级数的和S为A在映射f下的象,记为矩阵函数的计算利用Hamilton-Cayley定理利用相似对角化
2、利用Jordan标准形利用矩阵多项式:n nn nf CC( )Sf A0kkka An nCn nC矩阵论第8讲-4矩阵的微分和积分以函数为元素的矩阵函数矩阵函数矩阵的微分和积分泛函数量函数对矩阵变量的导数向量值函数或矩阵值函数对向量变量或矩阵变量的导数*函数矩阵的微分和积分定义以变量t的函数为元素的矩阵 是定义在a, b上的,若 在a, b上连续、可微、可积,若每个 在a, b上连续、可微、可积:m nf CF( )( )ijm nA ta t , ta b( )A t( )A t( )ija t矩阵论第8讲-5矩阵的微分和积分3.4.1 函数矩阵的微分和积分函数矩阵的微分和积分高等数学中
3、函数的和、乘积、复合函数的求导法则适用于函数矩阵的微分( )( )ijm nA ta t( )( )ijm nA ta t( )( )ijm nddA ta tdtdt( )( )bbijm naaA t dta t dt( ( )( )( )( )dddA tB tA tB tdtdtdt( ( ) ( )( )( )( )( )dddt A ttA ttA tdtdtdt( ( ) ( )( )( )( )( )dddA t B tA tB tA tB tdtdtdt( )( )( )ddA uf tA udtdu( ) tC矩阵论第8讲-6矩阵的微分和积分( )( )ijm nA ta
4、t( )( )ijn pB tb t1( ( ) ( )( )( )nikkjm pkddA t B tat btdtdt11221122111111( )( )( )( )( )( )( )( )( )( )( )( )( )( )( )( )( )( )ijijinnjm pijijinnjm pijijijdat btat btat btdtdddat btat btat btdtdtdtdddatbtatbtatbtdtdtdt111111( )( )( )( )( )( )ijijijm pdddatbtatbtatbtdtdtdt( )( )( )( )ddA tB tA tB t
5、dtdt矩阵论第8讲-7矩阵的微分和积分 当 亦可微时,有 高等数学中函数的和、常数(常数矩阵)与函数矩阵的乘积、分部积分法、变上限函数、导数的积分法则适用于函数矩阵的积分1( )At111( )( )( )( )ddAtAtA tAtdtdt 1( )( )A tAtI111( ( )( )( )( )( )( )dddA t AtA tAtA tAtdtdtdt0( )( )( )( )bbbaaaA tB t dtA t dtB t dt( )( )bbaaA t dtA t dt( )( )bbaaA tBdtA t dt B( )( )bbaaA B t dtAB t dt( )(
6、)tadAdA tdt( )( )( )baA t dtA bA a( )( )( )( )( )( )bbbaaaA tB t dtA tB tA tB t dt矩阵论第8讲-8矩阵的微分和积分 3.4.2 数量函数对矩阵变量的导数数量函数对矩阵变量的导数行列式、二次型、内积、范数等是这类函数的代表以向量为自变量的函数的导数梯度向量:m nf CF1111nijm nmmnffxxdffdXxffxx1111nmmnxxXxx:nf CF12nx1gradnfdffdxf矩阵论第8讲-9矩阵的微分和积分 数量函数对矩阵变量的导数举例(1)12naaaa12nx( )TTfxa xx a1 1
7、22( )nnfaaax11nnfadfdxfaa(1, )iifain?dfdx矩阵论第8讲-10矩阵的微分和积分 数量函数对矩阵变量的导数举例(2)1111nmmnaaAaa1111mnnmxxXxx()tr()f XAX1nikkjkm mAXa x(1, ;1,)jiijfainjmx11tr()mnskksskAXa x ?dfdX()Tjin mijn mdffaAdXx矩阵论第8讲-11矩阵的微分和积分 数量函数对矩阵变量的导数举例(3)1111nnnnaaAaa( )Tf xx Ax?dfdx12nx11 11121 12211 1( )jjnnjjnnTjnnnjjnnnaa
8、aaaaf xx Axaaa111 1111 1()()jjnnjjjjjjnnaaaaaa1 1()nnnjjnnnaaa1njkkka1nkjkka矩阵论第8讲-12矩阵的微分和积分11(1, )nnkjkjkkkkjfaajn1111111nnkkkkkknnknknkkkknfaadfdxfaa111111nnkkkkkknnknknkkkkaaaa()TTA xAxAA xTAA当A是对称矩阵时( )Tf xx Ax2dfAxdx矩阵论第8讲-13矩阵的微分和积分 数量函数对矩阵变量的导数举例(4)。证明证:设 的代数余子式为 ,将 按第i行展开:1111nnnnxxXxxdet0X
9、 1det(det)()TdXXXdXijxijXdet X1detnijijjXx XdetijijXXxdetdet()(adj)Tijn nijn ndXXXXdXx1adjdetXXX1det(det)()TdXXXdX矩阵论第8讲-14矩阵的微分和积分 3.4.3 矩阵值函数对矩阵变量的导数矩阵值函数对矩阵变量的导数矩阵值函数 的定义1111nmmnxxXxx()()ijs tF XfX:()(1, ;1, )ijijfXfXisjt()F X1111nmmnFFxxdFdXFFxx11111111111111tsstffxxFxffxx1111tijijijsstijijffxxF
10、xffxx矩阵论第8讲-15矩阵的微分和积分 矩阵值函数对矩阵变量的导数注意:与Jacobi式(函数行列式)的区别n个自变量的n个函数定义在某n维空间中,并关于自变量有连续偏导数,则其Jacobi式如下:1112221212( ,)( ,)( ,)nnnnnyf x xxyfx xxyfx xx1111222212121212(,)( ,)nnnnnnnnyyyxxxyyyy yyxxxx xxyyyxxx矩阵论第8讲-16矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(1)12nx( )TF xx?TTdxdxdxdx12TTTTnxxdxdxx 12TTTne xe xe x12( )(
11、 )( )( )nF xf xfxfx121111( )( )( )Tnfxf xfxx10012( )( )( )Tnnnnnfxf xfxx001nI矩阵论第8讲-17矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)12naaaa1112131421222324xxxxXxxxx()?Td XadX()()TF XXa1112131421222324()()()()()()()()()TTTTTTTTTXaXaXaXaxxxxd XadXXaXaXaXaxxxx矩阵论第8讲-18矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)12naaaa1112131421222324xxx
12、xXxxxx441211()()TkkkkkkF XXax ax a1112131421222324()()()()()()()()()TTTTTTTTTXaXaXaXaxxxxd XadXXaXaXaXaxxxx1112()()fXfX1112111111()TffXaxxx1Te Xa2Te Xa10a20a30a40a10a20a30a40a矩阵论第8讲-19矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)123412340000()0000Taaaad XaaaaadX矩阵论第8讲-20矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)12naaaa1112131421222
13、324xxxxXxxxx()?d XadX()F XXa1112131421222324()()()()()()()()()XaXaXaXaxxxxd XaXaXaXaXadXxxxx矩阵论第8讲-21矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)12naaaa1112131421222324xxxxXxxxx411421()kkkkkkx aF XXax a1112131421222324()()()()()()()()()XaXaXaXaxxxxd XaXaXaXaXadXxxxx1121()()fXfX1Te Xa2Te Xa1111211111()TfxXafxx10a20a3
14、0a40a10a20a30a40a矩阵论第8讲-22矩阵的微分和积分 矩阵值函数对矩阵变量的导数举例(2)123412340000()0000aaaad XadXaaaa矩阵论第8讲-23常用矩阵函数的导数 设n nACAtAtAtdeAee Adtsincos(cos)dAtAAtAt Adtcossin(sin)dAtAAtAt Adt 2342341!2!3!4!AttttteIAAAA2323411!1!2!3!AtdttteAAAAdt2323()1!2!3!tttA IAAAAtAe矩阵论第8讲-24矩阵函数在求解微分方程组中的应用一阶线性常系数非齐次微分方程组的求解0( )( )
15、( )( )dtAttdtx tcxxf1111nnnnaaAaa12( )( )( )( )nx tx tx tx t12( )( )( )( )nf tf ttf tf已知向量函数12ncccc矩阵论第8讲-25矩阵函数在求解微分方程组中的应用一阶线性常系数非齐次微分方程组的求解( )( )( )dtAttdtxxf( )( )( )AtAtdteAtetdtxxf( )( )AtAtdex tetdtf00( )( )ttAAttdexdeddf000( )( )( )tAtAtAtex tex tedf00()( )( )tA t tAtAtx teceedf矩阵论第8讲-26求解矩阵
16、方程Lyapunov方程设1111nn nnnnaaACaa1111mm mmmmbbBCbb1111mn mnnmxxXCxx1111mn mnnmffFCffAXXBF称矩阵方程为Lyapunov方程矩阵论第8讲-27求解矩阵方程Lyapunov方程的解及有解的条件对Lyapunov方程若则Lyapunov方程有唯一解证:首先证明积分存在。AXXBFRe0:det()0:det()0IAIB 0AtBtXe Fe dt 0AtBte Fe dt()AktAtrijn net e()BktBtrijm met e()()ABpkAtBtrijn me Fet e矩阵论第8讲-28求解矩阵方程
17、由于所以是可积的。记121()()(1)()( 1)!trtrrrnret e dttrtr rtn 0AtBte Fe dt( )AtBtY te Fe(0)YFlim ( )limAtBtttY te Fe0()()ABpkAtBtrijn me Fet e( )( )( )AtBtAtBtdY tAe Fee Fe BAY tY t Bdt00( )(0)( )( )YYAY t dtY t dtB 00( )( )AY t dtY t dt BF 矩阵论第8讲-29求解矩阵方程推论1设则矩阵微分方程的解为1111nn nnnnaaACaa1111mm mmmmbbBCbb1111( )
18、( )( )( )( )mnnmxtxtX txtxt1111mn mnnmffFCff( )( )( )(0)dX tAX tX t BdtxF( )AtBtX te FeRe0:det()0:det()0IAIB 矩阵论第8讲-30求解矩阵方程推论2设 ,则矩阵方程有唯一解又,若F是Hermite正定矩阵,则解矩阵X也是Hermite正定矩阵,n nA FC( )( )ijn nX tx tRe0:det()0IA HA XXAF 0HA tAtXeFe dtHXX0nxxC 0Hx Xx 00()HHHHA tAtA tAtHXeFe dteFedt 00HHA tHAtA tAteF
19、e dteFe dtX 矩阵论第8讲-31求解矩阵方程0nxxC 0Ate x 000HHHHA tAtAtAtx XxxeFe dt xe xF e x dtF是Hermite正定矩阵()()0AtHAte xF e x X是Hermite正定矩阵以参数t为变量的普通函数矩阵论第8讲-32最小二乘问题最小二乘法的原理设u是变量 的函数,含有m个参数现对u和 作n次观测,得于是u在观测值 下的计算值 与观测值 的绝对误差为:最小二乘法,就是求参数 ,使得函数与观测值 最佳拟合,即 应使其等价问题是, ,x y 12,ma aa12( ,; , ,)muf a aax y, ,x y ( ,;)
20、(1,2, )iiix yuin,iix y iu(1,2,)iQimaiu12( ,;,)(1,2, )iiimiiuuuf a aax yin12,ma aa12( ,; , ,)muf a aax y12,nu uu12,ma aa2121minmin( ,;,)nimiiiQuf a aax yf是线性函数的情形2( )f xAxb矩阵论第8讲-33最小二乘问题m nACmbC2()TTdQA AxA bdxnxC 0Axb0?nxC022minnx CAxbAxb是 的最小二乘解Axbm nARmbR22( ),() ()TQ xAxbAxb AxbAxbAxbTTTTTTx A A
21、xx A bb Axb b00 x x022minnx CAxbAxb若 是 的解,则 是方程组0nxRTTA AxA b的最小二乘解0 xAxb矩阵论第8讲-34含约束条件的最小二乘问题条件极值问题的提法目标函数在n维欧氏空间 的一个由不等式约束条件或等式约束条件所限定的区域内求一点 ,使得目标函数 达到极小值(或极大值)12( ,)( )nyf x xxfx( )0( )0(1,2,)jjjjggorggjmxx( )0(1,2,)jjggjmx:( )0( 00)(1,2,)jRgorjmxx*nxR( )f xnE*()f x*()min( )()x Rf xf xxRLinear:线
22、性规划Non-linear:非线性规划矩阵论第8讲-35含约束条件的最小二乘问题化等式条件极值问题为无条件极值问题应用Lagrange乘子法 为待定常数,将 视为n + m个变量 和的无约束函数,令其关于 的偏导数为0即可得极值点1mkkkfyg k01,2,01,2,ijfinxgjm12,n mx xxf 12,n kx22( )fAbxxm nARmbR( )gBdxxk nBRkdR22minBx dAbx矩阵论第8讲-36含约束条件的最小二乘问题化等式条件极值问题为无条件极值问题引入Lagrange乘子得kuR22( , )()TfuAbuBxdxx,()TAb AbuBxdxx()TTTTTTTx A Axx A bb Axb buBxd22TTTfA AxA bB uxfBxdu 12TTTA ABA bdBxu0