1、机械优化设计概述1个人简介2教育经历教育经历n 2010/9 - 2014/3,同济大学,机械制造及其自动化,博士n 2006/9 - 2008/6,上海海事大学,机械电子工程,硕士n 2002/9 - 2006/6,上海海事大学,工业工程,学士科学研究科学研究n 研究方向:运筹学与智能优化、物流系统工程n 科研项目:主持国家自然科学基金、上海市晨光计划、扬帆计划、国家863项目子课题,上海市教委科研创新项目 等科研项目6项。参与国家级、省部级、企事业单位重大项目等50余项n 论文发表:SCI检索11篇、EI论文20余篇n 专利:申请或获得各种专利和软件著作权29项,其中授权发明专利3项何军良
2、何军良 副教授、博士,上海市晨光学者、扬帆学者副教授、博士,上海市晨光学者、扬帆学者上海海事大学 中国(上海)自贸区供应链研究院上海海事大学 教育部集装箱供应链技术工程研究中心 课程安排3n 绪论+概述(2学时)n 优化设计的数学基础(6学时)n 一维搜索方法(2学时)n 无约束优化方法(6学时)n 线性规划(6学时)n 约束优化方法(8学时)n 多目标优化与离散优化(4学时)n 关于机械优化设计中的几个问题(2学时)考查:平时出勤+平时作业+期末考试(开卷) 上海海事大学上海海事大学Shanghai Maritime University 1909 2009 2004 1912 1958绪
3、论 何谓最优化设计01 机械的设计方法INTRODUCTION 优化设计的发展 课程的主要任务和目的 020304绪论5设计方案设计方案轨面上起轨面上起升高度升高度轨面下起轨面下起升高度升高度前伸距前伸距小车速度小车速度小车额定输出小车额定输出功率功率起升速度起升速度起升额定输起升额定输出功率出功率空载空载满载满载空载空载满载满载方案1301844150m/min150m/min180kw90m/min45m/min2300kw方案2251542110m/min110m/min245kw60m/min30m/min250kw方案3231440120m/min120m/min110kw80m/m
4、in40m/min2200kw方案43215.544150m/min150m/min255kw90m/min45m/min2200kw方案5321542100m/min100m/min110kw60m/min40m/min300kw设计方案吞吐量平均能耗平均效率方案11770605.8233.53方案21544584.2129.25方案31942253.6736.79方案41677694.2131.77方案51188575.6222.51绪论6-是用数学的方法寻求最优结果的方法和过程(在多个可行的设计方案中选择最好的一个)。1 何谓最优化设计机械优化设计主要包括以下两方面的内容:p 1.建立优
5、化设计的数学模型p 2.模型求解 绪论7p 1.机械的传统设计方法-基于手工劳动或简易计算工具。2 机械的设计方法p 2.机械的现代优化设计方法-基于计算机的应用,以人机配合或自动搜索方式进行,能从“所有的”可行方案中找出“最优的”设计方案。绪论82 机械的设计方法从传统设计到优化设计传统设计 可行解优化设计 最优解绪论92 机械的设计方法例1:求圆木做成矩形截面梁,使抗弯截面系数最大时的高宽比。解:梁的抗弯截面系数 22226hbdbhW)(622bdbW2bh3db 221(3)06dWdbdb设计过程 : (1)从实际问题中抽象出数学模型;(2) 选择合适的优化方法求解数学模型。绪论10
6、2 机械的设计方法与传统机械设计相比,机械优化设计的优点有: 使传统机械设计中,求解可行解上升为求解最优解成为可能; 使传统机械设计中,性能指标的校核可以不再进行; 使机械设计的部分评价,由定性改定量成为可能; 使零缺陷(废品)设计成为可能; 大大提高了产品的设计质量,从而提高了产品的质量; 大大提高了生产效率,降低了产品开发周期。绪论112 机械的设计方法实际案例: 1、利用一化工优化系统,对一化工厂进行设计。根据给定数据,在16小时内,进行16000个可行性设计的选择,从中选择一成本最低、产量最大的方案,并给出必须的精确数据。以前:一组工程师,1年时间,仅仅3个方案,且并非最优。 2、美国
7、BELL公司利用优化方法解决450个设计变量的大型结构优化问题。一个机翼质量减轻了35%。 3、波音公司在747的机身设计中收到了减轻质量、缩短生产周期、降低成本的效果。 4、武汉钢铁公司从德国引进的1700薄板轧机,经该公司自主优化之后,就多盈利几百万马克。绪论123 优化设计的发展n 第一阶段人类智能优化:与人类史同步,直接凭借人类的直觉或逻辑思维,如黄金分割法、穷举法和瞎子爬山法等。n 第四阶段现代优化方法:如遗传算法、 模拟退火算法、 蚁群算法、 神经网络算法等,并采用专家系统技术实现寻优策略的自动选择和优化过程的自动控制,智能寻优策略迅速发展。n 第三阶段工程优化:近二十余年来,计算
8、机技术的发展给解决复杂工程优化问题提供了新的可能,非数学领域专家开发了一些工程优化方法,能解决不少传统数学规划方法不能胜任的工程优化问题。在处理多目标工程优化问题中,基于经验和直觉的方法得到了更多的应用。优化过程和方法学研究,尤其是建模策略研究引起重视,开辟了提高工程优化效率的新的途径。n 第二阶段数学规划方法优化:从三百多年前牛顿发明微积分算起,电子计算机的出现推动数学规划方法在近五十年来得到迅速发展。绪论134 课程的主要目的和任务学习本课程主要目的和任务:p 1、了解和基本掌握机械优化设计的基本知识;p 2、扩大视野,并初步具有应用机械优化设计的基本理论和基本方法解决简单工程实际问题的素
9、质。第一章 优化设计概述 最优化问题示例01 优化设计问题的数学模型 优化问题的基本解法 最优化问题分类020304 机械优化主要步骤05151.1 最优化问题示例第一章 优化设计概述p 例1-1 人字架的优化设计p 例1-2 机床主轴的优化问题p 例1-3 平面连杆机构的优化16第一章 优化设计概述p 例1-1 人字架的优化设计523 10FN 已知顶点受力2152Bcm,人字架跨度,钢管壁厚0.25Tcm,钢管弹性模量52.1 10EMPa材料密度337.8 10/kg m,许用压应力420yMPa求:在钢管压应力不超过y和失稳临界应力e条件下,使质量m最小的高度h和直径D?1.1 最优化
10、问题示例第一章 优化设计概述p 例1-1 人字架的优化设计解:(1)钢管满足的强度与稳定条件钢管所受压力压杆临界失稳的临界力钢管所受的压应力钢管的临界应力hhBFhFLF21221)(22LEIFeTDhhBFAF21221222228hBDTEAFee钢管截面惯性矩:22222222224482)(444DTArRrRrRrRrRrRI171.1 最优化问题示例18第一章 优化设计概述p 例1-1 人字架的优化设计强度约束条件:稳定约束条件:e1222222228F BhE TDTDhBh问题的数学表达式是:yyTDhhBF2122min22,2122hBTDALhDms.t.2222221
11、2221228hBDTETDhhBFTDhhBFy1.1 最优化问题示例第一章 优化设计概述p 例1-1 人字架的优化设计(2)解析法求解19假使刚好满足强度条件将D代入目标函数m(D,h),得极值必要条件求得:y1222yF BhDTh hhBFhmy22201222222hBFhhBdhdFdhdmyy*152/ 276hBcm*6.43,8.47Dcmmkg1.1 最优化问题示例第一章 优化设计概述p 例1-1 人字架的优化设计(3)图解法20(4)讨论对于具有不等式约束条件的优化问题,判断哪些约束是起作用的,哪些约束条件是不起作用的,这对求解优化问题很关键。1.1 最优化问题示例21第
12、一章 优化设计概述p 例1-2 机床主轴的优化设计图示为一简化的机床主轴,已知主轴端部所受外力F,许用挠度y0。求:最轻的主轴重量。 1.1 最优化问题示例22第一章 优化设计概述p 例1-2 机床主轴的优化设计解:当主轴材料选定时,设计方案由四个变量决定,即孔径d,外径D,跨距l,外伸端长度a。由于内孔通常用于通过加工棒料,不属于设计变量,故设计变量是: TTaDlxxxX321机床优化设计的目标函数: 2223141dxxxXf1.1 最优化问题示例23第一章 优化设计概述p 例1-2 机床主轴的优化设计约束条件: 1刚度 00yyXg其中: 44264;3dDIEIalFay 03640
13、4423123ydxExxFxXg 2自变量取值范围 maxminmaxminmaxmin,aaaDDDlll不用考虑两个边界约束: ,因为从优化设计看,都要求这两个变量往小处变化。 maxmax,aall1.1 最优化问题示例24第一章 优化设计概述p 例1-2 机床主轴的优化设计因此,问题的数学表达式如下:2213223131044221min32min42max53min1min464/1031/0. .1/0/101/0fXxxxdFxxxgXyExdgXxls tgXxDgXxDgXxa当给定已知条件,采用随机方向法可以求得最优解。 1.1 最优化问题示例25第一章 优化设计概述p
14、例1-3 平面连杆机构的优化设计曲柄摇杆机构,要求曲柄l1从 转到 时,摇杆l3的转角 , 是极位角。传动的允许角为45135, l1=1,l4=5。0900m200)(32E01.1 最优化问题示例26第一章 优化设计概述p 例1-3 平面连杆机构的优化解:(1)目标函数的建立miiEiXf12min其中: iii222323arccos2iiirllrl4212422arccoslrllriiiiil lllrcos241242120032iEi1.1 最优化问题示例271.1 最优化问题示例第一章 优化设计概述p 例1-3 平面连杆机构的优化解:(2)约束条件02arccos702arc
15、cos60504030201322142322minmax3224123224231432132413121llllllgllllllgllllgllllgllllgllgllg采用后面介绍的外点惩罚函数法,得到最优方案:l2*=4.1286l3*=2.3325f*=0.0156。281.2 优化设计问题的数学模型第一章 优化设计概述优化设计的数学模型是描述实际优化问题的设计内容、变量关系、有关设计条件和意图的数学表达式,它反映了物理现象各主要因素的内在联系,是进行优化设计的基础。p 1.2.1 设计变量设计变量:在设计中需进行优选的独立的待求参数;设计常量:在优化设计过程中保持不变或预先确定
16、 数值;几何参数: 例,尺寸、形状、位置运动学参数: 例,位移、速度、加速度动力学参数: 例,力、力矩、应力物理量: 例,质量、转动惯量、频率、挠度非物理量: 例,效率、寿命、成本可以是:291.2 优化设计问题的数学模型第一章 优化设计概述 设计方案:由设计常量和设计变量组成。 维 数:设计变量的个数n。1.抓主要,舍次要;2.注意连续变量与离散变量之分;3.变量的独立性;4.不要漏掉必要的设计变量;5.设计变量越多,优化问题越复杂。确定设计变量时要注意以下问题:通常,设计自由度越多,越能获得理想的结果,但求解难度也越大。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.2 设计
17、点与设计空间Rn(1)设计点与设计向量每组设计变量值对应于以n个设计变量为坐标轴的n维空间上的一个点,该点称设计点。原点到该点的向量称设计向量。* 设计点有连续与不连续之分,可用一个列向量表示:12,TnXx xx(2)设计空间设计点的集合(n维实欧氏空间 )。nXR* 当设计点连续时: R1为直线, R2为平面, R3为立体空间, Rn为超越空间.欧氏空间:由于工程设计中的设计变量都是实数,所以称这种设计空间为欧氏空间。301.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.3 约束条件设计空间是所有设计方案的集合,但这些设计方案有些是工程上所不能接受的。如一个设计满足所有对它提出
18、的要求,就称为可行设计。一个可行设计必须满足某些设计限制条件,这些限制条件称作约束条件,简称约束。31(1)按约束的数学形式分不等式约束等式约束(2)按约束的作用分边界约束性能约束()0,1,2,ugXum()0,1,2,vhXvpn-对某个设计变量直接给出取值范围,如:140 x -由需满足的某种性能条件而导出的约束(如强度条件、刚度条件、曲柄存在条件等)1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.3 约束条件32可行设计区域-满足所有约束函数的设计点的集合D举例:2个设计变量问题。约束条件: 020162222211xXgxxXg可行域D为ABCDA所围成的区域,包含边界
19、。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.3 约束条件33在建立约束函数应注意以下问题:1.不能有矛盾的约束;2.避免等价约束(多余约束),使模型变坏,难以求解;3.不能遗漏必要的约束,防止最优解无实用价值,甚至出现荒唐的结果;4.尽可能提出边界约束;5.谨慎对待等式约束。等式约束极大的缩小可行域,增加求解难度.可以通过引进裕度参数,使等式约束h(X)=0放宽为h(X)-0及h(X)+0两个不等式约束。 1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.4 目标函数为了对设计进行定量评价,必须构造包含设计变量的评价函数,它是优化的目标,称为目标函数,以F(X)
20、表示。34(1)常用指标(2)单目标和多目标 nxxxFXF,21(3)常处理为极小化形式-对极大化问题可取原函数的负值在优化过程中,通过设计变量的不断向F(X)值改善的方向自动调整,最后求得F(X)值最好或最满意的X值。在构造目标函数时,应注意目标函数必须包含全部设计变量,所有的设计变量必须包含在约束函数中。-最好的性能;最小的重量;最紧凑的外形;最小的生产成本;最大的经济效益等。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.4 目标函数35目标函数的几何表示:1个设计变量的目标函数:二维平面的设计曲线;2个设计变量的目标函数:三维空间中的曲面;n个设计变量的目标函数:n+1
21、维空间的超曲面。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.4 目标函数36目标函数的等值线或等值面:定义:连接具有相等目标函数值的点所形成的线或面。 CxxxfXfn,21含有2个设计变量的等值线: CxxfXf21,含有3个设计变量的设计问题,等值“线”是一个面;含有n个设计变量的设计问题,等值“线”是一个等值超越曲面。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.4 目标函数37等值线和等值面的用途:优化,就是从空间某一点开始,按照某种方法,寻找“椭圆”的中心。 1.等值线聚集成一点的地方,就是目标函数取极值的地方; 2.对于二维问题而言,在目标函数取极
22、值的附近,等值线群一般是一组大小不等的同心椭圆。椭圆族的中心,就是目标函数取极值的地方; 3.当相邻等值线所代表的目标函数值的差为常数时,等值线稀疏的地方,目标函数值变化慢;等值线密集的地方,目标函数值变化快。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.5 优化问题的数学模型38综上所述,最优化问题数学模型一般表示如下:(1)对于无约束最优化问题:min()nF XXR式中,Rn表示n维实欧氏空间。(2)对于约束最优化问题:min() X :()0 , 1,2,.,()0 , v=1,2.,qnuvF XDRD gXuph X式中D表示由p个不等约束条件和q个等约束条件所规定
23、的可行域。1.2 优化设计问题的数学模型第一章 优化设计概述p 1.2.6 模型的求解39设有设计点X*=x*1, x*2,.,x*n T满足:F(X*) = min F(X) 且且 XDs.t gu(X*)0 , u=1,2, . ,p hv(X*)=0 , v=1,2, . ,q则称X*为优化设计模型的最优点最优点,F(X*)称为最优值最优值局部最优解:设X*1 D,存在X*1点的邻域N(X*1)=X|X- X*1, 0的全部设计点X都满足F(X*1)F(X),则称X*1为局部最优点。全域最优解:设X*D,当 XD时,总有F(X*)F(X)成立,则称X*为全域最优解。1.2 优化设计问题的
24、数学模型第一章 优化设计概述p 1.2.7 优化问题的几何解释40二维问题411.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的图解法图解法的步骤: 1.确定设计空间; 2.画出有约束边界围成的约束可行域; 3.做出1-2条目标函数等值线,并判断目标函数的下降方向; 4.判断并确定最优点。421.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的图解法例1-4:求解二维问题05 . 0)(12xxXh2212min( )(2)(2)f Xxx0)(11 xXg0)(22 xXg04)(22213xxXgs.t.X2X1f123(1)无约束最优解(2)
25、约束最优解(3)加入等式约束的最优解11220TXf222222( 22)0.68629TXf330.8 50.4 51.2669TXf431.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的图解法例1-5:求下列问题最优解*4.8, 2.4TX 0008080122. .)(min251423122112221xXgxXgxXgxXgxxXgtsxxXf最优解:441.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的下降迭代解法为了适应电子计算机的工作特点,要求最优化方法具有下列性质: 1.数值计算,而不是解析方法; 2.具有简单的逻辑结构,并能进
26、行反复的运算过程; 3.不要求获得精确解,而只要求有足够精度的近似解。满足上述要求的计算过程或计算方法就是所谓的数值迭代过程或数值迭代方法。451.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的下降迭代解法(1)数值迭代的原则 2.从新点X1出发,用相同的方法求解X2点,使F(X2)F(X1)。反复进行计算,可以求出第k个迭代点Xk; 3.当计算迭代时间足够长时,便有limXkX*。迭代公式 :11kkkkkkkXXXXXd核心:1.建立搜索方向 2.计算最佳步长001012127,3311112XdX 例:461.3 优化问题的基本解法第一章 优化设计概述p 1.3.
27、1 最优化问题的下降迭代解法(2)终止迭代条件收敛性指某种迭代程序产生的序列收敛于, 1 , 0kXk*1limXXkk 1.点距准则11kkXX1( 为预先给定的足够小的正数)即:121.1()nkkiiiXX例:1232,51XX 2122(23)(1 5)17XX471.3 优化问题的基本解法第一章 优化设计概述p 1.3.1 最优化问题的下降迭代解法(2)终止迭代条件 2.目标函数下降量准则 相对下降量准则 绝对下降量准则21)()()(kkkXfXfXf31)()(kkXfXf(适用于 |f(Xk+1)|1) (适用于|f(Xk+1)|0,则称 f 为正定二次型,并称对称矩阵G正定。
28、对称矩阵G为正定的充要条件是G的各阶主子式都为正。 0, 0, 02122221112112221121111nnnnnnaaaaaaaaaaaaaa662.2 多元函数的方向导数与梯度p 2.2.1 方向导数第二章 优化设计的数学基础一个二元函数f (x1,x2)在点 X0(x10,x20)处的偏导数定义是: 定义:函数沿指定方向d的平均变化率的极限。二元函数 f (x1,x2)在 X0(x10,x20)沿d方向导数:方向导数010120210200(,)(,)limdXf xx xxf xxfdd 1020101201020011102021020022(,)(,)lim(,)(,)lim
29、xXxXf xxxf xxfxxf xxxf xxfxx 672.2 多元函数的方向导数与梯度p 2.2.2 方向余弦第二章 优化设计的数学基础121x2xoX0X1x2xcos,1,2,iixind1cos12nii0X Xd 0XX3x2x1x3x2x1x222122212221xxdxxdd 2212coscos1即:682.2 多元函数的方向导数与梯度p 2.2.3 方向导数与偏导数的关系第二章 优化设计的数学基础00010120210200101201020101101202101202021212(,)(,)lim(,)(,)lim(,)(,)limcoscosdXddXXfxxx
30、xfxxfddfxxxfxxxxdfxxxxfxxxxxdffxx 式中,1 和2 为d与x1和x2的夹角。当1=0或1=/2时,方向导数分别为:1xfdf或2xfdf即为方向导数692.2 多元函数的方向导数与梯度p 2.2.3 方向导数与偏导数的关系第二章 优化设计的数学基础0000123123coscoscosXXXXffffdxxx对n元函数,仿此可得001cosniiXiXffdx式中, 为函数对各个坐标轴的偏导数;0iXfxcosiixd为d对各坐标轴方向余弦。方向导数表明函数沿某方向的变化率,它是一个标量。当其值为正时,函数值增加;当其值为负时,函数值减小。三元函数f (x1,x
31、2,x3)在点 X0(x10,x20,x30)沿d方向导数 : 三维空间中的方向702.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础定义:方向导数变化最大的方向。以二元函数为例,其方向导数为:写成矩阵形式001212coscosXXfffdxx0001212coscosXXXfffdxx式中, 为d方向的单位向量。 也是一个向量,称为f(X)12coscos012TXffxx记作TXXxfxfxfxfXF0021210在X0的梯度,它与方向d无关。712.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础式中,因此,可将方向导数改写为梯度的
32、模为如何推广到n维函数的梯度?梯度的模为梯度的意义:当 与d同向时,方向导数 为最大 ,沿此方向函数值增加最快。反向时,函数值下降最快。垂直时,方向导数为零,沿此方向,函数值不变。dfdXfdXfdfTX,cos000和分别为向量 和d的模。为两向量的夹角。0()f Xd, f d 2221xfxfXfTXnxfxfxfXF0210niixfXf12)(Xfdf0()fX()fX722.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础可得出如下结论: 1.方向导数是梯度在指定方向上的方向导数是梯度在指定方向上的投影;投影; 2.最速下降方向为等值线(面)的最速下降方向
33、为等值线(面)的法线方向;法线方向; 3.梯度的模是最大的方向导数梯度的模是最大的方向导数,负梯负梯度方向是函数的最速下降方向度方向是函数的最速下降方向; 4.在与梯度垂直的方向(等值线的在与梯度垂直的方向(等值线的切线方向)上,函数的变化率为零。切线方向)上,函数的变化率为零。 5.与梯度方向成锐角的方向,函数与梯度方向成锐角的方向,函数值增加;成钝角的方向,函数值减值增加;成钝角的方向,函数值减小小。Fd732.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础例2-1 求函数f(X)=x12+ x22-4x1+4在点X1=3 2T和点X2=2 0T处的梯度。解:函
34、数的等值线如图由梯度定义可知: 2121242xxxfxfXf在点X1=3 2T处梯度为:422421211XxxXf该点梯度与x1的夹角为:24arctan梯度是该点函数等值线的法线方向。在点X2=2 0T处的梯度为:梯度的分量都等于零,使得该点处的函数沿任何方向的方向导数也等于零。表明该点处函数值具有稳定性,此处的函数值就是极值,该点就是极值点。002422212XxxXf742.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础例2-1 求函数f(X)=x12+ x12-4x1+4在点X1=3 2T和点X2=2 0T处的梯度。用用MATLBA求解求解syms x1
35、 x2 %将x1,x2设置为符号变量f=x12+x22-4*x1+4; % 写出函数表达式fx1=diff(f,x1) ; %对x1求偏导数 ;fx2=diff(f,x2) ; %对x2求偏导数 ;x1=3; x2=2 ; %对x1 ,x2求偏导数赋值;g=fx1 fx2 ; %梯度 ;g=subs(g) %把符号变量转为数值752.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础例2-2 求函数f(X)=x12+ x12-4x1-2x2+5在点X0=0 0T和处函数变化率最大的方向和数值。解:242242)(0021210XXxxxfxfXf5224)(222221
36、0 xfxfXf51525224)()(00XfXfp762.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优化设计的数学基础例2-3 一般二元二次函数的矩阵式为其中 c为常数,求梯度解:将二元二次函数的矩阵式展开cXBAXXXfTT21)(212122211211xxXbbBaaaaAcxbxbxaxxaxxaxaXf2211222221212112211121)(于是梯度2121222112112222121121211121)()()(bbxxaaaabxaxabxaxaxXfxXfXfBAXXf)(即()f X772.2 多元函数的方向导数与梯度p 2.2.4 梯度第二章 优
37、化设计的数学基础例2-3续 对于n元二次函数其中BAXXf)(梯度推广:cXBAXXXfTT21)(nnnnnnnnxxxXbbbBaaaaaaaaaA2121212222111211782. 3 多元函数的泰勒展开p 2.3.1 一元函数的Taylor 展开式第二章 优化设计的数学基础0/00/002( )0011( )()()()()().()()2!nnnf xf xfxxxfxxxfxxxRn研究函数的极值问题,主要研究函数在极值点附近的变化形态。在实际计算中,常取前三项(二次函数)来近似原函数:0/0/021( )()()()2f xf xfxxfxx 0 xxx 式中:792. 3
38、 多元函数的泰勒展开p 2.3.2 二元函数的Taylor 展开式第二章 优化设计的数学基础0000022222121020121122221211221( ,)(,)22XXXXXffffff x xf xxxxxx xxxxxx xx 002221121101222221222120001()()21()()()2XXTTffxx xxxfff Xf Xxxxxxxffxxxf Xf XXX G XX G(X0)函数函数f(x1,x2)在在X0处的海赛处的海赛(Hessian)矩阵矩阵802.3 多元函数的泰勒展开第二章 优化设计的数学基础例2-4 求二元函数f(x1,x2)=x12+ x
39、22-4x1-2x2+5在 点处的二阶泰勒展开。解:1220100 xxX)()(21)()()(),(00000021XXXGXXXXXfXfxxfTT0)(0Xf002242)(0021210XXxxxfxfXf2002)(02221222122120XxfxxfxxfxfXG2221202101020210121) 1() 2()(21),(xxxxxxXGxxxxxxfp 2.3.2 二元函数的Taylor 展开式812.3 多元函数的泰勒展开第二章 优化设计的数学基础利用MATLAB绘制该曲面:x1=-5:5;x2=-5:5; %取值范围设定x1,x2=meshgrid(x1,x2)
40、; %三维曲面的分格线坐标f1=x1.2+x2.2-4.*x1-2.*x2+5;surfc(x1,x2,f1) %绘制曲面(带等高线)-505-505020406080100此函数的图像是以 X0点为顶点的旋转抛物面例2-4续822. 3 多元函数的泰勒展开p 2.3.3 多元函数的Taylor 展开式第二章 优化设计的数学基础ninjijjiijiiiixxxxxxXfxxxXfXfXf11,000200021011000002212020202021211202020000211222122202020122,1,2nnnnnnnnxxfXfXfXxxfXfXxxxxxfXfXfXxxxx
41、xfXfXfXxxxxxxxxxxxfXfXfXxxxxx 01102202nnnxxxxxx832. 3 多元函数的泰勒展开p 2.3.3 多元函数的Taylor 展开式第二章 优化设计的数学基础XXGXXXfXfXfTT)(21)()()(000TXnxfxfxfXf0210)(函数f(X0)在X0处的梯度海赛(Hessian)矩阵022221222222122122122120)(XnnnnnxfxxfxxfxxfxfxxfxxfxxfxfXG842. 3 多元函数的泰勒展开p 2.3.3 多元函数的Taylor 展开式第二章 优化设计的数学基础若将函数的泰勒展开式只取到线性项,即取:0
42、00( )()() ()Tz xf xf xxx当将函数的泰勒展开式取到二次项时,则得到二次函数形式。在线性代数中将二次齐次函数称作二次型。 ( )Tf xx Gx矩阵形式当对任何非零向量x使 ( )0Tf xx Gx则二次型函数正定,G为正定矩阵。则Z(x)是过点x0和函数f(x)所代表的超曲面相切的切平面。852. 3 多元函数的泰勒展开p 2.3.3 多元函数的Taylor 展开式第二章 优化设计的数学基础Hessian 矩阵与正定Hessian 矩阵的特性:是实对称矩阵。 矩阵正定的充要条件:矩阵G的各阶主子式都是正的,即矩阵的主子式det(ait)0。矩阵负定的充要条件:矩阵G的奇数
43、阶主子式det(ait)0,且偶数阶主子式det(ait)0Hessian 矩阵的正定性:G(x*)正定,是 x* 为全局极小值点的充分条件;G(x*)负定,是 x* 为全局极大值点的充分条件。862.3 多元函数的泰勒展开第二章 优化设计的数学基础例2-5 判定矩阵G= 是否正定解:对称矩阵G的三个主子式依次为:401023136660633032631320100104因此知矩阵G是正定的。利用MATLAB求解G=6 -3 1;-3 2 0;1 0 4a=det(G(1,1) %求G(1,1)行列式b=det(G(1:2,1:2) %求G(1:2,1:2)行列式c=det(G) %求G行列
44、式872. 4 凸集、凸函数与凸规划p 2.4.1 凸集第二章 优化设计的数学基础若任意两点X1,X2R,对于任意(0 10),恒有:*若Y是X1和X2连线上的点,则有整理后即得凸集凸集非凸集非凸集Y YX X2 2X X1 1ll则 R 为凸集。12(1)YXXR221XYlXXl12(1)YXX882. 4 凸集、凸函数与凸规划p 2.4.2 凸函数第二章 优化设计的数学基础设f(x)为定义在Rn内一个凸集D上的函数,若对于 ,对于任意 (0 10)及D上的任意两点x1,x2 ,恒有:则 f(x) 为定义在D的凸函数。(1)定义1212(1)()(1) ()fxxf xf xy)(xfx2
45、xx1xof1f2flxxlxx212,llffyf12221)1 (ffy892. 4 凸集、凸函数与凸规划p 2.4.2 凸函数第二章 优化设计的数学基础(2)凸函数的基本性质 1.设F(x)为定义在凸集R上的凸函数, 为任意正实数,则 F(x)也是定义在R上的凸函数。证:由定义)()1 ()()1 (2121XFXFXXF两边乘上)()1 ()()1 (2121XFXFXXF 2.设F1(x), F2(x)均为定义在凸集R上的凸函数,则F1(x)+ F2(x)也是定义在R上的凸函数。证:由定义)()1 ()()1 (2111211XFXFXXF)()1 ()()1 (2212212XFX
46、FXXF两式相加后整理可得证902. 4 凸集、凸函数与凸规划p 2.4.2 凸函数第二章 优化设计的数学基础(2)凸函数的基本性质 3.设F1(x), F2(x)均为定义在凸集R上的凸函数, 1, 2为任意正实数,则1 F1(x)+ 2 F2(x)也是定义在R上的凸函数。912. 4 凸集、凸函数与凸规划p 2.4.3 凸规划第二章 优化设计的数学基础(2)凸函数的基本性质对于约束优化问题 mjXgtsXfj, 2 , 10. .min若其中f(x)和gi(x)均为凸函数,则这样的规划问题称为凸规划。性质: 1.若给定一点X0 ,则集合R=X| f(X) f(X0)为凸集。此性质表明,当f(
47、X)为二元函数时,其等值线呈现大圈套小圈形式; 2.可行域R=X|gj(X) j=1,2,m为凸集; 3.凸规划的局部极小点一定是全局极小点。922. 5 最优化问题存在的极值条件p 2.5.1 无约束问题的极值存在条件第二章 优化设计的数学基础1.必要条件0, 00021XXxfxf即00Xf(1)一元函数具有极小值的充要条件0)(0)(/xfxfxxfo(2)二元函数具有极小值的充要条件932. 5 最优化问题存在的极值条件p 2.5.1 无约束问题的极值存在条件第二章 优化设计的数学基础1.充分条件220222210212210212201021221,xxfxxxxfxxfxxfxxfXXX设0212XxfA0212XxxfB0222XxfC则222221210201122102012211,2,22f x xf xxA xB xxC xf xxA xB xACBxA 若X0是极小点,因此需满足: 0),(),(201021xxfxxf即要求 或要求 222122102A xB xACBxA0, 02BACA也就是海赛矩阵G(X0)的各阶主子式大于0,即海赛矩阵正定。942. 5 最优化问题存在的极值条件p 2.5.1 无约束问题的极值存在条件第二章 优化设计的数学基础(3)多元函数具有极小值的充要条件0)(XF0)(2XF梯度为零向量 海赛矩阵正定