发布时间 : 星期日 文章优化设计-2更新完毕开始阅读7f7ffcdcdd88d0d233d46ad8
由搜索表达式解得
?185??5?????1.813725?x(1)??(0)???102?????7???259??2.539216??102?f(x(1))??13.421569(0)
?329??2x1?2x2?5???51?(1)?f(x)??????235?2x?6x?712?????51?进行第二次搜索。
(4) 沿梯度方向进行一维搜索
?185??329??185329(1)???102???102?51??(2)(1)(1)(1)(1)?51x?x???f(x)??????259?235??259235(1)? ?????????102??51??10251?f(x(2))?min[x(1)???f(x(1))]?
(5) 求目标函数在点x(1)?185???102259?的最优步长
102???T(2)(2)(2)min[x1(2)(x1(2)?2x2?5)?x2(3x2?7)]?min?(a)
?163466857092???0
2601260137(1)解得最优步长???0.4048。
194由??(?)??(6) 由搜索表达式得
?185329(1)??15059??102?51???4947?(2)x???259235(1)??2738???????51?102??1649?4898282f(x(2))????19.414745
252297?11045??2x1?x2?4???4947?(2)?f(x)?????15463??x?2x?12?1????4947?因为?f(x(2))?3.841224，不满足小于等于ε的要求，继续进行迭代。最终得到最优解
2为x=[ 5.5 3.0]T；最优值为-24.25。
5.2 牛顿法
1 牛顿法的基本原理
对于一元函数f(x)，x=x0+Δx,假定已给出极小点x*附近的近似点x0。将f(x)在x0处进行泰勒展开，得
f(x)?f(x0)?f?(x0)?x?令f(x)的一阶导数为0，得
1f??(x0)?x2?0(?x2) 21f??(x0)?x2)??0 2f?(x)???(x)?(f(x0)?f?(x0)?x?f?(x)?f?(x0)?f??(x0)?x?0
即
f?(x0)?f??(x0)(x?x0)?0 f?(x0)x?x0?f??(x0)对多元函数f(x)，其极小值点x*的近似点x(k)的泰勒展开式为
1f(x)?f(x(k))?[?f(x(k))]T[x?x(k)]?[x?x(k)]T?2f(x(k))[x?x(k)]?0(?xT?x)
2取前3项近似表示f(x)，得
1f(x)??(x)?f(x(k))?[?f(x(k))]T[x?x(k)]?[x?x(k)]T?2f(x(k))[x?x(k)]
2并令??(x)?0，有表达式
x(k?1)?x(k)??2f(x(k))?f(x(k)) (5.4)
成立。
若设x(k+1)为极小值点x*的下一个近似点，则根据一般迭代格式x(k+1)=x(k)+a(k)d(k)，当a=1时，则有搜索方向d(k)的表达式为
???1d(k)???2f(x(k))?f(x(k))
例5.3 用牛顿法求f(x1,x2)=x12+x22-x1x2-2x1的极小值。 解：
目标函数的梯度为
???1?2x1?x2?2??f(x)????2x2?x1??2?1?2(0)?1?2f(x(0))??,?f(x)???12????2???31??31? 3?2??3?取初始点x(0)=[2 2]T，得