最优化理论与算法(第四章)
考博
第四章 共轭梯度法
§4.1 共轭方向法
共轭方向法是无约束最优化问题的一类重要算法。它一方面克服了最速下降法中，迭代点列呈锯齿形前进，收敛慢的缺点，同时又不像牛顿法中计算牛顿方向耗费大量的工作量，尤其是共轭方向法具有所谓二次收敛性质，即当将其用于二次函数时，具有有限终止性质。
一、共轭方向
定义4.1 设G是n n对称正定矩阵，d1，d2是n维非零向量，若
d1TGd2 0 （4.1）
则称d1，d2是G－共轭的。类似地，设d1, ,dm是R中一组非零向量。若
n
diTGdj 0(i j) （4.2）
则称向量组d1, ,dm是G－共轭的。
注：(1) 当G I时，共轭性就变为正交性，故共轭是正交概念的推广。
(2) 若d1, ,dmG－共轭，则它们必线性无关。
二、共轭方向法
共轭方向法就是按照一组彼此共轭方向依次搜索。 模式算法：
T
1）给出初始点x0，计算g0 g(x0)，计算d0，使d0； g0 0，k: 0 （初始共轭方向）
2）计算 k和xk 1，使得f(xk kdk) minf(xk dk)，令xk 1 xk kdk；
0
3）计算dk 1，使dk 1Gdj 0，j 0,1, ,k，令k: k 1，转2）。
三、共轭方向法的基本定理
共轭方向法最重要的性质就是：当算法用于正定二次函数时，可以在有限多次迭代后终止，得到最优解（当然要执行精确一维搜索）。
T
你可能喜欢
- 最优化理论与方法
- 最优化方法复习题
- 中国矿业大学博士
- 最优化方法及其应用
- 最优化理论与方法-电子科技大学77页
- 最优化理论与方法综述2页
- 最优化理论与方法 Dijsktra算法的实现11页
- 为本科生、研究生讲授《泛函分析》、《最优化理论与方法》、《混沌理论与2页
- 最优化理论与方法——牛顿法6页
- 最优化理论与方法第四章ppt(2013年10月10日)47页
- 最优化方法复习题8页
- 《最优化方法》复习题9页
- 最优化方法复习题10页
- 最优化方法 复习题12页
- 《最优化原理与方法》复习题4页
- 《最优化方法》复习题(含答案)12页
