1. 研究目的与意义
研究背景:牛顿法的优点是具有二阶收敛速度,但当hesse阵不正定时,不能保证所产生的方向是目标函数在xk处的下降方向.特别地,当g(xk)奇异时,算法就无法继续进行下去.尽管修正牛顿法可以克服这一缺陷,但其中的修正参数 的选取很难把握,过大或过小都会影响到收敛速度.此外,牛顿法的每一迭代步都需要目标函数的二阶导数,即hesee阵,对于大规模问题其计算量是惊人的。
研究目的:为了克服了这些缺点,20世纪50年代由美国argonne国家实验室的物理学家w.c.davidon所提出来了拟牛顿法。davidon设计的这种算法在当时看来是非线性优化领域最具创造性的发明之一。不久r. fletcher和m. j. d. powell证实了这种新的算法远比其他方法快速和可靠,使得非线性优化这门学科在一夜之间突飞猛进。
研究意义:拟牛顿法的本质思想是改善牛顿法每次需要求解复杂的hessian矩阵的逆矩阵的缺陷,它使用正定矩阵来近似hessian矩阵的逆,从而简化了运算的复杂度。拟牛顿法和最速下降法一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化,构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法,尤其对于困难的问题。另外,因为拟牛顿法不需要二阶导数的信息,所以有时比牛顿法更为有效。如今,优化软件中包含了大量的拟牛顿算法用来解决无约束,约束,和大规模的优化问题。并且在一定条件下这类算法仍然具有较快的收敛速度即超线性收敛速度。
2. 研究内容和预期目标
研究内容:
1.拟牛顿法及其性质
2.bfgs算法及其步骤
3. 研究的方法与步骤
研究方法:
分析拟牛顿法、bfgs算法、dfp算法、broyden算法的原理及其性质,然后再结合软件模拟。
研究步骤:
4. 参考文献
[1] 曹卫华, 郭正. 最优化技术方法及matlab的实现. 北京: 化学工业出版社, 2005.
[2] 倪勤. 最优化方法与程序设计. 北京: 科学出版社, 2009.
[3] 徐成贤, 陈志平, 李乃成. 近代优化方法. 北京: 科学出版社, 2002.[4] 李董辉, 童小娇, 万中. 数值最优化. 北京: 科学出版社, 2005.[5] 赖炎连, 贺国平.最优化方法. 北京: 清华大学出版社, 2004.[6] 孙文瑜, 徐成贤, 朱德通. 最优化方法. 北京: 高等教育出版社, 2004.[7] 袁亚湘. 非线性优化计算方法. 北京: 科学出版社, 2008.[8] 袁亚湘, 孙文瑜. 最优化理论与方法. 北京: 科学出版社, 1997.[9] 陈宝林. 最优化理论与算法(第2 版). 北京: 清华大学出版社, 2006.[10] 何勇坚. 最优化方法. 北京: 清华大学出版社, 2007.[11] 唐焕文, 秦学志. 最优化方法. 大连: 大连理工大学出版社, 1994.[12] 黄红选, 韩继业. 数学规划. 北京: 清华大学出版社, 2006.[13] 张光澄, 王文娟, 韩会磊, 张雷. 非线性最优化计算方法. 北京: 高等教育出版社, 2005.[14] john h. mathews, kurtis d. fink 著, 周璐, 陈渝, 钱方等译. 数值方法(matlab 版) (第四版). 北京: 电子工业出版社, 2007.
5. 计划与进度安排
1. 1—2周2022年2月25日-3月10日 查阅文献资料,完成开题报告 提交开题报告等材料(开题报告、外文翻译等)。
2. 3—6周
2022年3月11日-4月7日 完成毕业论文中的具体工作,拟牛顿法的分析,算法的设计,matlab程序的编写。
