重庆师范大学研究生学位专业课程教学大纲
开课学院：数学科学学院
授课教师：李觉友、杜学武、白富生、李国权
授课专业：运筹学与控制论、计算数学
课程中文名称：最优化计算方法
课程英文名称：Optimization Methods
课程学分：3分
课程学时：54学时
预备知识：数学分析、高等代数、数值计算和程序语言基础
课程学习要求：
通过对该课程的学习，要求学生掌握最优化的基本理论，各类优化问题的算法，了解常用算法的收敛性理论。重点培养学生运用数学工具进行优化建模，综合运用所学知识解决问题的能力。结合课程的进展，介绍学科发展前沿研究动态，使学生了解该学科国内外有关最新研究成果,加深对最优化理论和算法的理解和认识,并为从事最优化理论与算法研究或最优化方法解决实际问题打下坚实的基础。
1. 要求学生系统地掌握线性规划、无约束规划、最优性条件、有约束非线性规划以及智能优化等一些基本理论和计算方法，了解各算法的收敛性和优缺点；
2. 具有较强的优化建模能力，能在计算机上自主编程或者应用各种优化软件包熟练地操作解决一些实际应用案例；
3.阅读相关中外文献，了解其最新动态，力争在实际应用或某些方法上有所创新。
课程教学基本内容及要求
第一章基础知识（8学时）
基本内容：最优化建模和算法中经常需要使用的一些基础知识，包括范数、导数、凸集、凸函数、次梯度、共轭函数等。部分简要概述了一些基础知识，其中线性代数包含矩阵、特征值、广义逆等，数值代数包括范数、方程组求解、矩阵分解、数值代数软件包等，概率论包含随机变量、期望、方差、条件期望、概率不等式等重要概念和结论。
基本要求：理解范数、导数、凸集、凸函数、次梯度、共轭函数等。
教学重点及难点：
教学重点：范数、导数、凸集、凸函数、次梯度；
教学难点：共轭函数。
第二章 最优性条件（10学时）
基本内容：最优解的存在性和唯一性，无约束可微问题、无约束不可微问题、带约束优化问题的一阶或二阶最优性条件，对偶理论。
基本要求：理解无约束最优化问题的最优性条件；理解等式约束最优化问题的最优性条件；理解不等式约束最优化问题的最优性条件；理解一般约束最优化问题的最优性条件。
教学重点及难点：
教学重点：无约束、带约束最优化问题的最优性条件。
教学难点：对偶理论。
第三章 无约束最优化算法（12学时）
基本内容：最速下降法及其收敛性与收敛速度；Newton法及其收敛性与收敛速度；阻尼 Newton 法；拟牛顿法的收敛性；DFP校正和BFGS校正；共轭梯度法及其收敛性；非线性最小二乘的Gauss-Newton法；信赖域方法。
基本要求：掌握最速下降法并理解其收敛性与收敛速度；掌握 Newton 切线法并理解其收敛性与收敛速度；掌握阻尼Newton法,DFP校正和BFGS校正；掌握共轭梯度法并理解其收敛性；掌握非线性最小二乘法；典型算法Matlab代码实现。
教学重点及难点：
教学重点：最速下降法；Newton法。
教学难点：DFP校正和BFGS校正；非线性最小二乘的Gauss—Newton法；信赖域方法。
第四章约束优化算法（12学时）
基本内容：二次罚函数方法；内点障碍函数法；增广拉格朗日函数法；序列二次规划方法；线性规划内点法。
基本要求：掌握二次罚函数方法；内点障碍函数法；增广拉格朗日函数法；序列二次规划方法；线性规划内点法；典型算法Matlab代码实现。
教学重点及难点：
教学重点：二次罚函数方法 ；内点障碍函数法；序列二次规划方法。
教学难点：增广拉格朗日函数法；线性规划内点法。
第五章复合优化算法（12学时）
基本内容：近似点梯度法；Nesterov加速算法；近似点算法；分块坐标下降法；对偶算法；交替方向乘子法；随机优化算法。
基本要求：掌握近似点梯度法；Nesterov加速算法；近似点算法；分块坐标下降法；对偶算法；交替方向乘子法；随机优化算法；典型算法Matlab代码实现。
教学重点及难点：
教学重点：近似点算法；分块坐标下降法；对偶算法；交替方向乘子法；随机优化算法。
教学难点：Nesterov加速算法；对偶算法。
考核形式
1.平时成绩占20%，形式有：考勤、课堂测验、作业完成情况；
2.考试成绩占80%，形式有：笔试（闭卷）。
五、教材及主要阅读书目：
1. 刘浩洋、户将、李勇锋、文再文.最优化计算方法，高等教育出版社，2021.
2. 袁亚湘，孙文瑜. 最优化理论与方法，科学出版社，2007.
3. 陈宝林. 最优化理论与算法（第2版），清华大学出版社，2011.
4. 《运筹学》教材编写组主编. 《运筹学》（第4版）.清华大学出版社, 2013年.
5. M. S. Bazaraa, H. D. Sherali , C. M. Shetty. Nonlinear Programming: Theory and Algorithm(3rd Edition), New York: Wiley, 2006.
6. 唐焕文，秦学志. 实用最优化方法(第3版)，大连理工大学出版社，2007.
7. 马昌凤. 最优化方法及其Matlab程序设计, 科学出版社, 2015.
8. 杨庆之. 最优化方法, 科学出版社, 2016.
9. 王燕军, 梁治安. 最优化基础理论与方法(第2版),复旦大学
出版社,2011.