Skip to content

最优化算法-2025秋

最优化算法是人工智能、数据科学等相关专业基础课程。 本课程从优化问题的建模出发，主要介绍不同优化模型的建模技巧，求解思想，算法步骤，也兼顾对基本的优化理论学习。 课程内容包括了连续和离散优化，以无约束优化，线性规划和整数优化为重点内容。 学生将掌握如果通过最优化模型和相关求解工具解决工程、生活中的问题，此外，本课程也是学生未来学习高级优化技术（如凸优化，组合优化）和高级工程技术（如机器学习、数据分析）等相关课程的基础。

大纲

  1. 一维无约束优化
    • 案例： 炼钢问题中的参数设计
    • Goldensection, 斐波那契法，二分法
    • 牛顿法，割线法，二次拟合法
  2. 多维优化基础
    • 线性代数和矩阵基础回顾：二次函数，正定矩阵，范数等
    • 梯度
    • 黑塞矩阵
  3. 多维无约束规划-案例及最优性条件
    • 案例：常见的统计回归
    • 最优性条件
    • 下降法，Wolf近似条件
    • 梯度法，共轭法
    • 牛顿法，拟牛顿法
  4. 有约束规划
    • 案例：SVM线性分类器
    • 一阶最优性条件、KKT条件
    • 拉格朗日对偶问题、弱对偶和强对偶性质
    • 线性约束：投影法
    • 外点法，内点法
  5. 线性规划
    • 案例：$L_1$, $L_{\infty}$线性回归，线性SVM
    • 单纯形法
    • 对偶问题及对偶性质
    • 对偶单纯形(optional)
  6. 整数规划
    • 案例:选址问题，旅行商问题，工业切割问题
    • 线性松弛、完全幺模矩阵、网络流.
    • Rounding和其他算法
    • Gomory割平面法
    • 分支定界
  7. 启发式搜索
    • 随机搜索
    • 模拟退火
    • 粒子群算法
    • 遗传算法

前序课程要求

线性代数，程序设计基础

教学ppt

日期 课程内容 课堂PPT 作业下载
2025年9月1日 绪论 PPT 无
2025年9月3日 一维搜索1 PPT 无
2025年9月8日 一维搜索2 PPT 无
2025年9月10日 基础知识-多维函数基础 PPT 作业1
2025年9月15日 凸集、凸函数和凸优化基础 PPT 无
2025年9月17日 无约束优化案例、基础；下降法 ppt1，ppt2 无
2025年9月22日 无约束规划-一阶方法-梯度+共轭法 ppt 无
2025年9月24日 无约束规划-二阶方法 -牛顿法-拟牛顿法 ppt 作业2
2025年9月29日 习题讲解 无 无
2025年10月11日 有约束优化-案例，拉格朗日最优性条件 ppt1 ppt2 无
2025年10月13日 有约束优化-KKT最优性条件，对偶 见上ppt2 无
2025年10月15日 有约束优化算法-投影法，罚函数法，障碍法简介 ppt 作业3
2025年10月20日 线性优化案例 PPT 作业3
2025年10月22日 线性优化标准型，原理 PPT 无

课程答疑

助教会在QQ群内回复各位同学的疑问，请在前2周内主动加入课程QQ群。 任课老师会根据助教反馈将大家都存在的问题在课堂上解释。 教师办公室：科研4号楼545

课程资源