本文共 2214 字，大约阅读时间需要 7 分钟。

本人学习所有系列：

这是一篇汇总贴

1-2：推荐书目，引言，常见例子，优化问题分类，发展史

3-4：仿射/凸/凸锥 + 集/组合/包 5-6：几种重要的凸集:超平面与半空间/球和椭球/多面体/单纯形/对称(半)(正定)矩阵 7-8：凸集的交集，保凸运算：仿射函数/缩放和移位/透视函数/线性分段函数 9-10：凸函数的定义1/定义2/定义3，凸函数的扩展 11-12：凸函数定义2补充/定义4，常见例函数的凸性：二次函数/仿射函数/指数函数/幂函数/绝对值的幂函数/对数函数/负熵/范数/零范数/极大值函数/log-sum-exp函数 13-14：函数凸性：极大值函数/log-sum-exp函数/几何平均/行列式对数；保持函数凸性：非负加权和/仿射映射/两函数的极大值函数/无像个凸函数的极大值 15-16：复合函数保凸的条件，函数的透视：欧几里得范数的平方/负对数/K-L散度，函数的共轭 17-18：复合函数保凸条件，函数的共轭，$\alpha$-sublevel set，拟凸函数 19-20：（课堂小测1），向量零范数的松弛形式，可微拟凸函数的一阶条件和二阶条件，对数凹函数/对数凸函数 21-22：可微拟凸函数的一阶条件的充分性证明，凸问题：域/可行解集/最优值/最优解(集)/$\epsilon$次优解集/局部最优解/可行性优化问题，凸问题的等价形式（举例） 23-24：凸优化问题，凸优化约束的降维和升维（松弛变量），拟凸优化问题，凸问题局部最优等于全局最优，可微目标函数情况下的最优解（画图举例），三个名人的故事 25-26：凸问题的等价变换，营养食谱问题，线性分数规划，二次规划，QCQP，回归问题下$x$稀疏时的LASSO（引入$X=X^{+}+X^{-}$） 27-28：投资组合问题的形式，半正定规划问题，谱范数，多目标优化问题：pareto最优面，多目标问题①的转化（单目标问题②和带约束的单目标问题③） 29-30：对偶性，Lagrange函数，Lagrange函数的凹性，对偶函数与函数共轭的关系，§对偶函数的对偶函数仍未§ 31-32：强对偶/弱对偶，对偶间隙，Slater条件，弱Slater条件，$P^{\ast }=d^{\ast }$的四种解释：【1】几何解释【2】鞍点解释【3】多目标优化解释【4】经济学角度解释 33-34：线性代数知识：Byod的《Convex Optimization》附录A1，A5，C、正交投影的内容 35-36：$P^{\ast }=d^{\ast }$经济学角度解释的补充，鞍点解释的补充，鞍点定理，KKT条件，KKT条件充要性证明 37-38：线性约束的QP问题的KKT条件，Water-filling问题的KKT条件，约束仅为非负约束时互补条件和KKT条件的关系，更多的凸问题等价转换例子，带框约束的LP问题。 39-40：敏感性分析：$P^{\ast }(u,w)$/局部敏感性，Boolen LP问题的LP松弛和Lagrange松弛的等价性（两种松弛形式互为对偶） 41-42：带等式约束的可微凸优化问题的罚函数形式，带线性不等式约束的可微凸优化问题的log-barrier法，算法：Line Search：exact(黄金分割法)/inexact(Amijo Rule) 43-44：（课堂小测2），函数的强凸性，Hassien矩阵的上界下界，f(x)-P*的上界和下界，梯度下降法 45-46：强凸性等价不等式及其相反性质的等价不等式，梯度下降法，算法的收敛性，(亚/超)线性收敛，Amijo Rule解的上下界，矩阵的条件数 47-48：最速下降法：二模/一模/无穷模，坐标轮换/拟牛顿法 49-50：无约束优化问题算法选择建议，有约束优化问题（关心只含等式约束的问题）：构造KKT条件，拉格朗日法/增广拉格朗日法 51-52：增广拉格朗日法，其常用技巧（分布式计算） 53-54：NLP专题讲座，NLP下的KKT条件，（互补松弛条件讲的太好啦！） 55：总复习

视频

文章主要是结合哔站的视频：

第九集好像有缺失，我是自己看的书，暂时跳过也没啥问题。（讲的内容大概是凸优化的前两个定义，在11集最开始的时候会有回顾，不是很难理解）

笔记

这儿有一个大佬的笔记：（好像不能设置免费下载，所以设置的关注可下载）

（这个没找到视频，就自己看了下8和10中间没讲到的书中的内容，但是感觉这个应该是在讲上一节课的回顾和凸优化的前两个定义）

习题：2.1 2.2 2.5 2.7 2.10 2.16 2.18 2.19

习题：3.1 3.2 3.5 3.13 3.18 3.21 3.32 3.33 3.36 3.43

习题： 4.3 4.9 4.22 4.24 4.59 4.62

lec33-34：线性代数知识：Byod的《Convex Optimization》附录A1，A5，C、正交投影的内容（后面如果有时间的话，再来补这部分的笔记内容吧）

lec33先看46min的，然后再看开头，可能视频剪辑有点问题。

习题： 5.5 5.20 5.27

后面三节感觉拍摄效果不太好，而且主要是讲座，就没做记录。

后面打算再过一遍书，如果有觉得需要进行补充的，会再做单独的记录。

转载地址：http://lvpq.baihongyu.com/