一.凸集的定义为：
其几何意义表示，如果连接集合c中任意2个要素的线上的点也位于集合c中，则c为凸集合。 图像如下所示。
一般凸集如下
n维实数空间； 范数约束形式的集合仿射空间； 凸集交点； n维半正定矩阵集； 这些可以通过凸集的定义来证明。
二.凸函数的定义为：
其几何意义表示连接函数任意两点的线上的值大于对应自变量的函数值，如下。
凸函数的一阶充要条件如下。
其中f1阶要求微乎其微。
二次充电的要求如下
其中要求f2阶是可微的，表明2 -阶导数如果不大于0就不是凸函数。
根据以上两个定义，当f(x )=x^2是凸函数，而g ) x )=-x^2是非凸函数时。 也就是说，开口向下的函数是非凸函数，对此可以通过追加负号使其成为凸函数来解决。
常见凸函数为指数函数族非负对数函数； 仿射函数； 二次函数； 常见范数函数凸函数的非负加权之和等。 它们可以使用上面的两个充要条件或定义来证明。
凸优化问题（OPT）的定义为：
即要求目标函数为凸函数，变量所属集合为凸集合的优化问题。 或者目标函数为凸函数，变量的约束函数为凸函数(不等式约束时)或仿射函数(等式约束时)。
对于凸优化问题，局部最优解是全局最优解。
三、常见的凸优化问题包括：线性规划(LP )这个问题是优化下面的公式。
其中，不常见的奇怪符号按要素表示如下，后面出现类似符号也同样可以理解。
二次计划(QP )此问题是优化以下公式：
二次约束的二次规划(QCQP )这个问题是优化下式。
半正定计划(SDP )这个问题是优化下面的公式。
据报道，SDP广泛应用于机器学习领域，最近很流行，但我好像没怎么接触过。
参考资料：
3358 cs 229.Stanford.edu/section/cs 229-cvx opt.pdf
四.约束凸问题分析首先介绍logbarrier方法。
这是惩罚的思想，我看过很多次。 具体来说，根本得不到最佳解，就像有“栅栏”一样，阻止接近0，使其小于0。
在此，我们将KKT条件分为线性方程式或非线性方程式两种进行讨论。
KKT条件为线性方程组时，按求解线性方程组的方法求解即可，属于比较简单的范畴，在此不再赘述，主要讨论KKT条件为非线性方程组时最优解的计算方法。
jjdlm法(Newton’smethod ) ) ) ) ) ) )。
直接求解非线性方程往往是个难题。 jjdlm法的想法是将求解非线性的KKT条件转换为求解许多线性方程。 具体来说，将求解分为很多步骤，每个步骤都有现在的KKT条件，用xwdyb展开构建近似问题。 该逼近问题的KKT条件是线性的。 这样，通过不断迭代，我们最终可以得到最佳解。
原文链接： https://blog.csdn.net/QQ _ 40917612/article/details/105329952
五.优化约束凸优化解的存在条件——KKT条件目标函数时，有时会考虑对偶问题。 这里有两个想法。 1 )对偶问题比原问题容易解决。 2 )对偶问题可以提供新的解释。 例如在对支持向量机对偶问题的分析中，发现边界面只由少量的“支持向量”决定。 在这篇文章中，带约束凸优化问题的最优解的存在条件
更多系列参考： https://砖局域网. zhi Hu.com/p/50230049