1 .二次规划的由来是1940年左右(Leonid Kantorovich于1939年总结发布了线性规划),提出了线性规划LP,10年后,QP统一发布为非线性规划,NLP
ygddh,二次规划是指将一次规划(线性规划,LP )的目标公式推广到二次函数。
其中q是对称矩阵
那么,这样修改目标后,会有什么变化呢?
首先从图中可以看出,最大的变化是二次等高线contour line不再是直线,最大值点不再是限制多面体的角、边或内部。
同时,这样改变后有什么好处?
QP首次统一了线性规划LP和最小二乘法LS,
欧式距离:最小二乘法、LSHamitton距离、或Chebyshev距离:线性回归,LP这样,基于能够通过利用QP统一描述不同距离公式下的回归的参数进行求解。
之前说QP是LP和LP在不同角度的扩张:
QP是LP的扩展,LP是当QP为次项系数0时(Q=0)的特例。
QP是LS的扩展,且LS是当QP为一阶项系数0且二阶项系数I (单位阵列)且没有限制时的特例。
2. KKT条件
3 .二次规划求解一般来说,QP求解主要有两大局限性(
首先是q矩阵。 q矩阵是否为半正定(Semi-Definite ),否则目标函数为非凸(non-convex )。
其次是条件关系。 都是等式吗? 如果是这样的话,就是可以直接求解的KKT系统(KKT System )。 否则,就是一般的Convex QP问题。
总结:关于二次规划问题,本质上是一个最优化问题,无非是求解二次目标函数,在线性约束下达到最优问题。 由于数学库一般有现成的求解器,如apllo在二次规划中使用osqp求解器,在实际工程中需要重视不是如何对二次规划进行求解,而是如何进行建模。
参考文献:
二次规划一步一步走向锥规划- QP二次型的意义是什么? 有什么应用?