首先，关于最优化问题。 虽然没能理解，但今天终于有乐趣了。 最优化问题，其实是降维后求一元方程极值的问题。 例如，一元二次函数、求其极小值。 显然，高等数学方法首先求其一阶导数，一阶导数为0的点，即驻点。 并且，求出驻点的二次微分，如果二次微分大于零，则该点为极小值，二次微分小于零时为极大值。=0时，不是极值。 将该一元方程推广为多元二次方程。 实际上，它变成了数字信号处理和数字图像处理，或者是多输入的控制系统。 例如，当前的Ax=b问题。 通过a矩阵表示b，也就是将b投影到a的ggdys空间上。 假设b原本在a的ggdys空间中，为了容易压缩，容易提取特征，x的元素最好尽量为0。 那么，假设b不在a的ggdys空间中，我想找到b在a上的投影。 这样的话，Ax接近b的效果最好。 也就是说，我想尽量缩小。 该公式是Ax和b之间zxdhj的距离，也可以理解为Ax和b的误差能量。 这是我们希望的最重要的一点。 另一种说法是x的元素尽量稀疏，零越多越好。 这有助于消除B的冗余信息，并找到表示B的最小列数的列。 因此，优化问题可以被描述为使显示误差足够小，即充分小，而x比较稀疏，即尽可能小。 目标函数可以写为：
然后求出f(x )的全局最小值即可。 但是，由于非常不连续，不便于计算，因此需要将其松弛化。 那么，怎么松弛呢？ 可以缓和到k0。 考虑到l2-norm的方便计算性能，IRLS算法通过这样的变换将k0转换为l2-norm。 详情请参阅我的另一篇博文《理论分析IRLS迭代加权最小二乘法（根据Gorodnitsky and Rao）》。 这样很容易实现。 BCR算法也同样引入了这样的算子，使最优化的条件更加一般化，不再限制条件，使其可以自己制作各种各样的限制条件。 在特殊情况下，IRLS和BCR的形状非常相似。 具体说明请参考《sparse and redundent representation》的书P119。
另外，ssdgk矩阵是求多元函数极值的问题，分为2个阶段，第一步，首先求出f(x )的固定点，也就是斜率，将斜率=0的点设为m。 这里的梯度是一阶二次函数的一阶导数向多元函数的扩展，这里的x表示向量。 的维数是元数。 在步骤2中，求出f(x )的ssdgk矩阵h ) x )。 实际上是这样的：
但是，其具体含义还需要继续了解。
在点m中，当h为正时，fx在点m处取局部极小值；
在点m中，如果h为负，则fx在点m处取局部最大值；
若点m中，h不确定，则fx在点m处并不是极值。