当我们高中毕业的时候,你可能知道数学世界有一种直线拟合方式:最xlmdbbz乘法。 这是一种数学优化技术,原理是最小化误差平方和以寻找数据的最佳函数匹配。
例如,假设您研究了x和y之间的关系,发现我们拥有的数据是在x-y直角坐标系中绘制的,这些点没有连成一条直线。
但是,倾向与曲线相似。 在这种情况下,可以假设这条曲线如下:
根据最xlmdbbz乘方的原理,即最小化也能得到值,从直线通过点得到b的值。 是横轴的平均值,纵轴的平均值。
不久、
实际上,最xlmdbbz乘法不仅可以拟合直线(一次),也可以拟合曲线(二次)。
复习了高中学过的最xlmdbbz的乘法之后,在大学里用线性代数的知识来拟合吧。
Ax=b,a在m*n型的矩阵中mn,a排得满满的情况下,Ax=b可能有解,也可能没有解。
如果Ax=b有解的话,因为排满了秩,所以很容易知道x的解是唯一的,但实际上可以想象是投影在空间上。 b投影在列a的空间上c(a )是唯一的
Ax=b无法求解时,说明bc(a )。 试着转换一下问题。求,使得A与b之间的距离最小,也就是Min
这个时候,我们需要一点想象空间的能力。 要求的只是向量b在名为c(a )的空间上的投影点。 因为只有在这种情况下,||b-A ||才是最小的。
请看一个在一条直线上投影点的示例:
如图所示,求出b向a的投影向量p时,只需稍微了解高中数学的向量知识,就可以得到以下两个公式。
p e=b,ea
(p=ta ) t(r ) ) )
因为是ea,也就是说,所以
那么,b在a上的投影向量是
因为
所以投影向量
习惯上,我习惯了叫投影矩阵。 例如,对于任何b,Sb是b相对于a的投影向量。
我明白有趣的性质。 其实我很明白。 Sb是指在a上投影b的矢量。 于是,b是在a上投影一次后的投影。 再投影一次的话,肯定和Sb相等,所以很容易导出,在这里就不导出了。
接下来进行分析,如果看了上图,很容易知道b-pc(a ),就会有。 如果去掉括号,这个方程式就叫做法方程式。 Ax=b可能解不出来,但一定有解。
那么,这是最大xlmdbbz乘法拟合下的最佳值。
接下来看看p吧。 因为p=A,所以是的。 巧妙的是,我们可以很容易地发现这个东西也符合上面投影矩阵s的性质。
我只说了这么多,你不是觉得用线性代数完成最xlmdbbz乘法特别方便吗?