首页 > 编程知识 正文

最小二乘法求线性拟合曲线,最小二乘法拟合线性回归方程

时间:2023-05-04 01:25:08 阅读:186796 作者:2540

当我们高中毕业的时候,你可能知道数学世界有一种直线拟合方式:最xlmdbbz乘法。 这是一种数学优化技术,原理是最小化误差平方和以寻找数据的最佳函数匹配。

例如,假设您研究了x和y之间的关系,发现我们拥有的数据是在x-y直角坐标系中绘制的,这些点没有连成一条直线。

但是,倾向与曲线相似。 在这种情况下,可以假设这条曲线如下:

根据最xlmdbbz乘方的原理,即最小化也能得到值,从直线通过点得到b的值。 是横轴的平均值,纵轴的平均值。

不久、

实际上,最xlmdbbz乘法不仅可以拟合直线(一次),也可以拟合曲线(二次)。

复习了高中学过的最xlmdbbz的乘法之后,在大学里用线性代数的知识来拟合吧。

Ax=b,a在m*n型的矩阵中mn,a排得满满的情况下,Ax=b可能有解,也可能没有解。

如果Ax=b有解的话,因为排满了秩,所以很容易知道x的解是唯一的,但实际上可以想象是投影在空间上。 b投影在列a的空间上c(a )是唯一的

Ax=b无法求解时,说明bc(a )。 试着转换一下问题。求,使得A与b之间的距离最小,也就是Min

这个时候,我们需要一点想象空间的能力。 要求的只是向量b在名为c(a )的空间上的投影点。 因为只有在这种情况下,||b-A ||才是最小的。

请看一个在一条直线上投影点的示例:

如图所示,求出b向a的投影向量p时,只需稍微了解高中数学的向量知识,就可以得到以下两个公式。

p e=b,ea

(p=ta ) t(r ) ) )

因为是ea,也就是说,所以

那么,b在a上的投影向量是

因为

所以投影向量

习惯上,我习惯了叫投影矩阵。 例如,对于任何b,Sb是b相对于a的投影向量。

我明白有趣的性质。 其实我很明白。 Sb是指在a上投影b的矢量。 于是,b是在a上投影一次后的投影。 再投影一次的话,肯定和Sb相等,所以很容易导出,在这里就不导出了。

接下来进行分析,如果看了上图,很容易知道b-pc(a ),就会有。 如果去掉括号,这个方程式就叫做法方程式。 Ax=b可能解不出来,但一定有解。

那么,这是最大xlmdbbz乘法拟合下的最佳值。

接下来看看p吧。 因为p=A,所以是的。 巧妙的是,我们可以很容易地发现这个东西也符合上面投影矩阵s的性质。

我只说了这么多,你不是觉得用线性代数完成最xlmdbbz乘法特别方便吗?

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。