代价函数(损失函数)Cost FunctionJ(0,1)
代价函数形式多、意义相似,是一元线性回归的代价函数,如下
我们的目标是通过改变成本函数的两个参数,即改变回归直线h()的截距和斜率,使成本函数j ))最小化,减小训练集数据拟合时的误差。 找到成本函数j()的最小值后,决定0、1的可取值。
右图的横轴表示切片0,纵轴表示倾斜度1,所选择的两个参数与左图的直线对应。 通过选择不同的成本函数参数0、1,找到全局最小值,即j() min。
相关系数(线性、两个变量)
相关系数绝对值越接近1,采样点的分布越接近线性关系
相关系数越接近1,表示样本点的分布越接近正相关关系
相关系数越接近-1,表示采样点分布越接近负相关关系
相关系数越接近0,表示样本点分布呈不接近线性关系
决定系数(非线性、两个及以上变量)
()样本点真值、y拔)样本点真值平均值、y尖)预测值
系数r越接近1,表示自变量之间越接近线性关系,用于测量线性模型的结果。