Logistic回归是线性概率分类器。 通过加权矩阵w和偏移矢量b被参数化。 分类是通过将数据点投影到反映数据点归属概率的超平面集上实现的。
其中使用了能够投影数据，用数学语言表示的非常重要的函数。
这是关于点(0，0.5 )对称的奇函数。 从这个意义上说，logistic回归和线性回归有很多相似之处。 可以按如下方式处理线性回归中的数据： 即g(z )=z
在线性回归问题中，由于取应变量y的值的范围没有限定，所以确定的分类面为
=0。 但是，在实际问题中，变形量y往往只取0、1这2个值。 在这种情况下，继续使用线性回归显然不适用。 要实现分类，请使用logistic函数或sigmoid函数投影分类面。
是推定对象参数，此时的函数可取的范围是(0，1 )区间，假设
y是离散型随机变量，上式是其分布规律。 在具体问题上，训练参数theta后，分别计算上述概率，当该概率较高时，将预测对象样本归入相应类别。
转换为以下格式，以便稍后轻松分析：
上述公式采用统一的形式编写随机变量的分布规律，其中theta是未知参数，需要对其进行估计。 (x，y )相当于从该分布中采集的样本组，目前正在通过这些样本求出未知参数theta的极大似然估计。 首先写似然函数
现在求出似然函数达到最大值时的参数theta，上述形式不容易求解。 因为函数及其对数函数有着相同的单调性。 求对数似然
用梯度下降法求上述函数的极大值点，首先求梯度
最终迭代更新参数的表达式如下：
logistic回归的简单实现如下所示。 编程过程与线性回归极为相似，但价值函数和梯度略有不同