用势函数的概念来确定判别函数和划分类别界面。
1.假设要划分属于两种类别ω1和ω2的模式样本,这些样本可看成是分布在n维模式空间中的点 x k x_k xk。
2.把属于ω1的点比拟为某种能源点,在点上,电位达到峰值。
3. 随着与该点距离的增大,电位分布迅速减小,即把样本 x k x_k xk附近空间x点上的电位分布,看成是一个势函数 K ( x , x k ) K(x, x_k) K(x,xk)。
4.对于属于ω1的样本集群,其附近空间会形成一个“高地”,这些样本点所处的位置就是“山头”。
5. 同理,用电位的几何分布来看待属于ω2的模式样本,在其附近空间就形成“凹地”。
6. 只要在两类电位分布之间选择合适的等高线,就可以认为是模式分类的判别函数。
用第二类势函数,当训练样本维数和数目都较高时,需要计算和存储的指数项较多。
正因为势函数由许多新项组成,因此有很强的分类能力。
一般来说,若两个n维向量 x x x和 x k x_k xk的函数 K ( x , x k ) K(x, x_k) K(x,xk)同时满足下列三个条件,则可作为势函数。
K ( x , x k ) = K ( x k , x ) K(x, x_k)=K(x_k, x) K(x,xk)=K(xk,x),并且当且仅当x=xk时达到最大值;
当向量x与xk的距离趋于无穷时, K ( x , x k ) K(x, xk) K(x,xk)趋于零;
K ( x , x k ) K(x, x_k) K(x,xk)是光滑函数,且是 x 与 x k x与x_k x与xk之间距离的单调下降函数。