一、什么是支持向量机
支持向量机(support vector machine，简称SVM )是基于统计学习理论的新型学习机，是前苏联Vapnik教授首先提出的。 与传统学习方法不同，支持向量机是结构风险最小化方法的近似实现。 该归纳原理基于这样的事实，学习机器测试数据上的误差率，即泛化误差率以训练误差率和依赖于Vc维数Vapnik-Chervonenkis dimension的项之和为界； 在可分离模式下，支持向量机上一节的值为零，第二节最小化。 因此，支持向量机在模式分类问题中提供良好的泛化性能这一特性是支持向量机特有的，尽管支持向量机不使用问题的领域知识。 这实现了通过某个预先选择的非线性映射将输入向量x映射到一个高维特征空间z中，并在该空间中构建最优的分类超平面，从而使正例和反例样本的分离极限最大化的思想。 概念上，支持向量是距离决策平面最近的数据点，可确定最佳分类超平面的位置。
二、支持向量机的原理
超平面和最近的数据点之间的间隔称为分离边，用p表示。 支持向量机的目标是找到一个特殊的超平面，使边p与此超平面分离最大。 在此条件下，决定曲面称为最佳超平面。 下图是二维输入空间中最佳超平面的几何结构。
基本上，支持向量机的思想基于两个数学运算，概要如下
1 )从输入向量到高维特征空间的非线性映射，特征空间对输入和输出是隐藏的
2 )构建分离上一步发现特征的最优超平面。
三、支持向量机的算法
是经典的东西
1 ) Vapnik提出的Chunking方法； 其出发点是，删除矩阵中Lagrange乘数为零的行和列不会影响最终结果，但如果训练集支持向量数较大，则Chunking算法无法将矩阵放置在存储器中。
2 ) Qsuna提出的Qsuna算法该算法存在高效问题。 因为在每个步骤中优化QP问题只能满足Kuhn-Tucker的条件。
3 ) Plat提出的序贯最小优化方法(sequential minimal optimization，简称SMO )； 将一个大QP问题分解成一系列最小规模的QP子问题，即，具有两个Lagrange乘数的QP问题，从而可以用分析方法解决原始问题，而且可以避免用数值算法在内部循环中优化QP。 该算法在训练线性SVM时，可以获得非常好的性能。
四、支持向量机的几种内积核函数
1 )多项式学习机
2 )径向基函数网络
3 )双层探测器