【原文：http://www.cnblogs.com/justany/archive/2012/11/23/2784125.html】 分类器 分类器是一种计算机程序。 他的设计目标是在通过学习后，可自动将数据分到已知类别。 平面线性分类器 一个简单的分类问题，如图有一些圆圈和一些正方形，如何找一条最优的
【原文：http://www.cnblogs.com/justany/archive/2012/11/23/2784125.html】
分类器分类器是一种计算机程序。
他的设计目标是在通过学习后，可自动将数据分到已知类别。
平面线性分类器一个简单的分类问题，如图有一些圆圈和一些正方形，如何找一条最优的直线将他们分开？
我们可以找到很多种方法画出这条直线，但怎样的直线才是最优的呢？
距离样本太近的直线不是最优的，因为这样的直线对噪声敏感度高，泛化性较差。 因此我们的目标是找到一条直线，离最近的点距离最远。
怎么寻找距离最远的直线？枚举所有直线，然后计算其样本最小距离？这样显然不是一个好办法，这将产生大量的计算开销。
我们利用另一种方法，对直线的正负偏移量1，这样就产生了一个区域（下图的maximum margin覆盖的区域），区域边界上的点到直线的距离是固定的，现在的问题是最近的点是否刚好在边界上或者在边界外。
还记得点到线的公式么？
对于直线ax＋by＋c＝0，点（x0, y0）到直线的距离：
distance = |ax0+by0+c| / (a2 + b2)1/2
那么区域边缘到直线的距离：
distance = (|ax+by+c| + 1)/ (a2 + b2)1/2 = 1/ (a2 + b2)1/2。
并需要满足对于所有样本类别yi 满足：yi (ax+by+c) > = 1，也就是所有样本都不在该区域以内。
于是我们可以找到适当的a、b、c，从而得到：
maximum margin = 2/ (a2 + b2)1/2。
超平面推广同理，我们将这一定理推广到任意维度。其超平面表达式为：
一维是线、二维是面、三维是体……四维呢？五维呢？好吧统称超平面吧……
其中  叫做 权重向量 ，   叫做 偏置向量。
用这种表达式来表达线ax+by+c = 0的话，可以这么表示：
f(x) = (c, 0) + (a, b)t (x, y);
其中(c, 0) 是偏置向量 ，(a, b)是权重向量 。
由于最优超平面可以有很多种表达方式，我们定义：
β0 + βtx = 0，
为最优超平面表达式。于是我们可以得到他的maximum margin区域边界表达式应该为：
我们称在这边界上的点为：支持向量（supper vector）。
因为点到超平面距离公式为：
在边界上，即支持向量到超平面距离：
所以maximum margin为两倍距离，即：
将m求倒数1/m 则可将求最大转换成求最小。于是有：
其中  表示样本的类别标记。
这是一个拉格朗日优化问题，可以通过拉格朗日乘数法得到最优超平面的权重向量  和偏置  。
什么是svm支持向量机 (svm) 是一个类分类器，正式的定义是一个能够将不同类样本在样本空间分隔的超平面。 换句话说，给定一些标记好的训练样本 （监督式学习），svm算法输出一个最优化的分隔超平面。
1995年cortes和vapnik于首先提出svm，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。
使用svm
#include #include #include using namespace cv;int main(){ // 用于保存可视化数据的矩阵 int width = 512, height = 512; mat image = mat::zeros(height, width, cv_8uc3); // 创建一些训练样本 float labels[4] = {1.0, -1.0, -1.0, -1.0}; mat labelsmat(3, 1, cv_32fc1, labels); float trainingdata[4][2] = { {501, 10}, {255, 10}, {501, 255}, {10, 501} }; mat trainingdatamat(3, 2, cv_32fc1, trainingdata); // 设置svm参数 cvsvmparams params; params.svm_type = cvsvm::c_svc; params.kernel_type = cvsvm::linear; params.term_crit = cvtermcriteria(cv_termcrit_iter, 100, 1e-6); // 对svm进行训练 cvsvm svm; svm.train(trainingdatamat, labelsmat, mat(), mat(), params); vec3b green(0,255,0), blue (255,0,0); // 将svm断定的分划区域绘制出来 for (int i = 0; i i) for (int j = 0; j j) { mat samplemat = (mat_float>(1,2) i,j); float response = svm.predict(samplemat); if (response == 1) image.at(j, i) = green; else if (response == -1) image.at(j, i) = blue; } // 绘制训练数据点 int thickness = -1; int linetype = 8; circle( image, point(501, 10), 5, scalar( 0, 0, 0), thickness, linetype); circle( image, point(255, 10), 5, scalar(255, 255, 255), thickness, linetype); circle( image, point(501, 255), 5, scalar(255, 255, 255), thickness, linetype); circle( image, point( 10, 501), 5, scalar(255, 255, 255), thickness, linetype); // 绘制支持向量 thickness = 2; linetype = 8; int c = svm.get_support_vector_count(); for (int i = 0; i i) { const float* v = svm.get_support_vector(i); circle( image, point( (int) v[0], (int) v[1]), 6, scalar(128, 128, 128), thickness, linetype); } imwrite(result.png, image); imshow(简单svm分类, image); waitkey(0);}
建立训练样本这里通过mat构造函数，建立了一个简单的训练样本。
//float labels[4] = {1.0, -1.0, -1.0, -1.0};mat labelsmat(3, 1, cv_32fc1, labels);//建立一个训练样本矩阵float trainingdata[4][2] = { {501, 10}, {255, 10}, {501, 255}, {10, 501} };mat trainingdatamat(3, 2, cv_32fc1, trainingdata);
由于cvsvm::train 要求样本数据存储在float 类型的mat中，所以建立了float类型的mat样本。
设置svm参数struct cvsvmparams
svm 训练参数结构。
该结构必须被初始化后，传给cvsvm。
cvsvmparams::cvsvmparams构造函数
c++: cvsvmparams::cvsvmparams()c++: cvsvmparams::cvsvmparams(int svm_type, int kernel_type, double degree, double gamma, double coef0, double cvalue, double nu, double p, cvmat* class_weights, cvtermcriteria term_crit)参数svm_type –指定svm的类型，下面是可能的取值：
cvsvm::c_svc c类支持向量分类机。 n类分组  (n  2)，允许用异常值惩罚因子c进行不完全分类。cvsvm::nu_svc 类支持向量分类机。n类似然不完全分类的分类器。参数为  取代c（其值在区间【0，1】中，nu越大，决策边界越平滑）。cvsvm::one_class 单分类器，所有的训练数据提取自同一个类里，然后svm建立了一个分界线以分割该类在特征空间中所占区域和其它类在特征空间中所占区域。cvsvm::eps_svr 类支持向量回归机。训练集中的特征向量和拟合出来的超平面的距离需要小于p。异常值惩罚因子c被采用。cvsvm::nu_svr 类支持向量回归机。  代替了 p。可从 [libsvm] 获取更多细节。
kernel_type –svm的内核类型，下面是可能的取值：
cvsvm::linear 线性内核。没有任何向映射至高维空间，线性区分（或回归）在原始特征空间中被完成，这是最快的选择。.cvsvm::poly 多项式内核： .cvsvm::rbf 基于径向的函数，对于大多数情况都是一个较好的选择： .cvsvm::sigmoid sigmoid函数内核：.degree – 内核函数（poly）的参数degree。gamma – 内核函数（poly/ rbf/ sigmoid）的参数。coef0 – 内核函数（poly/ sigmoid）的参数coef0。cvalue – svm类型（c_svc/ eps_svr/ nu_svr）的参数c。nu – svm类型（nu_svc/ one_class/ nu_svr）的参数 。p – svm类型（eps_svr）的参数 。class_weights – c_svc中的可选权重，赋给指定的类，乘以c以后变成 。所以这些权重影响不同类别的错误分类惩罚项。权重越大，某一类别的误分类数据的惩罚项就越大。term_crit – svm的迭代训练过程的中止条件，解决部分受约束二次最优问题。您可以指定的公差和/或最大迭代次数。
默认的构造函数初始化有以下值：
cvsvmparams::cvsvmparams() : svm_type(cvsvm::c_svc), kernel_type(cvsvm::rbf), degree(0), gamma(1), coef0(0), c(1), nu(0), p(0), class_weights(0){ term_crit = cvtermcriteria( cv_termcrit_iter+cv_termcrit_eps, 1000, flt_epsilon );}
opencv的svm class cvsvm
向量支持机
cvsvm::cvsvm训练构造函数。
c++: cvsvm::cvsvm()c++: cvsvm::cvsvm(const mat& traindata, const mat& responses, const mat& varidx=mat(), const mat& sampleidx=mat(), cvsvmparamsparams=cvsvmparams() )c++: cvsvm::cvsvm(const cvmat* traindata, const cvmat* responses, const cvmat* varidx=0, const cvmat* sampleidx=0, cvsvmparamsparams=cvsvmparams() )参数traindata — 训练数据，必须是cv_32fc1 （32位浮点类型，单通道）。数据必须是cv_row_sample的，即特征向量以行来存储。responses — 响应数据，通常是1d向量存储在cv_32sc1 （仅仅用在分类问题上）或者cv_32fc1格式。varidx — 指定感兴趣的特征。可以是整数(32sc1)向量，例如以0为开始的索引，或者8位(8uc1)的使用的特征或者样本的掩码。用户也可以传入null指针，用来表示训练中使用所有变量／样本。sampleidx — 指定感兴趣的样本。描述同上。params — svm参数。
cvsvm::train训练一个svm。
c++: bool cvsvm::train(const mat& traindata, const mat& responses, const mat& varidx=mat(), const mat& sampleidx=mat(), cvsvmparamsparams=cvsvmparams() )c++: bool cvsvm::train(const cvmat* traindata, const cvmat* responses, const cvmat* varidx=0, const cvmat* sampleidx=0, cvsvmparamsparams=cvsvmparams() )参数参考构造函数。
cvsvm::train_auto根据可选参数训练一个svm。
c++: bool cvsvm::train_auto(const mat& traindata, const mat& responses, const mat& varidx, const mat& sampleidx, cvsvmparamsparams, int k_fold=10, cvparamgrid cgrid=cvsvm::get_default_grid(cvsvm::c), cvparamgridgammagrid=cvsvm::get_default_grid(cvsvm::gamma), cvparamgrid pgrid=cvsvm::get_default_grid(cvsvm::p), cvparamgridnugrid=cvsvm::get_default_grid(cvsvm::nu), cvparamgrid coeffgrid=cvsvm::get_default_grid(cvsvm::coef), cvparamgriddegreegrid=cvsvm::get_default_grid(cvsvm::degree), bool balanced=false)c++: bool cvsvm::train_auto(const cvmat* traindata, const cvmat* responses, const cvmat* varidx, const cvmat* sampleidx, cvsvmparams params, int kfold=10, cvparamgrid cgrid=get_default_grid(cvsvm::c), cvparamgrid gammagrid=get_default_grid(cvsvm::gamma), cvparamgrid pgrid=get_default_grid(cvsvm::p), cvparamgrid nugrid=get_default_grid(cvsvm::nu), cvparamgridcoeffgrid=get_default_grid(cvsvm::coef), cvparamgrid degreegrid=get_default_grid(cvsvm::degree), bool balanced=false )参数k_fold – 交叉验证参数。训练集被分成k_fold的自子集。其中一个子集是用来测试模型，其他子集则成为训练集。所以，svm算法复杂度是执行k_fold的次数。*grid – 对应的svm迭代网格参数。balanced – 如果是true则这是一个2类分类问题。这将会创建更多的平衡交叉验证子集。
这个方法根据cvsvmparams中的最佳参数c, gamma, p, nu, coef0, degree自动训练svm模型。参数被认为是最佳的交叉验证，其测试集预估错误最小。
如果没有需要优化的参数，相应的网格步骤应该被设置为小于或等于1的值。例如，为了避免gamma的优化，设置gamma_grid.step = 0，gamma_grid.min_val， gamma_grid.max_val 为任意数值。所以params.gamma 由gamma得出。
最后，如果参数优化是必需的，但是相应的网格却不确定，你可能需要调用函数cvsvm::get_default_grid()，创建一个网格。例如，对于gamma，调用cvsvm::get_default_grid(cvsvm::gamma)。
该函数为分类运行 (params.svm_type=cvsvm::c_svc 或者 params.svm_type=cvsvm::nu_svc) 和为回归运行 (params.svm_type=cvsvm::eps_svr 或者 params.svm_type=cvsvm::nu_svr)效果一样好。如果params.svm_type=cvsvm::one_class，没有优化，并指定执行一般的svm。
cvsvm::predict预测样本的相应数据。
c++: float cvsvm::predict(const mat& sample, bool returndfval=false ) const
c++: float cvsvm::predict(const cvmat* sample, bool returndfval=false ) constc++: float cvsvm::predict(const cvmat* samples, cvmat* results) const参数sample – 需要预测的输入样本。samples – 需要预测的输入样本们。returndfval – 指定返回值类型。如果值是true，则是一个2类分类问题，该方法返回的决策函数值是边缘的符号距离。results – 相应的样本输出预测的响应。
这个函数用来预测一个新样本的响应数据(response)。在分类问题中，这个函数返回类别编号；在回归问题中，返回函数值。输入的样本必须与传给traindata的训练样本同样大小。如果训练中使用了varidx参数，一定记住在predict函数中使用跟训练特征一致的特征。
后缀const是说预测不会影响模型的内部状态，所以这个函数可以很安全地从不同的线程调用。
cvsvm::get_default_grid生成一个svm网格参数。
c++: cvparamgrid cvsvm::get_default_grid(int param_id)参数param_id –svm参数的ids必须是下列中的一个：
cvsvm::ccvsvm::gammacvsvm::pcvsvm::nucvsvm::coefcvsvm::degree网格参数将根据这个id生成。
cvsvm::get_params返回当前svm的参数。
c++: cvsvmparams cvsvm::get_params() const这个函数主要是在使用cvsvm::train_auto()时去获得最佳参数。
cvsvm::get_support_vector检索一定数量的支持向量和特定的向量。
c++: int cvsvm::get_support_vector_count() constc++: const float* cvsvm::get_support_vector(int i) const参数i – 指定支持向量的索引。
该方法可以用于检索一组支持向量。
cvsvm::get_var_count返回变量的个数。
c++: int cvsvm::get_var_count() const分割结果程序创建了一张图像，在其中显示了训练样本，其中一个类显示为白色圆圈，另一个类显示为黑色圆圈。训练得到svm，并将图像的每一个像素分类。 分类的结果将图像分为蓝绿两部分，中间线就是最优分割超平面。最后支持向量通过灰色边框加重显示。
opencv的svm是基于台湾大学林智仁开发的libsvm开发包的。如果你还不过瘾可以看看下面林智仁的演示程序（需要java支持）：
 http://www.csie.ntu.edu.tw/~cjlin/libsvm/
在这个实验中，我们成功让机器找到了区分样品的线性划分，并将其支持向量显示出来。
被山寨的原文
introduction to support vector machines . opencv.org
support vector machines api . opencv.org