猫史档案馆

如果a,b,c的初始值不同，所训练出来的感知机自然也不同，尽管它们都能正确分类：

那分类边界有没有优劣之分呢？也就是说哪一个感知机是训练的最好的呢？

这里需要理解一下:一般地，一个点距离分类直线的远近表达我们对分类预测的确信程度，距离越远，确性程度越高。

打个比方，如果一个点离分类直线特别近：那这个分类其实是模棱两可的，他很有可能其实是蓝色的。就跟我们做选择题的时候，有些时候，我们会觉得题很简单，一下就选出了正确答案。有时我们却觉得好像两个答案都是对的。（这时就跟上面这幅图一样，如上图，分类直线只要稍微再偏一点儿，打了红圈的点就被分成蓝色类别了。）

这个意会一下吧......（只可意会，不可言传。。。)

 

那么怎么表达一个点到分类直线的远近呢，在a，b，c确定的情况下。一个点到分类直线的距离表示为（前提是这个点被正确分类）：

(**是平方的意思，3**2=9（3的2次方））。

一类数据中，到分类直线距离最短的点到分类直线的距离距离叫做几何间隔（γ），分类直线到最近的两个不同类别的点（这两个点就叫做向量机，这是算法名字的由来）的距离就是2γ（最优化的分类直线中，两类数据中每一类的几何距离都必须是一样的。），叫做分类间隔。

所以整个优化过程就可以表示为：

并同时满足每一个点到分类直线的距离大于等于γ！