自学内容网 自学内容网

支持向量机SVM

1 SVM直觉理解

通过一条直线将两类数据分开,并且当有新的数据加入时,通过该条直线就能判别其属于哪一类
在这里插入图片描述
在这里插入图片描述
为了区分两类数据,N为数据的样本数,M为维度数,如何设计一个维度为M-1的超平面,将两类数据分割开,
在这里插入图片描述
W可以理解为X对应的权重,
下面以2维空间为例,找到那条分割线
在这里插入图片描述
在这里插入图片描述
缓冲区足够大,可信度就足够高了。
在这里插入图片描述
在这里插入图片描述
寻找最佳决策边界的问题,可以转化为求解两类数据最大间隔问题,而间隔的正中央,就是我们的决策边界。当有新数据需要判断时,计算它与决策边界的相对位置,就可以分类了。

在这里插入图片描述
上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B,得到下面3个超平面方程式

在这里插入图片描述

2. 软硬间隔

当有异常值的时候
在这里插入图片描述
在这里插入图片描述
同时考虑收入和成本因素,去最大化我们的利润。这个最优解下形成的间隔,我们称之为软间隔
在这里插入图片描述
在间隔距离和错误大小之间找到一个平衡。
硬间隔
在这里插入图片描述

3. 升维转换及核技巧入门

升维度,然后进行分类
在这里插入图片描述
核技巧
在这里插入图片描述

参考资料

[1] 支持向量机SVM是什么,八分钟直觉理解其本质 2022.1;


原文地址:https://blog.csdn.net/weixin_46713695/article/details/142769858

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!