线性分类问题
点到超平面的距离
1.点(x1, y1)到直线 Ax + By + C = 0 的距离:
忽略正负号,分子写成矩阵形式,分母写为范数:
再写成n维:
由此得到SVM目标函数(求所有的最小距离的最大值):
支持向量机名字的来历:
圈中的五角星点(实际上是多维向量),位于过渡带上,支撑了分割超平面,因此称为支持向量(support vector),由支撑向量做的机器,就叫做支持向量机(support vector machine)~~
推导目标函数
这就是最大间隔分离超平面,使用几何的方法推导出来的