决策方程符合感知机区分理论,我们基于线性代数来看这满足子空间理论,可以获取得到超平面。
支持向量机的目标是寻找最与超平面最近的点的最大距离,而距离计算如上,符合数学上计算点到线(面)的距离公式。
将距离描述为最优化问题,是典型的maxmin问题,寻找与决策超平面最近的点,并将该点的距离最大化。
将约束条件强行约束大于0,变为大于1,从而简化目标函数。这变成一个条件极值问题。
基于拉格朗日乘子发可用于求解,将w和b寻找与a的关系,代入求解
该公式只留下a项了
继续转化问题,现在是对a求极值,将求解极大值问题加负号转化为求极小值问题,将特征点代入方程即可求出a,并最终反推回W,B
为了防止噪声对模型影响,引入松弛因子做正则化
非线性核的目的是基于线性代数投影的理论,将数据投影至其他空间,将当前空间中线性不可分的问题转化为其他空间线性可分问题