马克威支持向量机

马克威操作说明

以数据文件“马克威通用数据1.mkw”为例，演示支持向量计算法的操作。首先，在工作区内，打开建模分析工作流：“机器学习”→“支持向量机”，接着选择模型的训练、测试或应用，然后选择数据源，并设置算法参数，最后双击运行按钮。具体的操作如下：

（1）模型训练

选择变量B为决策属性，变量V1-V8为输入变量，并调整Eps值为0.00001，如下图：

支持向量机-属性设置

选项说明

双击“运行”节点，运行结果显示如下：

支持向量机-树形结果列表 支持向量机-未修正的结果 支持向量机-牛顿修正后结果

结果说明

在支持向量机结果表中，列出了本次模型分析的各参数值。同时，由于选择了保存模型，系统会生成相应的模型文件，其中，牛顿修正模型添加“_newton”后缀以保存。

（2）模型测试

选择“测试”选项，选择模型来源，通过加载模型以及匹配变量可以实现对模型的测试：

支持向量机-属性设置

选项说明

运行后得到的测试结果如下：

支持向量机-树形结果列表 支持向量机-详细测试结果

（3）模型应用

选择“应用”选项，并选择模型来源，通过加载模型以及匹配变量可以实现应用模型进行预测：

支持向量机-属性设置

选项说明

运行后，结果如下：

支持向量机-树形结果列表 支持向量机-预测结果

数据要求

输入变量类型：数值型。

算法用途

支持向量机（support vector machines, SVM）是一种二分类模型，可用来分类和预测。它已应用于许多领域，包括手写数字识别、对象识别、语音识别以及时间序列预测检验等。

算法原理

支持向量机建立在计算学习理论的结构风险最小化原则之上。其主要思想是针对两分类问题，在高维空间中寻找一个超平面作为两分类的分割，以保证最小的分类错误率，而且支持向量机一个重要的优点是可以处理线性不可分的情况。

支持向量机学习的基本思想是求解能够正确划分训练数据集并且使得几何间隔最大的分离超平面，满足几何间隔最大的超平面是唯一的。

支持向量

给定线性不可分训练数据集，其中, ，，线性不可分的线性支持向量机学习可以等价地求解相应的凸二次规划问题，形式如：

    

求得最优解和。

从而得到分离的超平面：

分类决策函数

其中，为惩罚参数。

结果与解释

输出结果：