马克威偏最小二乘回归模型

马克威操作说明

以数据文件“马克威通用数据3.mkv”为例，演示偏最小二乘回归模型；此例中的具体变量含义如下：

： 直接蒸馏成分；

: 重整汽油；

: 原油热裂化油

: 原油催化裂化油；

: 聚合物；

: 烷基化物

: 天然香精；

：原辛烷值

自变量为：，因变量为；在实际生产过程中，这7个自变量之间存在关系：

（1）首先，在工作区，打开建模分析工作流选择“高级统计”→“偏最小二乘法”→“偏最小二乘回归模型”；

（2）接着选入数据源；

（3）然后设置算法的参数；

（4）具体操作步骤如下：

1）选择数据源；

2）变量选择：

设置好参数如下所示：

（5）输出结果：

相关系数矩阵表：

预测误差平方和：

拟合度以及交叉有效性表：

回归系数表：

自变量、因变量因子得分表：

自变量主轴：

因变量主轴：

回归系数条状图：

实际值与预测值、拟合图：

（6）结果说明：

相关系数矩阵表：各个变量之间的相关性

交叉拟合度：可以看出根据交叉有效性的判断

回归系数条状图：自变量，对因变量为正向的影响关系，而自变量，，对因变量为负向的影响关系。

实际值与预测值表、拟合图：预测值以及实际值表，并在二维坐标系中表现出来。

数据要求

输入变量类型：整型、浮点型，数据要求没有缺损。

输入数据尺度：标量型

算法用途

偏最小二乘回归是一种新型的多元统计数据分析方法；是一种多因变量对多自变量的回归建模方法。可以较好地解决许多以往用普通多元回归无法解决的问题，可以实现多种数据分析方法的综合应用。

偏最小二乘回归可应用在：自变量存在严重多重相关性的条件下进行回归建模、允许在样本点个数少于变量个数的条件下进行回归建模。

算法原理

由于自变量之间会存在大量的自相关情况，所以对这类问题使用普通的最小二乘法不能够求解；这是因为变量多重相关性会严重危害参数估计，扩大模型误差，并且破坏模型的稳定性。偏最小二乘法开辟了一种有效的技术途径，它利用对系统中的数据信息进行分解和筛选的方式，提取对因变量的解释性最强的综合变量，辨识系统中的信息与噪声，从而更好地克服变量多重相关性在系统建模中的不良作用。

下面给出偏最小二乘法的标准算法：

第一步：对原始数据X和Y进行中心化得到X₀和Y₀，并从Y₀中选择方差最大的一列作为u₁，方便后面计算方便；

第二步：迭代求解X与Y的变换权重（w₁,c₁）和因子（u₁,t₁），直到收敛；

计算公式：

利用第一步选择的Y中的列，求解X的变换权重因子

利用X的信息t₁，求解Y的变换权重c₁，并且更新因子u₁的值

判断是否已找到合理的解，否则继续寻找。

第三步：求X与Y的残差矩阵；

计算公式：

1）求X的载荷P₁，载荷是反映X₀和因子T₁的直接关系；

2）求X₀的残差X₁，残差表示了u₁不能反映X₀信息的部分；

3）求Y的载荷Q₁；

4）建立X因子t₁与Y因子u₁之间的回归模型，并用t₁预测u₁的信息；

5）求Y₀的残差Y₁，这个值表达了X与因子t₁所不能预测的Y₀中的信息；

第四步：利用X₁与Y₁，重复上述步骤，求解下一批偏最小二乘的参数。

结果与解释

输出结果：