多元回归

命令:

统计

回归分析

多元回归分析

多元回归是考察一个因变量 Y 与一个或多个自变量 X_i 之间关系的统计方法。回归方程

$$ Y = b_0 + b_1 X_1 + b_2 X_2 + b_3 X_3 + … + b_k X_k $$

中的回归参数或系数 b_i 用最小二乘法估计。该方法使回归平面与因变量观测值之间的残差平方和最小。回归方程表示 k+1 维空间中的一个（超）平面，其中 k 为自变量（X₁、X₂、X₃、… X_k）的个数，另加因变量 Y 这一维。

所需输入

在多元回归对话框中需要输入以下数据：

多元回归

因变量

要预测其值的变量。

自变量

选择一个或多个可能影响或预测因变量值的变量，也称为预测变量或解释变量。

权重

可以选择一个包含各观测值相对权重的变量（加权最小二乘多元回归）。要执行校正异方差的自动加权回归过程，请选择伪变量 "*** AutoWeight 1/SD^2 ***"（Neter et al., 1996）。该伪变量显示为权重下拉列表中的第一项。

筛选条件

可以输入数据筛选条件，只在分析中包含所选个案亚组。

选项

方法：选择将自变量引入模型的方式。
- 输入：不做任何检查，一步将所有变量引入模型。
- 向前：将有显著性的变量逐个依次引入模型。
- 向后：先将所有变量引入模型，然后逐个依次剔除无显著性的变量。
- 逐步：将有显著性的变量逐个依次引入，但每引入一个变量后，检查是否有变量变得无显著性，如有则将其剔除。
P< 时引入变量
如果某变量对应的显著性水平小于该 P值，则将该变量引入模型。
P> 时剔除变量
如果某变量对应的显著性水平大于该 P值，则将该变量从模型中剔除。
报告方差膨胀因子（VIF）：在报告中显示方差膨胀因子的选项。方差膨胀因子较大提示自变量存在多重共线性。多重共线性是指多元回归模型中两个或多个解释变量高度线性相关的情况。
零阶和简单相关系数：创建一个表的选项，给出因变量与各自变量之间以及所有自变量之间的相关系数。
残差：可以选择对残差进行正态分布检验。

结果

单击确定后，结果显示在结果窗口中：

多元回归

从属Y	GRADE_A

最小二乘方多重回归

方法	向后
P< 时引入变量	0.05
P> 时剔除变量	0.1

样本量	46
决定系数R²	0.2449
调整 R²	0.2098
复相关系数	0.4949
残差标准差	11.9453

回归方程

自变量	系数	标准误	95% CI	t	P	r_偏	r_半偏
（常量）	8.0389	5.3064	-2.6625至18.7403	1.5149	0.1371
CONCENTRATION	0.1331	0.05506	0.02207至0.2442	2.4175	0.0199	0.3459	0.3204
MORPHOLOGY	0.3570	0.1848	-0.01556至0.7296	1.9325	0.0599	0.2827	0.2561

未包含在模型中的变量
ATP

方差分析

来源	DF	平方和	均方
回归	2	1990.2226	995.1113
残差	43	6135.7121	142.6910

F比率	6.9739
显著性水平	P=0.0024

残差

Shapiro–Wilk 检验正态分布	W=0.9735 接受正态性（P=0.3717）

结果窗口显示以下统计量：

样本量：数据记录的数目 n

决定系数 R²：回归模型所解释的因变量变异的比例，是衡量模型拟合优度的指标，取值范围为 0 至 1，按如下方式计算：

$$ R^2 = \frac {\text{已解释变异}} {\text{总变异}} = \frac {\sum_{}^{}{(Y_{est}-\bar{Y})^2}} {\sum_{}^{}{(Y-\bar{Y})^2}} $$

其中 Y 为因变量的观测值，$\bar{Y}$ 为观测值的均值，Y_est 为因变量的预测值（预测值用回归方程计算）。

调整 R²：按回归模型中自变量个数调整后的决定系数。与决定系数不同，当模型中加入对模型拟合没有显著贡献的变量时，调整 R² 可能会减小。

$$ R^2_{adj} = 1 - \frac {\text{未解释变异} / (n-k-1)} {\text{总变异} / (n-1) } $$

或

$$ R^2_{adj} = 1 - \frac {\sum_{}^{}{(Y_{est}-\bar{Y})^2}} {\sum_{}^{}{(Y-\bar{Y})^2}} \frac {n-1}{n-k-1} $$

复相关系数：衡量数据点在回归平面周围聚集程度的指标，按决定系数的平方根计算。

讨论多元回归分析的结果时，一般使用复决定系数而不是复相关系数。

残差标准差：残差（观测值与预测值之差）的标准差，按如下方式计算：

$$s_{res} = \sqrt{\frac{\sum_{}^{}{(Y-Y_{est})^2}}{n-k-1}} $$

回归方程：给出各回归系数 b_i 及其标准误 s_bi、95% 置信区间、t 值、P值，以及偏相关系数 r_partial 和半偏相关系数 r_semipartial。

如果 P值小于通常的 0.05，则可以认为该回归系数与 0 有显著差异，相应的变量对因变量的预测有显著贡献。
偏相关系数 r_partial：偏相关是从自变量和因变量两者中都剔除其他变量的线性效应之后，自变量与因变量之间的相关（经模型中其他变量效应调整后，该变量与因变量的相关）。
半偏相关系数 r_semipartial（在 SPSS 中称为部分相关）：半偏相关是只从自变量中剔除其他自变量的线性效应之后，自变量与因变量之间的相关。半偏相关的平方是因变量 Y 的总方差中由该自变量（独特地）解释的比例。
表中可以选择包含方差膨胀因子（VIF）。方差膨胀因子较大提示自变量存在多重共线性。多重共线性是指多元回归模型中两个或多个解释变量高度线性相关的情况。

未包含在模型中的变量：变量未包含在模型中有两个原因：

选择了逐步模型，且回归系数的 P值大于阈值，因此该变量被剔除。
变量的容差非常低（小于 0.0001）。容差是方差膨胀因子（VIF）的倒数，等于 1 减去该变量与回归方程中所有其他自变量的复相关系数的平方。如果回归方程中某变量的容差非常小，则无法估计回归方程。

方差分析：方差分析表将因变量的总变异分为两个部分：可归因于回归模型的部分（标记为回归）和不可归因于回归模型的部分（标记为残差）。如果 F检验的显著性水平较小（小于 0.05），则可以拒绝不存在（线性）关系的假设，认为复相关系数具有统计学显著性。

零阶和简单相关系数：此可选表给出因变量（Y）与各自变量 X_i 之间以及所有自变量之间的相关系数。

残差分析

多元线性回归分析假设残差（观测值与估计值之差）服从正态分布。可以用正式检验或图形方法评估这一假设。

样本量较小时，各种正式的正态分布检验可能没有足够的检验效能来检测偏离正态分布的情况。另一方面，样本量较大时，由于中心极限定理，对正态分布的要求并不那么严格。

因此，通常更可取的做法是用直方图、箱线图或正态概率图直观评估残差分布的对称性和峰度。

为此，请单击结果窗口中的“保存残差”超链接。残差将作为新变量保存在电子表格中，然后可以在各种分布图中使用该新变量。

重复过程

要重复多元回归过程（例如在模型中添加或删除变量），只需按功能键 F7，将再次显示包含先前输入的数据和选择的对话框（请参阅重开对话框）。

参考文献

Altman DG (1991) Practical statistics for medical research. London: Chapman and Hall.
Armitage P, Berry G, Matthews JNS (2002) Statistical methods in medical research. 4^th ed. Blackwell Science.
Neter J, Kutner MH, Nachtsheim CJ, Wasserman W (1996) Applied linear statistical models. 4^th ed. Boston: McGraw-Hill.

多元回归

所需输入

因变量

自变量

权重

筛选条件

选项

结果

最小二乘方多重回归

回归方程

方差分析

残差

残差分析

重复过程

参考文献

另请参阅