一元线性回归模型的检验

4.2.2　一元线性回归模型的检验

在上述回归过程中并不能确定因变量y与x之间是否实际存在线性相关关系，因为即使对一组杂乱无章的数据点，也可以用式（4－3）～式（4－5）求得如式（4－2）所示的一元线性回归方程。但这样得到的回归方程是毫无意义的，因为实际上y与x之间可能并不存在规律性的关系。为检验得到的回归方程是否有实际意义，可用相关系数、方差分析与残差分析等方法进行检验，以考核其是否准确反映了实际规律。

1.相关系数检验法

根据式（3－2）可求得描述x与y线性相关程度的线性相关系数r，根据线性相关系数r接近1的程度可判断线性回归方程（4－2）是否具有统计学意义。由于回归模型（4－2）的线性程度与样本的组数n是有关的，所以当n较小时，r的绝对值容易接近1；n较大时，r的绝对值容易偏小。尤其是n＝2时，r的绝对值总和为1。所以对于一元线性回归模型，通常都要求n≥5。

采用相关系数检验y与x是否相关的步骤如下。

第一，按照式（3－2）计算相关系数r。

第二，给定显著性水平α，按自由度f＝n－2，由相关系数临界表（表4－1）查临界值r_α，f。

第三，比较r与r_α，f的大小。若r≥r_α，f，则认为x与y之间存在线性相关关系；若r＜r_α，f，则认为x与y之间不存在线性相关关系。

表4－1　相关系数临界值

续表

2.方差分析和F检验

方差分析把所给数据的总波动分解为两部分，一部分反映自变量取值变化引起的波动，另一部分反映由于实验误差而引起的波动。然后把自变量变化引起的波动与实验误差引起的波动大小进行比较，从而达到检验回归方程显著性的目的。在回归问题中，观测数据总的波动情况用各观测值y_i与总均值之间的平方和（即总波动的平方和）表示

第一项Q＝反映了实测值与回归模型值之间误差的平方和（称为残差平方和）；第二项反映了因x与y线性关系而引起y变化的一部分，称为回归平方和；第三项为0，所以L_yy＝Q＋U。

每一个变动的平方和（即L_yy，U，Q）都有一个“自由度”和它们对应，L_yy的自由度称为总自由度，记作f_总。

利用统计量

可以来检验回归方程（4－2）是否可信。这里F_1，n－2（α）为F表中的临界值，F分布表是用以衡量F比式（4－8）的标准，根据统计原理编制而成。如F＞F_1，n－2（α），则表明对显著性水平α（一般取1%或5%），回归系数为0的原假设被拒绝，则由式（4－3）～式（4－5）所得的回归方程可信，如F＜F_1，n－2（α），则接受回归系数为0的原假设，一元线性回归方程（4－2）在水平α下不可信。

3.残差分析

e_i＝y_i－称为残差（y_i为实测值为模型预测值），利用残差可以提供如下信息

给出了回归方程的精度，称为残差标准差。若随机误差遵从正态分布N（0，σ²），则y的预测落在之内的概率大约为95%。越小，表明回归精度越高。

数据和模型的诊断：由残差的大小可以发现异常（或离群）数据，以确定模型式（4－2）是否能反映实际数据间的内在关系，是否需用非线性回归模型等，这些已形成一整套理论，称为回归诊断。

例4－1　对于表4－2中第一列中的6个数据点，可以采用式（4－3）～式（4－5）求得变量x、y之间的一元线性回归方程为y＝4.238 1＋0.171 4x，相关系数r＝0.196 4。

表4－2　原始数据、回归模型值及其检验值

图4－2　表4－2的数据点及其回归直线

由表4－1可知，变量x、y之间的相关系数仅为0.196 4，查F表知，F1，4（0.05）＝7.71，F＝0.160　5＜F1，4（0.05）。表明回归方程y＝4.238 1＋0.171 4x并不能反映x、y之间的实际关系。将这些数据点的分布与回归直线作图见图4－2。

由图4－2可知，这些数据点的分布并不呈直线规律，虽然用最小二乘原理可以回归出一个x、y之间的线性关系，但该线性方程并不能正确反映x与y间的实际关系。因此在求得回归关系后对模型进行检验是十分必要的。