1、几个概念

在 “26回归模型：一元线性回归模型古典假设”中已经介绍了有关概念，后边就不再重复介绍，需要的时候就直接使用了。在此，介绍的是一元线性回归模型的参数估计。

一元线性总体回归模型：

一元线性总体回归方程：

一元线性样本回归直线：

使用样本对总体参数进行估计。样本回归线的参数就是总体参数的估计量。

2、回归残差

将样本点和样本回归线描述在坐标图上：

回归残差：观测值与拟合值之间的差。即：

在什么情况下，样本回归线能最有效地代表这些点的变动规律呢？显然，对所有观测点，所有残差的平方和最小的情况下，样本回归线就是最有效。​即：

这就是普通最小二乘法​。

3、最小二乘法准则

对线性回归模型参数估计方法有多种，常用的是最小二乘法和极大似然​估计法。其中最小二乘法是最简便​的。最小二乘法的规则是用使估计的残差平方和最小的原则确定样本回归线​。最小二乘准则表述​如下：

4、求解参数值​

通过上述计算，就求解出了样本回归线的参数值​。

下一节​：一元回归参数求解案例

,