最小二乘准则认为,应选择:使得残差平方和最小,即:
达到最小,这就是最小二乘准则(原理)。这种估计回归参数的方法称为普通最小二乘法()。最小二乘法的目的在于使估计值与观测值之间的偏差最小化,常用的偏差度量指标为残差平方和。