要解决的问题
在工程应用中，我们经常会用一组观测数据去估计模型的参数，模型是我们根据先验知识定下的。比如我们有一组观测数据( x i , y i )
（一维），通过一些数据分析我们猜测y yy和x xx之间存在线性关系，那么我们的模型就可以定为：
f ( x ) = k x + b
这个模型只有两个参数，所以理论上，我们只需要观测两组数据建立两个方程，即可解出两个未知数。类似的，假如模型有n nn个参数，我们只需要观测n nn组数据就可求出参数，换句话说，在这种情况下，模型的参数是唯一确定解。
但是在实际应用中，由于我们的观测会存在误差（偶然误差、系统误差等），所以我们总会做多余观测。比如在上述例子中，尽管只有两个参数，但是我们可能会观测n nn组数据( x 1 , y 1 ) . . , ( x n , y n )
这会导致我们无法找到一条直线经过所有的点，也就是说，方程无确定解。
|
楼主
标题置顶
标题高亮
