迭代加权最小二乘法

迭代加权最小二乘法

1、什么是迭代加权最小二乘法

迭代加权最小二乘法（Iteratively Reweighted Least Squares）是一种优化方法，利用最小二乘法这一线性模型对未知参数求解的技术，综合考虑样本的离散程度与参数估计的准确程度，得到了高效且

精确的迭代算法。

2、迭代加权最小二乘法的原理

迭代加权最小二乘法就是一种用最小二乘法拟合线性模型，使未

知参数求解的方法，利用极小化误差函数的思想，将极大化通过最小

二乘拟合的问题转换为极小化某一函数的问题，从而可以通过迭代的

方式得到最优的解。迭代加权最小二乘法的核心原理是，实际样本数

据由误差项$\epsilon$组成，参数的估计精确程度取决于

$\epsilon$的方差，可以不断调节权重向量W，达到使估计误差最小的目的。

3、迭代加权最小二乘法的收敛性

由于迭代加权最小二乘法应用有限次迭代最小二乘解来计算未知

参数，因此具有收敛性，即越迭代，最优解精度越高，最终收敛到极

限参数值。收敛性由迭代次数和初始反馈值大小共同决定，当迭代次

数足够多时，无论初始反馈值是何值，最终收敛的结果都将一致。

4、迭代加权最小二乘法的优势

1、求解简单：使用最小二乘拟合线性模型，可以以数学的方法解

决未知参数估计问题，使迭代加权最小二乘法的求解变得简单；

2、算法效率高：迭代特性，可以有效降低计算量，算法效率较高；

3、具有收敛性：迭代次数足够多时，最终结果总能收敛到一致。5、迭代加权最小二乘法的应用

迭代加权最小二乘法可以应用在各个领域中，比如回归分析，计

算未来股票价格的变量等，在建设领域，利用迭代加权最小二乘法来

拟合建筑复杂曲面拱顶节点等问题，也能获得较好的结果。通过对变

量改变，也可以获得最优解，提高回归模型的准确性。