加权最小二乘法详细推导

加权最小二乘法（Weighted Least Squares，WLS）是一种用于线性回归模型的优化方法，它给予不同的数据点不同的权重，以便更好地拟合模型并减少误差。

假设我们有一个线性回归模型y = Xβ，其中y 是目标变量，X 是特征矩阵，β是要估计的参数。

我们还有一个与X 大小相同的权重矩阵W。

加权最小二乘法的目标是最小化损失函数：J(β) = ∑w_i(y_i - x_iβ)^2，其中i 是数据点的索引，w_i 是与第i 个数据点相关的权重。

对J(β) 求关于β的偏导数，并令其为0，得到：
∂J(β)/∂β= 0 = 2∑w_iy_i - 2x_iβ
由于这是一个线性方程，我们可以将其表示为矩阵形式：
X^TWXβ= X^TWy
其中，X^T 是X 的转置，W 是权重矩阵，y 是目标变量。

通过解这个方程，我们可以得到β的估计值：
β= (X^TWX)^(-1)X^TWy
这就是加权最小二乘法的推导。

这种方法考虑了每个数据点的权重，因此可以更好地处理不同大小和分布的数据点。