PAGE1

PAGE1

岭回归

1.岭回归的基本概念

1.1什么是岭回归

岭回归（RidgeRegression）是一种线性回归的正则化方法，用于解决多元线性回归模型中的多重共线性问题。在实际工程实验中，当自变量之间存在较强的线性相关性时，普通的最小二乘法（OLS）可能会导致模型参数的估计不稳定，甚至出现过拟合现象。岭回归通过在损失函数中加入一个正则化项来限制模型参数的大小，从而减少参数之间的相关性，提高模型的稳定性和泛化能力。

1.2岭回归的数学原理

岭回归的损失函数可以表示为：

Loss

其中：-i=1nyi?yi2是残差平方和（RSS），也称为平方损失。-