控制过拟合的两条独立路径

XGBoost防止过拟合的参数可以归为两条机制完全不同的路径：一条是直接限制模型复杂度上限（如限制树深、限制叶子节点最小权重和、提高分裂所需的最小收益阈值），本质是缩小假设空间，让模型没有能力去拟合噪声；另一条是增加训练过程中的随机性（行采样、列采样），本质不是限制模型能力，而是让每棵树看到的数据或特征都不完全一样，降低树与树之间的相关性，从而在集成层面把方差打散。实践中这两条路径通常一起使用而不是互相替代，因为它们分别处理的是”单棵树会不会学过头”和”多棵树会不会学得太像”两个不同的问题，只调其中一种参数（比如一味调小max_depth）无法覆盖另一种过拟合来源。