GBDT作为自动特征工程器

GBDT+LR融合CTR预估方案的关键洞察是：GBDT擅长自动发现有效的特征组合（每棵树的分裂路径本质上是一条条交叉特征规则），但树模型本身预测速度慢、不利于在线服务；LR预测速度快、易并行，但需要人工构造交叉特征才能有好效果，人工经验成本高。解法是把两者的角色拆开：让GBDT只做”特征生成器”——每个样本落在每棵树的哪个叶子节点，编码成一个高维稀疏的0/1特征向量，再把这个向量喂给LR做最终预测。这是stacking模型融合思路的一个典型例子，它提示一种通用模式：当模型A擅长”发现结构”但不擅长”快速服务”，模型B擅长”快速服务”但缺乏”发现结构”的能力时，可以让A的中间产出物（而非最终预测）直接作为B的输入特征，而不必强行用同一个模型兼顾两种能力。