精确贪心与直方图近似的权衡

精确贪心算法遍历每个特征的每个候选切分点计算收益，理论上最精确，但要求数据能装进内存，一旦数据量超出内存就要频繁与磁盘交换，性能急剧下降，在分布式环境下问题更严重。直方图近似算法先把每个特征的取值按分位数分桶，只在桶边界上计算收益，牺牲了切分点的精细程度换来内存可控、通信量可控。这不是”近似算法天然更差”，而是”当瓶颈从计算量转移到内存/IO/通信时，精度换资源是更划算的交易”——判断该用哪种算法，本质是先定位系统瓶颈在哪，而不是默认追求理论最优精度。