gbdt比决策树好在哪里？为什么好？

不知道，帮顶 从来svm党

单个决策树一般不能很好的完成分类任务，如果不限制树高，让树完全生长的话，会容易过拟合，限制了树高的话又会比较弱，所以需要把多个决策树组合起来才能较好的完成分类任务。 gbdt就是其中一种组合方式，把多个限制了树高的比较弱的决策树组合起来

可以将楼主问题理解为“为什么ensemble model一般会比single model效果好？”吗？

不可以啊，bagging可以防止过拟合是可以推倒的...boosting呢 【 在 LJ10211289 的大作中提到: 】 : 可以将楼主问题理解为“为什么ensemble model一般会比single model效果好？”吗？

就个人理解而言，因为GBDT每次迭代都是拟合当前残差，所以GBDT既可以很好挖掘数据的整体规律（大规律），又能兼顾数据的局部规律（小规律），而single model一般达不到这样的效果。至于严格推导boosting方法比一般single model好，有可能从优化角度去推导，具体不清楚，没有接触过相关资料 【 在 lzc6996 的大作中提到: 】 : 不可以啊，bagging可以防止过拟合是可以推倒的...boosting呢

小白求问Bagging防止过拟合是如何推导的。。。。。 【 在 lzc6996 的大作中提到: 】 : 不可以啊，bagging可以防止过拟合是可以推倒的...boosting呢

同求是怎么理论推导bagging防止过拟合的? 【 在 lzc6996 的大作中提到: 】 : 不可以啊，bagging可以防止过拟合是可以推倒的...boosting呢

gbdt中用lostfuntion的梯度近似残差，实际上每次迭代就是在lostfuntion的梯度方向减少误差，感觉这个和单模型用梯度下降法很类似啊。 【 在 LJ10211289 的大作中提到: 】 : 就个人理解而言，因为GBDT每次迭代都是拟合当前残差，所以GBDT既可以很好挖掘数据的整体规律（大规律），又能兼顾数据的局部规律（小规律），而single model一般达不到这样的效果。至于严格推导boosting方法比一般single model好，有可能从优化角度去推导，具体不清楚，没有接触过相关资料

不能这样理解GBDT吧，每次迭代都会在原有的model加上一个学习出的submodel啊，这点和single model的梯度下降差别很大吧 【 在 lzc6996 的大作中提到: 】 : gbdt中用lostfuntion的梯度近似残差，实际上每次迭代就是在lostfuntion的梯度方向减少误差，感觉这个和单模型用梯度下降法很类似啊。