page contents

XGBOOST的调参步骤是怎样的?

轩辕小不懂 发布于 2021-09-22 14:34
阅读 576
收藏 0
分类:资源下载
1997
Nen
Nen
- 程序员

PS:这里使用Gridsearch cv来穷举检索最佳的参数,如果时间允许,可以通过设置步数先粗调,再细调。

保持learning rate和其他booster相关的参数不变,调节和estimators的参数。learing_rate可设为0.1, max_depth设为4-6之间,min_child_weight设为1,subsample和colsample_bytree设为0.8,其他的参数都设为默认值即可。

调节max_depth和min_child_weight参数,首先,我们先大范围地粗调参数,然后再小范围地微调。

gamma参数调优

subsample和colsample_bytree调优

正则化参数调优,选择L1正则化或者L2正则化

缩小learning rate,得到最佳的learning rate值

请先 登录 后评论