博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
xgboost中XGBClassifier()参数详解
阅读量:5107 次
发布时间:2019-06-13

本文共 1374 字,大约阅读时间需要 4 分钟。

常规参数

booster    gbtree 树模型做为基分类器(默认)    gbliner 线性模型做为基分类器silent    silent=0时,不输出中间过程(默认)    silent=1时,输出中间过程nthread    nthread=-1时,使用全部CPU进行并行运算(默认)    nthread=1时,使用1个CPU进行运算。scale_pos_weight    正样本的权重,在二分类任务中,当正负样本比例失衡时,设置正样本的权重,模型效果更好。例如,当正负样本比例为1:10时,scale_pos_weight=10。

 

模型参数

n_estimatores    含义:总共迭代的次数,即决策树的个数    调参:early_stopping_rounds    含义:在验证集上,当连续n次迭代,分数没有提高后,提前终止训练。    调参:防止overfitting。max_depth    含义:树的深度,默认值为6,典型值3-10。    调参:值越大,越容易过拟合;值越小,越容易欠拟合。min_child_weight    含义:默认值为1,。    调参:值越大,越容易欠拟合;值越小,越容易过拟合(值较大时,避免模型学习到局部的特殊样本)。subsample    含义:训练每棵树时,使用的数据占全部训练集的比例。默认值为1,典型值为0.5-1。    调参:防止overfitting。colsample_bytree    含义:训练每棵树时,使用的特征占全部特征的比例。默认值为1,典型值为0.5-1。    调参:防止overfitting。

学习任务参数

learning_rate    含义:学习率,控制每次迭代更新权重时的步长,默认0.3。    调参:值越小,训练越慢。    典型值为0.01-0.2。objective 目标函数    回归任务        reg:linear (默认)        reg:logistic     二分类        binary:logistic     概率         binary:logitraw   类别    多分类        multi:softmax  num_class=n   返回类别        multi:softprob   num_class=n  返回概率    rank:pairwise eval_metric    回归任务(默认rmse)        rmse--均方根误差        mae--平均绝对误差    分类任务(默认error)        auc--roc曲线下面积        error--错误率(二分类)        merror--错误率(多分类)        logloss--负对数似然函数(二分类)        mlogloss--负对数似然函数(多分类)gamma    惩罚项系数,指定节点分裂所需的最小损失函数下降值。    调参:alpha    L1正则化系数,默认为1lambda    L2正则化系数,默认为1

 

转载于:https://www.cnblogs.com/pengwang52/p/9623093.html

你可能感兴趣的文章
[多项式算法](Part 4)FWT 快速沃尔什变换 学习笔记
查看>>
[多项式算法](Part 3)MTT 任意模数FFT/NTT 学习笔记
查看>>
[多项式算法](Part 1)FFT 快速傅里叶变换 学习笔记
查看>>
[多项式算法](Part 5)分治FFT 学习笔记
查看>>
[多项式算法]多项式求逆 学习笔记
查看>>
[总结]2019年9月 OI学习/刷题记录
查看>>
[LOJ2980]「THUSCH 2017」大魔法师
查看>>
[LOJ 6199/Luogu P4688][Ynoi2016]掉进兔子洞
查看>>
[Luogu P5068][Ynoi2015]我回来了
查看>>
[总结]2019年10月 OI学习/刷题记录
查看>>
[BZOJ4870/LOJ2143][Shoi2017]组合数问题
查看>>
切词框架jcseg,入门
查看>>
深入理解Spring Redis的使用 (一)、Spring Redis基本使用
查看>>
windows如何安装mysql
查看>>
Class.getResourceAsStream()与ClassLoader.getResourceAsStream()获取资源时的路径说明
查看>>
玩转深拷贝/浅拷贝
查看>>
java之反射
查看>>
博客阅读笔记
查看>>
[恢]hdu 1050
查看>>
订阅 memcached: error while loading shared libraries: libevent-2.0.so.5: cannot o解决
查看>>