基于局部搜索贝叶斯算法的Xgboost参数选择

作者:肖海军; 阚渟渟*; 李春辉
来源:中南民族大学学报(自然科学版), 2023, 42(02): 201-207.
DOI:10.20056/j.cnki.ZNMDZK.20230209

摘要

提出了一种基于密度的局部搜索贝叶斯算法的Xgboost参数选择方法(BOA-DLS-Xgboost).基于密度的局部搜索贝叶斯算法(BOA-DLS)在选择初始种群时采用拉丁超立方抽样(LHS),使初始种群更均匀地分布于参数空间;每次探索过程是在LHS抽样点的基础上,对稀疏点和当前最优解周围进行局部搜索得到待采样集,以提高解的收敛速度和精度.仿真实验结果表明:BOA-DLS比BOA具有更好的优化性能.利用BOA-DLS对Xgboost算法的参数进行优化,通过与四种经典集成学习算法以及BOA-Xgboost算法比较,所提出的BOA-DLS-Xgboost算法在参数优化方面的应用是合理有效的.