基于Lightgbm和XGBoost的优化深度森林算法

作者：谢军飞; 张海清; 李代伟^*; 于曦; 邓钧予

来源：南京大学学报(自然科学), 2023, 59(05): 833-840.

DOI：10.13232/j.cnki.jnju.2023.05.011

• Lightgbm算法
• XGBoost算法
• 深度森林
• 综合性能

教育规模不断扩大，高校在校生人数持续上升，导致学生的能力参差不齐.为了提升教育水平，教师需掌握学生在校期间的学习状态，预测学生期末成绩是教师掌握学生学习状态的重要途径之一.目前的研究工作主要采用传统的机器学习算法进行成绩预测，如随机森林、贝叶斯、深度森林等，但精度不高；也有利用深度学习算法进行预测，但模型缺少可解释性. Lightgbm(Light Gradient Boosting Machine)算法内存消耗低，时间复杂度低，而XGBoost(eXtreme Gradient Boosting)算法精度高.因此，基于提高精度与降低模型内存消耗的策略，将深度森林中的随机森林与极限随机森林模块分别替换为Lightgbm和XGbBoost，提出一种基于Lightgbm和XGBoost算法的优化深度森林算法LIGHT-XDF.在八个数据集上与其他模型进行对比实验，结果表明，LIGHT-XDF算法的综合性能最好.

• 单位
  成都大学; 成都信息工程大学