快速近似计算Shapley值的归因解释方法

作者：余晓晗; 王从波^*; 谢瑗瑗; 张中辉; 马荣

来源：计算机系统应用, 2022, 31(11): 290-295.

DOI：10.15888/j.cnki.csa.008751

• 归因解释
• Shapley值
• 可解释机器学习
• KD树

Shapley值归因解释方法虽然能更准确量化解释结果,但过高的计算复杂度严重影响了该方法的实用性.本文引入KD树重新整理待解释模型的预测数据,通过在KD树上插入虚节点,使之满足TreeSHAP算法的使用条件,在此基础上提出了KDSHAP方法.该方法解除了TreeSHAP算法仅能解释树结构模型的限制,将该算法计算Shapley值的高效性放宽到对所有的黑盒模型的解释中,同时保证了计算准确度.通过实验对比分析, KDSHAP方法的可靠性,以及在解释高维输入模型时的适用性.

• 单位
  中国人民解放军陆军工程大学