摘要

机器学习模型的生命周期通常比较短暂,大量的机器学习模型针对特定任务设计,在完成任务之后即失去使用价值.然而,一个精心设计和训练的模型通常更精炼地概括了训练数据中蕴含的知识.更进一步地,当无法获取原始训练数据时,已有的预训练模型就是仅剩的信息来源.本文提出了一种重用已有的预训练机器学习模型来辅助当前任务学习的框架,尤其适用于当前任务数据量不足的情形.该方法把已有模型视为黑盒,不需要已有模型的结构信息,并使用领域知识对已有模型进行筛选和结合.实验表明,在该框架下,通过对已有模型的重用,多个实际任务上的性能可以得到显著提升.

  • 单位
    南京大学; 计算机软件新技术国家重点实验室