科研之友
微信
新浪微博
Facebook
分享链接
摘要
经典的渐进式神经网络(PNN)通过获取先前任务的经验知识来提高神经网络在当前任务中的性能，但忽略了在渐进任务较多时渐进任务间的相关性差异对网络性能的影响。针对这种渐进任务数量较多且任务间相关性存在差异的场景，提出了一种基于相关性差异化迁移的渐进式神经网络（CDT-PNN）。首先使用基于余弦相似度的算法评估两个渐进任务的相关性；然后利用当前任务和先前任务之间的相关性来决定神经网络的知识参数传递，删除与当前渐进任务呈负相关的先前渐进任务的知识参数；最后依据任务间相关性按一定比例随机抽取正相关渐进任务的知识参数进行参数迁移。在添加了不同程度噪声的cifar-100数据集和mnist手写识别数据集上进行实验，实验结果表明，在复杂多任务场景下CDT-PNN相比于传统的PNN性能更好，在cifar-100数据集上的实验任务平均分类精度提高6.6个百分点，在mnist数据集上的实验任务平均分类精度提高1.56个百分点。
- 单位
