摘要
最近有一种迁移学习的新方法—对抗域适应,该方法将生成对抗网络(Generative Adversarial Networks, GAN)的思想添加到深度网络当中去,能够学习数据的可迁移表示形式进行域适应。虽然通过GAN的思想能够很好地提取出源域数据和目标域数据的共同特征,有效地进行不同域之间的知识迁移,但现有的对抗域适应算法不能够有效地保留目标域数据的局部特征,而目标域数据的某些特征可能会对分类精度有着显著地提升。为了避免原始数据的局部特征因对抗性学习遭到破坏,利用多任务神经网络来保留目标域数据的局部特征。具体来说,提出了一个深度对抗重构分类网络的模型(Deep Adversarial-Reconstruction-Classification Networks, DARCN)。DARCN受到自动编码器的启发,在对抗域适应的基础上,添加了自动编码器的解码部分,这样能够有效地从低维特征重建原始数据。该模型学习了以下任务的共享编码表示:i)带标签的源域数据的监督分类,ii)不带标签的目标域数据的无监督重构,iii)源域和目标域的不可区分性。最后,最小化标签分类器的分类损失和解码器的重构损失,同时最大化域判别器的分类损失,通过梯度下降法能够有效地解决此类优化问题。实验结果证明了目标域局部特征的保留对领域自适应任务是十分关键的。
- 单位