一种基于权重矩阵分解的在线多任务学习算法

作者：张文金

来源：计算机工程, 2019, 45(08): 190-197.

DOI：10.19678/j.issn.1000-3428.0051610

• 多任务学习
• 权重矩阵
• 相关性结构
• 个性化模式
• 次线性遗憾

在线多任务学习(MTL)算法大多利用单个权重矩阵约束任务相关性,且该约束较为严格,在实践中难以满足。为此,提出一种改进的在线MTL算法,通过将权重矩阵分解为2个子矩阵来克服上述约束。对第1个子矩阵进行迹-范数正规化,获得低秩相关结构。利用正规化项对第2个子矩阵进行个性化任务的群组式Lasso惩罚,确定个性化模式。采用投影梯度算法对子矩阵进行自适应学习并获得最优解。实验结果表明,该算法相对于最优线性后验模型可实现次线性遗憾,其预测精度、运行速度优于TRML、MTFL等算法,且在垃圾邮件数据集上的累计误差率可降至4.97%。

• 单位
  广州铁路职业技术学院