分布式在线共轭对偶梯度算法

作者:吕净阁
来源:阜阳师范学院学报(自然科学版), 2018, 35(04): 63-68.
DOI:10.14096/j.cnki.cn34-1069/n/1004-4329(2018)04-063-06

摘要

针对如何对动态环境下的流数据进行实时处理的问题,研究了一种基于权重平衡和共轭对偶梯度算法(CDG)的分布式在线学习优化算法—分布式在线共轭对偶梯度算法(DO-CDG)。首先,针对分布式在线优化问题,在CDG算法的基础上建立了数学模型并设计了DO-CDG算法,并进行求解;其次,给出算法的Regret界用于表征在线算法的优劣性,证明了当本地损失函数是强凸函数时,DO-CDG算法的收敛性以及本地估计的Regret界关于时间的次线性;最后,经过数据仿真实验,证明了算法的收敛性。

全文