基于Polyak步长的随机递归梯度算法

作者：王福胜; 李晓桐

来源：应用数学, 2024, 37(01): 280-288.

DOI：10.13642/j.cnki.42-1184/o1.2024.01.018

• Polyak步长
• 随机递归
• 梯度下降

针对机器学习中一类有限光滑凸函数和的最小化问题,将随机递归梯度算法和Polyak步长结合,提出基于Polyak步长的随机递归梯度算法(SARAH-Polyak).分别在强凸和一般凸条件下证明了算法的线性收敛性.实验结果表明SARAH-Polyak算法的有效性.

• 单位
  太原师范学院