神经网络分布式训练的现状及发展

作者：郭炳均; 王思晗

来源：信息与电脑(理论版), 2020, 32(21): 50-51.

• 神经网络
• 分布式训练
• 训练效率

随着深度学习的规模越来越大,神经网络的结构越来越复杂,分布式训练在研究和实践中变得越来越重要。而如何提高分布式训练的效率就成了研究的热点,本文主要介绍了当下分布式训练的现状以及所用到的方法,同时对提升分布式训练效率的未来趋势和所面临的挑战进行了展望,以更好地了解神经网络的分布式训练。

• 单位
  华北理工大学