定义了一种新型拓扑感知的参数交换方案——弹性全局规约树(RAT)。针对底层物理拓扑及其超额认购条件,RAT建立了一种树状规约模式,该模式指定了参数聚合模式,其中每个聚合节点负责在规约阶段聚合一个超额认购区域内的所有工作的梯度,并在广播阶段将更新传回给工作节点。实验表明,该方法能有效地减少跨超额认购区域流量,缩短依赖链。
科研之友
微信
新浪微博
Facebook
分享链接
