基于横向联邦学习的数据处理系统

作者:蔡文渊; 王宇河; 高明; 钱卫宁; 顾海林; 徐林昊
来源:2021-03-29, 中国, CN202110335358.X.

摘要

本发明涉及一种基于横向联邦学习的数据处理系统,实现步骤S1、初始化全局模型,设置K和相似度阈值Q;S2、选取K个客户端,发送初始全局模型进行训练,得到第一轮的全局模型和全局更新矩阵,将t设为2;S3、选取K个客户端,并发送上一轮全局模型G-(global,t-1)和全局更新矩阵ΔG-(global,t-1)进行第t轮训练,获取第k所选客户端的第t轮本地模型G-(k,t)和本地更新矩阵ΔG-(k,t);S4、获取ΔG-(k,t)和ΔG-(global,t-1)的相似度,将大于Q的确定为目标客户端;步骤S5、将目标客户端本地模型的参数顺序重新匹配;S6、获取第t轮全局模型G-(global,t)和全局更新矩阵ΔG-(global,t);S7、判断全局模型是否收敛,若收敛,则结束,否则,令t=t+1,返回S3。本发明减少了通信轮数、加快了模型收敛,从而降低了通信开销。