(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111393636.3 (22)申请日 2021.11.23 (71)申请人 湖南三湘银行股份有限公司 地址 410023 湖南省长 沙市岳麓区滨江路 53号湖南湘江新区滨江金融中心楷林 国际D座 (72)发明人 王建新　盛韬　刘渊　路博　陈龙　 (74)专利代理 机构 北京中誉至诚知识产权代理 事务所(普通 合伙) 11858 代理人 张平力 (51)Int.Cl. G06N 20/00(2019.01) G06N 3/08(2006.01) G06N 3/04(2006.01) G06K 9/62(2022.01)G06K 9/00(2022.01) (54)发明名称 一种基于分布式生成对抗模型的联邦学习 方法 (57)摘要 本发明公开一种基于分布式生成对抗模型 的联邦学习方法。 该方法包括： 在分布式的环境 中进行生 成对抗模型的训练， 服务器 设有生成模 型， 客户端分别设有判别模型与分类模型； 服务 器的生成模型产生生成数据， 将生成数据发送至 客户端； 客户端利用本地数据和生成数据， 更新 分类模型和判别模型， 将生 成数据的判别结果送 到服务器； 服务器根据判别结果对生成模型进行 更新， 判断生成数据是否满足预设终止条件； 如 果是则跳转至将生成数据发送至客户端及之后 的步骤； 否则利用生成模型进行联邦学习训练过 程。 该方法利用分布式的生 成对抗网络在原有的 算法流程中增加了更多服 从全局分布的数据， 增 加了联邦学习算法训练出的模型泛化性与准确 率。 权利要求书2页 说明书8页 附图3页 CN 114021738 A 2022.02.08 CN 114021738 A 1.一种基于分布式生成对抗模型的联邦学习方法， 其特 征在于， 包括： 在分布式的环境中进行生成对抗模型的训练， 服务器设有生成模型， 客户端分别设有 判别模型与执 行具体任务的分类模型； 服务器的生成模型产生 生成数据， 将所述 生成数据发送至客户端； 客户端利用本地数据和所述生成数据， 更新所述分类模型和所述判别模型， 并将生成 数据的判别结果送到服 务器； 服务器根据所述判别结果所述对生成模型进行 更新； 服务器判断更新后的生成模型产生的生成数据是否满足预设终止条件； 如果更新后的生成模型产生的生成数据不满足预设终止条件， 跳转至将所述生成数据 发送至客户端及之后的步骤； 如果更新后的生成模型产生的生成数据满足预设终止条件， 利用生成模型进行联邦学 习训练过程。 2.如权利要求1所述的方法， 其特征在于， 客户端利用本地数据和所述生成数据， 更新 所述分类模型和所述判别模型， 并将生成数据的判别结果送到服务器的步骤中， 客户端对 生成数据的判别结果的判别依据如下： 每个生成数据的判别结果为所有被选 中客户端中， 判别模型的输出结果减去分类模型 的输出结果与生成数据标签的交叉熵损失， 其中选出最大的作为该 数据的判别结果。 3.如权利要求2所述的方法， 其特征在于， 客户端输出对生成数据进行判别， 得到判别 结果的过程如下： 对于K个参与联邦学习的客户端， 在t次迭代中服务器将分类模型C与生成数据 发送至客户端k， 其中k∈K， 服务器通过如下迭代步骤得到生成 数据 的判别结果： 客户端k为K个客户端中的任意一个， 在接收到来自服务器的分类模型Ct与生成数据 后， 使用本地数据训练分类模型， 得到更新后的分类模型 同时使用本地数据(x, y)与生成数据 训练判别模型 得到更新后的判别模型 客户端k将生成数据 分别输入分类模型 与判别模型 中得到分类后的类别 结果 与判别器输出结果 计算分类结果 与生成数据标签 的交叉熵损失得到分类的判别结果 其中 最后客户端将判别结果 上传至服 务器； 服务器接收到来自个K客户端的判别结果， 对于第i个生成数据， 其中i∈m， 选择客户端 上传的最大判别结果 作为生成数据 的判别结果， 并用每个生成数据的判别结果 对服务器的生成模型Gt进行更新得到Gt+1， 然后进行 下一轮次的迭代。 4.如权利要求3所述的方法， 其特征在于， 所述预设终止条件为： 使用生成模型产生的 生成数据对一个初始 化的任务模型进 行训练， 当任务模型使用生成数据在真实测试数据集 中达到预定结果时， 终止生成模型的训练。权　利　要　求　书 1/2 页 2 CN 114021738 A 25.如权利要求1所述的方法， 其特征在于， 利用生成模型进行联邦学习训练过程包括： 服务器接收到客户端模型参数后进行聚合， 并使用经过筛选后的生成数据对聚合模型进 行 训练， 最后选择参与训练客户端将训练后的聚合模型发送至 选中客户端。 6.如权利要求5所述的方法， 其特 征在于， 对于生成数据的筛 选过程如下： 服务器更新 生成模型， 使用生成模型产生 一批生成数据； 服务器利用聚合后的分类模型对生成数据进行分类， 并将分类结果与生成数据 预设标 签不一致的筛选出来， 其 余划分为用于 本轮更新的生成数据； 服务器使用经 过筛选后的数据对聚合模型进行 更新， 完成本轮迭代。权　利　要　求　书 2/2 页 3 CN 114021738 A 3