(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111432848.8 (22)申请日 2021.11.29 (71)申请人 全球能源互联网研究院有限公司南 京分公司 地址 210003 江苏省南京市 鼓楼区南瑞路8 号 申请人 南京大学　 国家电网有限公司大 数据中心 　 国网江苏省电力有限公司 　 国家电网有限公司 (72)发明人 石聪聪　何维民　张舸　黄秀丽　 华景煜　 (74)专利代理 机构 北京安博达知识产权代理有 限公司 1 1271 代理人 徐国文(51)Int.Cl. G06F 21/62(2013.01) G06K 9/62(2022.01) G06N 20/00(2019.01) (54)发明名称 一种面向安全发布的聚合模 型训练方法、 训 练设备及系统 (57)摘要 本申请公开了一种面向安全发布的聚合模 型训练方法、 训练设备及系统， 训练设备包括服 务端和客户端， 在训练发布的过程中每个客户端 获取联邦学习整体信息然后利用分布式差分隐 私技术使用本地数据训练深度学习模 型， 服务端 使用安全聚合协议将模型聚合完成后， 再将新的 模型参数传至客户端以便进行迭代训练； 本发明 能够使得最后发布的模型满足对模型观察者的 差分隐私， 其次训练过程中的子模 型梯度对于除 数据提供者本身以外不可见， 服务端也无法辨析 数据来源。 由此一方面能够满足抵御服务端单方 或是联合其他参与训练的客户端的隐私窃取攻 击， 另一方面对于中间窃听者 或是恶意破坏者也 有一定的攻击 抵御能力。 权利要求书4页 说明书12页 附图4页 CN 114398661 A 2022.04.26 CN 114398661 A 1.一种面向安全发布的聚合模型训练方法， 其特 征在于， 包括： 服务端将处 理过的深度学习模型发布到提供训练数据的客户端； 服务端将收到的多个客户端提供的梯度信息利用安全聚合协议进行聚合得到模型梯 度； 服务端基于所述模型梯度对所述深度 学习模型进行更新， 并将更新后的深度 学习模型 发送至客户端， 继续进行迭代训练直至模型训练完成； 其中， 所述梯度信 息为各客户端基于分布式差分隐私技术利用本地数据对所述深度 学 习模型进行训练得到 。 2.如权利要求1所述的训练方法， 其特征在于， 所述服务端将收到的多个客户端提供的 梯度信息利用安全聚合协议进行聚合得到模型梯度， 包括： 所述服务端将收到的多个客户端提供的加密后的模型梯度进行同态加操作 得到密文， 并将所述密文发送到各客户端； 当所述服务端接收到各客户端返回的明文信 息时， 基于门限机制对接收到的所有明文 信息进行聚合得到模型梯度； 其中， 所述客户端提供的加密后的模型梯度由客户端利用本地数据对所述深度 学习模 型进行训练得到； 所述 客户端返回的明文由客户端对聚合得到密文 进行本地 解密得到 。 3.如权利要求2所述的训练方法， 其特征在于， 所述基于门限机制对接收到的所有明文 信息进行聚合得到模型梯度， 包括： 基于接收的各客户端的明文信 息， 所述服务端利用可信密码分发服务器提供的密钥以 及解密证明对部分明文 进行验证； 当验证正确的部分明文数量大于设定数量 时， 将所有正确的部分明文进行聚合解密操 作得到聚合梯度； 所述明文信息包括： 部分明文和解密证明所述可信密码分发服务器提供的密钥包括： 公钥、 私钥和验证密钥。 4.如权利要求1所述的训练方法， 其特征在于， 所述服务端将处理过的深度学习 模型发 布到多个提供训练数据的客户端， 包括： 所述服务端将处理过的深度学习模型以及模型相关的参数发布到多个提供数据的客 户端； 其中， 所述 参数包括： 模型训练学习率、 批处 理大小。 5.如权利要求1所述的训练方法， 其特征在于， 所述处理过的深度 学习模型发布到多个 提供训练数据的客户端之前还 包括： 预设隐私开销， 并将所述预设隐私开销发送至各客户端。 6.如权利要求5所述的训练方法， 其特征在于， 所述服务端将收到的多个客户端提供的 梯度信息利用安全聚合协议进行聚合得到模型梯度还 包括： 服务端基于当前训练， 获取多个客户端提供的各客户端的隐私开销， 并整合得到当前 隐私开销； 将当前隐私开销与上一轮训练的隐私开销叠加得到 叠加隐私开销； 根据训练情况和所述叠加隐私开销确定是否 需要对预设隐私开销进行调整， 当需要对 预设隐私开销进行调整时， 将调整后的预设隐私开销发送至各客户端。 7.如权利要求5所述的训练方法， 其特征在于， 当满足下述条件之一 时所述模型训练完权　利　要　求　书 1/4 页 2 CN 114398661 A 2成： 所述服务端确定更新后的深度学习模型的推断结果准确率高于预先设定的准确率阈 值或损失值低于预设损失阈值； 联邦学习训练轮次达 到设定上限。 8.如权利要求1所述的训练方法， 其特征在于， 所述训练完成后还包括， 服务端将训练 好的模型发布至各客户端。 9.一种面向安全发布的聚合模型的训练设备， 其特征在于， 所述训练设备为服务端， 所 述服务端包括： 模型发布模块， 用于将处 理过的深度学习模型发布到多个提供训练数据的客户端； 梯度确定模块， 用于将收到的多个客户端提供的梯度信 息利用安全聚合协议进行聚合 得到模型梯度； 模型更新模块， 用于基于所述模型梯度对所述深度学习模型进行更新， 并将更新后的 模型发送至客户端， 继续进行迭代训练直至模型训练完成； 其中， 所述梯度信息为客户端基于安全聚合协议对客户端本地模型梯度进行处理得 到； 所述客户端本地模型梯度由客户端利用本地数据结合差分隐私技术对 所述深度学习模 型进行训练得到 。 10.如权利要求9所述的训练设备， 其特 征在于， 所述梯度确定模块具体用于： 服务端将收到的多个客户端提供的加密后的模型梯度进行同态加操作得到密文， 并将 所述密文发送到各客户端； 当所述服务端接收到各客户端返回的明文信 息时， 基于门限机制对接收到的所有明文 信息进行聚合得到模型梯度； 其中， 所述客户端提供的加密后的模型梯度由客户端利用本地数据对所述深度 学习模 型进行训练得到； 所述 客户端返回的明文由客户端对聚合得到密文 进行本地 解密得到 。 11.一种面向安全发布的聚合模型训练方法， 其特 征在于， 包括： 客户端基于分布式差分隐私技术利用本地数据对服务端发送的深度学习模型进行训 练； 客户端基于安全聚合协议对训练结果进行处理得到梯度信 息， 并所述梯度信 息发送至 服务端； 客户端对服务端发送的更新的深度 学习模型继续进行迭代训练， 直至所述深度 学习模 型训练完成； 其中， 所述服务端发送的密文由服务端对多个客户端提供的模型梯度进行聚合得到； 所述更新的深度学习模型由服务端基于多个客户端提供的明文信息进行聚合得到的模型 梯度对深度学习模型进行 更新得到 。 12.如权利要求11所述的训练方法， 其特征在于， 所述客户端基于分布式差分隐私技术 利用本地数据对服 务端发送的深度学习模型进行训练， 包括： 客户端将本地数据的身份以及特 征字段的范围和频率信息传送至服 务端； 客户端根据收集的信息在本地进行分布式数据匿名隐私化处 理； 基于处理后的本地数据对所述深度 学习模型进行训练， 得到更新梯度和本次训练的隐 私开销。权　利　要　求　书 2/4 页 3 CN 114398661 A 3