(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111216937.9 (22)申请日 2021.10.19 (71)申请人 南京三眼精灵信息技 术有限公司 地址 100012 北京市朝阳区朝来科技园西 区16号楼1层 (72)发明人 汪利鹏　陈卓　张涛　吕鹏飞　 胡鹏　孙启明　李侃　李延明　 郭显宽　范小松　梁立涛　郝柏瑞　 (74)专利代理 机构 长沙智嵘专利代理事务所 (普通合伙) 4321 1 代理人 黄海波 (51)Int.Cl. G06F 21/62(2013.01) G06F 21/60(2013.01) G06N 20/00(2019.01) (54)发明名称 基于安全计算的联邦机器学习方法、 装置、 设备及介质 (57)摘要 本申请公开了一种基于安全计算的联邦机 器学习方法、 装置、 设备及介质， 所述方法包括步 骤： S1、 参与方A向参与方B发起联合建模任务； S2、 参与方A和B分别根据任务参数开始 本地样本 数据训练并计算本地梯度值； S3、 参与方A和B根 据本地梯度值， 利用多 方安全协议梯度合成函数 计算合成后的梯度值； S4、 参与方A和B根据合成 后的梯度值， 分别更新本地模型参数； S5、 根据任 务参数迭代次数循环执行步骤S2～步骤S4， 满足 设定条件时得到最终模型； S6、 参与方A发送任务 结束指令 给参与方B； S7、 参与方B接收信息， 结束 任务并销毁本地模型信息。 本申请基于点对点构 建网络通道， 采用spdz实现汇总梯度进行计算， 防止数据泄 露。 权利要求书2页 说明书7页 附图6页 CN 114003950 A 2022.02.01 CN 114003950 A 1.一种基于安全计算的联邦 机器学习方法， 其特 征在于， 包括 步骤： S1、 参与方A向参与方B发起联合建模 任务； S2、 参与方A、 参与方B分别根据任务 参数， 开始本地样本数据训练， 并计算本地梯度值； S3、 参与方A、 参与方B根据本地梯度值， 利用多方安全协议梯度合成函数计算合成后的 梯度值； S4、 参与方A、 参与方B根据合成后的梯度值， 分别更新本地模型参数； S5、 根据任务参数迭代次数循环执行步骤S2～步骤S4， 直至满足设定条件时， 参与方A 结束训练， 得到最终模型； S6、 参与方A发送任务结束指令给参与方B； S7、 参与方B接收信息， 结束任务并销毁本地模型信息 。 2.根据权利要求1所述的基于安全计算的联邦机器学习方法， 其特征在于， 所述步骤S1 具体包括： S11、 参与方A访问参与方B服 务端口， 建立链接； S12、 参与方A、 参与方B分别采用RSA算法加密， 随机生成公私密钥对， 其中， 参与方A随 机生成公私密钥对Pk1、 Sk1， 参与方B随机生成公私密钥对Pk2、 Sk2； S13、 参与方A、 参与方B双方交换公钥， 即参与方A发送本地公钥Pk1给参与方B， 参与方B 发送本地公钥Pk2给参与方A； S14、 参与方A生成训练任务， 采用参与方B的公钥Pk2进行加密， 将加密后的密文发送任 务给参与方B； S15、 参与方B接收密文， 采用本地私钥Sk2进行解密 获取任务明文， 并响应任务， 返回已 准备就绪。 3.根据权利要求1所述的基于安全计算的联邦机器学习方法， 其特征在于， 所述步骤S2 中， 计算本地梯度值具体为： 其中， F为梯度， x为输入， y为标签， ω为权重值， n为每次计算梯度的样本数量， ωT为ω 矩阵转置 。 4.根据权利要求1所述的基于安全计算的联邦 机器学习方法， 其特 征在于， 步骤S3中， 所述参与方A、 参与方B根据本地梯度值， 利用多方安全协议梯度合成函数计 算合成后的梯度值时， 基于开源spdz协议自定义实现梯度求平均得到合成后的梯度值， 且 输入参数 经过函数加密处 理进行传输， 采用密文计算 合成后的梯度值， 最终返回计算结果。 5.根据权利要求1所述的基于安全计算的联邦机器学习方法， 其特征在于， 步骤S4中， 参与方A、 参与方B根据合成后的梯度值， 分别更新本地模型参数 具体为： 其中， α 为学习率， F为梯度， ω为权 重值， t代表某一时刻。 6.根据权利要求1所述的基于安全计算的联邦 机器学习方法， 其特 征在于， 步骤S5中， 参与方A根据任务参数精确率或epoch阈值进行判断是否结束训练， 如果小于设定阈 值， 继续训练， 如果大于设定阈值则结束训练， 获得最终模型。 7.根据权利要求1至7中任一项所述的基于安全计算的联邦机器学习方法， 还包括步权　利　要　求　书 1/2 页 2 CN 114003950 A 2骤： S8、 所述参与方A、 参与方B 双方断开连接， 完成本次任务。 8.一种基于安全计算的联邦 机器学习装置， 其特 征在于， 包括： 任务发起模块， 用于参与方A向参与方B发起联合建模 任务； 本地梯度值计算模块， 用于参与方A、 参与 方B分别根据任务参数， 开始本地样本数据训 练， 并计算本地梯度值； 合成梯度值计算模块， 用于参与方A、 参与 方B根据本地梯度值， 利用多方安全协议梯度 合成函数计算 合成后的梯度值； 模型参数更新模块， 用于参与 方A、 参与方B根据合成后的梯度值， 分别更新本地模型参 数； 循环判断模块， 用于根据任务参数迭代次数循环执行步骤2～步骤4， 直至满足设定条 件时， 参与方A结束训练， 得到最终模型； 结束指令发送模块， 用于参与方A发送任务结束指令给参与方B； 模型信息销毁模块， 用于参与方B接收信息， 结束任务并销毁本地模型信息 。 9.一种电子设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计算 机程序， 其特 征在于， 所述处理器执行所述程序时实现如权利要求1至7中任一项所述基于安全计算的联邦 机器学习方法的步骤。 10.一种存 储介质， 所述存 储介质包括存 储的程序， 其特 征在于， 在所述程序运行时控制所述存储介质所在的设备执行如权利要求1至7中任一项所述 的基于安全计算的联邦 机器学习方法的步骤。权　利　要　求　书 2/2 页 3 CN 114003950 A 3