(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111414213.5 (22)申请日 2021.11.25 (71)申请人 中国银行股份有限公司 地址 100818 北京市西城区复兴门内大街1 号 (72)发明人 车瑞红　 (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 代理人 秦晓君 (51)Int.Cl. H04L 9/40(2022.01) H04L 67/10(2022.01) G06N 20/00(2019.01) (54)发明名称 基于横向联邦学习的模型训练方法及其设 备 (57)摘要 本申请提供一种基于横向联邦学习的模型 训练方法及其设备， 可应用于计算机领域、 人工 智能领域 或者金融领域， 应用于设备集群中的每 个设备， 对云服务器发送的加密初始模型进行解 密， 得到初始模型； 获取历史样本数据集， 利用历 史样本数据集对初始模型进行训练， 得到训练参 数； 对训练参数进行加密， 得到加密训练数据， 并 将加密训练数据发送给云服务器， 以使云服务器 将各个设备的加密训练数据进行聚合， 得到聚合 加密数据， 并利用聚合加密数据对加密初始模型 进行训练， 直至加密初始模型达到收敛， 将得到 的目标模型发送给各个设备； 当接收到云服务器 发送的目标模型时， 利用目标模型进行数据预 测。 本发明， 能够解决现有的模型训练方法存在 数据泄露的问题。 权利要求书2页 说明书9页 附图3页 CN 114006769 A 2022.02.01 CN 114006769 A 1.一种基于横向联邦学习的模型训练方法， 其特征在于， 应用于设备集群中的每个设 备， 所述方法包括： 当接收到云服务器发送的加密初始模型时， 对所述加密初始模型进行解密， 得到初始 模型； 其中， 所述加密 初始模型 是所述云服 务器对所述初始模型进行加密得到； 获取历史样本数据集， 并利用历史样本数据集对所述初始模型进行训练， 得到训练参 数； 其中， 每 个所述设备的历史样本数据集中每 个历史样本数据的维度相同； 对所述训练参数进行加密， 得到加密训练数据， 并将所述加密训练数据发送给所述云 服务器， 以使所述云服务器将各个所述设备 的所述加密训练数据进行聚合， 得到聚合加密 数据， 并利用所述聚合加密数据对所述加密初始模型进行训练， 直至所述加密初始模型达 到收敛， 将得到的目标模型发送给 各个所述设备； 当接收到所述云服 务器发送的所述目标模型时， 利用所述目标模型进行 数据预测。 2.根据权利要求1所述的方法， 其特 征在于， 所述方法还 包括： 初始化一对公私钥对； 所述公私钥对 包括目标公钥和目标私钥； 将所述目标公钥上传给 所述云服 务器， 并将所述目标私钥存 储至本地数据库中。 3.根据权利要求2所述的方法， 其特征在于， 所述当接收到云服务器发送的加密初始模 型时， 对所述加密 初始模型进行解密， 得到初始模型， 包括： 所述当接收到云服务器发送的加密初始模型时， 利用所述私钥对所述加密初始模型进 行解密， 得到初始模型； 其中， 所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得 到。 4.根据权利要求2所述的方法， 其特征在于， 所述对所述训练参数进行加密， 得到加密 训练数据， 并将所述加密训练数据发送给所述云服务器， 以使所述云服务器将各个所述设 备的所述加密训练数据进行聚合， 得到聚合加密数据， 并利用所述聚合加密数据对所述加 密初始模型进行迭代训练， 直至所述加密初始模型达到 收敛， 将得到的目标模型发送给各 个所述设备， 包括： 利用所述目标公钥对所述训练参数进行加密， 得到加密训练数据， 并将所述加密训练 数据发送给所述云服务器， 以使 所述云服务器将各个所述设备的所述加密训练数据进 行加 和， 得到聚合加密数据， 并利用所述聚合加密数据对所述加密初始模 型进行训练， 直至所述 加密初始模型达 到收敛， 将得到的目标模型发送给 各个所述设备。 5.根据权利要求2所述的方法， 其特征在于， 每个所述设备设置有AI芯片， 所述获取历 史样本数据集， 并利用历史样本数据集对所述初始模型进行训练， 得到训练参数， 包括： 获取历史样本数据集； 基于所述AI芯片， 利用所述历史样本数据集对所述初始模型进行训练， 获取训练参数； 其中， 所述当接收到所述云服务器发送的所述目标模型时， 利用所述目标模型进行数 据预测， 包括： 所述当接收到所述云服务器发送的所述目标模型时， 利用所述目标私钥对所述目标模 型进行解密， 得到解密目标模型； 基于所述AI芯片， 利用所述 解密目标模型进行 数据预测。 6.一种基于横向联邦学习的模型训练装置， 其特征在于， 应用于设备集群中的每个设权　利　要　求　书 1/2 页 2 CN 114006769 A 2备， 所述装置包括： 解密单元， 用于当接收到云服务器发送的加密初始模型时， 对所述加密初始模型进行 解密， 得到初始模型； 其中， 所述加密初始模型是所述云服务器对所述初始模型进 行加密得 到； 训练单元， 用于获取历史样本数据集， 并利用历史样本数据集对所述初始模型进行训 练， 得到训练参数； 其中， 每个所述设备的历史样本数据集中每个历史样本数据的维度相 同； 数据发送单元， 用于对所述训练参数进行加密， 得到加密训练数据， 并将所述加密训练 数据发送给所述云服务器， 以使 所述云服务器将各个所述设备的所述加密训练数据进 行聚 合， 得到聚合加密数据， 并利用所述聚合加密数据对所述加密初始模 型进行训练， 直至所述 加密初始模型达 到收敛， 将得到的目标模型发送给 各个所述设备； 数据预测单元， 用于当接收到所述云服务器发送的所述目标模型时， 利用所述目标模 型进行数据预测。 7.根据权利要求6所述的装置， 其特 征在于， 所述装置还 包括： 初始化单 元， 用于初始化 一对公私钥对； 所述公私钥对 包括目标公钥和目标私钥； 上传单元， 用于将所述目标公钥上传给所述云服务器， 并将所述目标私钥存储至本地 数据库中。 8.根据权利要求7 所述的装置， 其特 征在于， 所述 解密单元， 包括： 解密子单元， 用于所述当接收到云服务器发送的加密初始模型时， 利用所述私钥对所 述加密初始模型进行解密， 得到初始模型； 其中， 所述加密初始模型是云服务器利用所述目标公钥对所述初始模型进行加密得 到。 9.一种电子设备， 其特征在于， 所述电子设备包括处理器和存储器， 所述存储器用于存 储基于横向联邦学习的模型训练的程序代码和数据， 所述处理器用于调用所述存储器中的 程序指令执 行如权利要求1 ‑5中任一项所述的一种基于横向联邦学习的模型训练方法。 10.一种存储介质， 其特征在于， 所述存储介质包括存储程序， 其中， 在所述程序运行时 控制所述存储介质所在设备执行如权利要求 1‑5中任一项 所述的一种基于横向联邦学习的 模型训练方法。权　利　要　求　书 2/2 页 3 CN 114006769 A 3