(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211000977.4 (22)申请日 2022.08.19 (71)申请人 哈尔滨工业大 学 （深圳） 地址 518055 广东省深圳市南 山区西丽大 学城哈工大校区 (72)发明人 刘洋　刘亲博　田宇琛　王轩　 张伟哲　漆舒汉　蒋琳　吴宇琳　 (74)专利代理 机构 深圳市君胜知识产权代理事 务所(普通 合伙) 44268 专利代理师 双瑞晨　王永文 (51)Int.Cl. G06N 20/00(2019.01) (54)发明名称 一种联邦学习模 型投毒防御方法、 终端及存 储介质 (57)摘要 本发明公开了一种联邦学习模型投毒防御 方法、 终端及存储介质， 方法包括： 根据各局部模 型增量的范数及对应的数据集选择匹配的裁剪 阈值， 并根据选择的裁剪阈值对对应的局部模型 增量进行自适应裁剪； 根据裁剪后的局部模型增 量确定当前全局模型增量的符号特征， 并根据确 定的当前全局模型增量的符号特征计算裁剪后 的局部模型对应的选择系数； 根据计算的选择系 数将各裁剪后的局部模型进行选择性聚合， 得到 全局模型； 本发 明可以有效地防御标签翻转缩放 攻击、 符号翻转攻击、 最小化最大距离攻击等模 型投毒攻击手段， 能够帮助中心服务器在不收集 客户端原始数据、 不加剧客户端本地计算量的情 况下完成对本地模型的聚合， 增强联邦学习框架 的可靠性和鲁棒 性。 权利要求书2页 说明书9页 附图2页 CN 115456192 A 2022.12.09 CN 115456192 A 1.一种联邦学习模型投毒防御方法， 其特 征在于， 包括： 根据各局部模型增量的范数及对应的数据集选择匹配的裁剪 阈值， 并根据选择的裁剪 阈值对对应的局部模型增量进行自适应裁 剪； 根据裁剪后的局部模型增量确定当前全局模型增量的符号特征， 并根据确定的当前全 局模型增量的符号特 征计算裁 剪后的局部模型对应的选择系数； 根据计算的选择系数将各裁 剪后的局部模型进行选择性聚合， 得到全局模型。 2.根据权利要求1所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据 各局部模 型增量的范数及对应的数据集选择匹配的裁剪阈值， 并根据选择的裁剪阈值对对应的局部 模型增量进行自适应裁 剪， 包括： 根据训练后的各局部模型及对应的数据集， 获取 各局部模型的训练模型增量； 根据获取的训练模型增量自适应生成裁剪 阈值， 并根据 所述裁剪阈值对对应的局部模 型增量进行自适应裁 剪。 3.根据权利要求2所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据获取的训 练模型增量自适应生成裁剪阈值， 并根据所述裁剪阈值对对应的局部模型增量进 行自适应 裁剪， 包括： 对获取的训练模型增量的二范数取中位数， 并根据所取的中位数自适应生成裁剪阈 值； 对各局部模型的训练模型增量按预设算法进行范数裁剪， 以限制各局部模型对全局模 型的贡献程度。 4.根据权利要求1所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据裁剪后的 局部模型增量确定 当前全局模型增量的符号特征， 并根据确定的当前全局模型增量的符号 特征计算裁 剪后的局部模型对应的选择系数， 包括： 根据所述裁 剪后的局部模型增量确定对应客户端的当前模型增量； 根据所述当前模型增量 提取各维度参数值的符号信息； 根据提取的符号信 息及期望的全局增量的符号特征， 计算所述裁剪后的局部模型对应 的选择系数。 5.根据权利要求4所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据当前模型 增量提取各维度参数值的符号信息， 包括： 定义符号 函数； 将所述当前模型增量作为输入参数输入至所述符号 函数中； 根据所述符号 函数提取 各维度参数值的符号信息 。 6.根据权利要求4所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据提取的符 号信息及期望的全局 增量的符号特 征， 计算裁 剪后的局部模型对应的选择系数， 包括： 定义所述期望的全局 增量的符号特 征； 根据所述全局增量的符号特征及所述提取的符号信 息， 计算所述当前模型增量与 所述 全局增量的符号 一致性参数比例， 得到所述裁 剪后的局部模型对应的选择系数。 7.根据权利要求1所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据计算的选 择系数将各裁 剪后的局部模型进行选择性聚合， 得到全局模型， 包括： 将所述选择系数作为各裁 剪后的局部模型的聚合 概率；权　利　要　求　书 1/2 页 2 CN 115456192 A 2根据所述聚合 概率及聚合 算法各裁 剪后的局部模型进行选择性聚合。 8.根据权利要求7所述的联邦学习模型投毒防御 方法， 其特征在于， 所述根据 所述聚合 概率及聚合 算法各裁 剪后的局部模型进行选择性聚合， 包括： 根据所述聚合 概率判断对应的裁 剪后的局部模型增量是否满足聚合条件； 若为是， 则选择满足条件的裁 剪后的局部模型增量； 根据选择的裁剪后的局部模型增量及所述 聚合算法进行选择性 聚合， 得到所述全局模 型。 9.一种终端， 其特征在于， 包括： 处理器以及存储器， 所述存储器存储有联邦学习模型 投毒防御程序， 所述联邦学习模型投毒防御程序被所述处理器执行时用于实现如权利要求 1‑8中任意一项所述的联邦学习模型投毒防御方法的操作。 10.一种存储介质， 其特征在于， 所述存储介质为计算机可读存储介质， 所述存储介质 存储有联邦学习模型投毒防御程序， 所述联邦学习模型投毒防御程序被处理器执行时用于 实现如权利要求1 ‑8中任意一项所述的联邦学习模型投毒防御方法的操作。权　利　要　求　书 2/2 页 3 CN 115456192 A 3