(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211052967.5 (22)申请日 2022.08.31 (71)申请人 电子科技大 学 地址 610000 四川省成 都市高新区 （西区） 西源大道 2006号 (72)发明人 王瑞锦　张凤荔　程帆　张志扬　 刘东　陈政　 (74)专利代理 机构 成都众恒智合专利代理事务 所(普通合伙) 51239 专利代理师 刘沁 (51)Int.Cl. G06N 20/00(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 边缘场景下动态权 重的联邦学习方法 (57)摘要 本发明公开了一种边缘场景下动态权重的 联邦学习方法， 涉及机器学习技术领域， 包括筛 选客户端； 下发全局模型给各客户端； 客户端更 新自身的计算能力值； 客户端对全局模型进行训 练； 客户端根据计算能力值λ*和模型训练总时 长， 计算设备权重； 对于每一客户端， 若其模型训 练总时长 大于或等于截止时长， 则直接返回参数 至边缘服务器， 否则通过增加余项对全局模型参 数进行优化后， 再返回参数至边缘服务器； 边缘 服务器根据设备权重所有返回的全局模型参数 进行聚合， 得到最终全局模型参数。 本发明减少 了因训练速度不一致导致部分设备带来的异构 性影响， 根据服务质量确定在最终模 型聚合时的 占比， 从而确保聚合的结果在复杂的真实情况下 更具有鲁棒 性。 权利要求书2页 说明书6页 附图5页 CN 115526333 A 2022.12.27 CN 115526333 A 1.一种边 缘场景下动态权 重的联邦学习方法， 其特 征在于， 包括以下步骤： S1、 边缘服务器筛选若干客户端； S2、 边缘服务器初始化 一个全局模型 下发给各客户端； S3、 各客户端通过高斯分布更新自身的计算能力值 λ*； S4、 对于每一 客户端， 其 根据本地 风能数据集对 全局模型进行N轮训练； S5、 对于每一 客户端， 其 根据计算能力值 λ*和模型训练总时长T， 计算设备权 重； S6、 对于每一客户端， 若其模型训练总时长T大于或等于截止时长Tfinal， 则直接执行步 骤S7， 否则根据最小化目标函数 对训练后的全局模型参数进行优化后， 再执行步骤S7， 其中， 表示客户端k在通信 轮数为t+1时通过本地训练得到的loss值， Fk(w)表示第k个客户端所有数据的平均损失， μ 代表偏置项的参数， w表示本次本地计算完成的模型参数， wt表示全局模型的参数； S7、 对于每一个客户端， 其将全局模型参数和设备权 重返回至边 缘服务器； S8、 边缘服务器根据各客户端传回的设备权重， 对各客户端传回的全局模型参数进行 聚合， 得到最终全局模型参数。 2.根据权利要求1所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S3 中， 计算能力值 λ*的更新方法具体如下： 设定高斯分布均值 μ从[0,1]随机初始化， 标准偏差σ 从区间[0.25 μ,0.5 μ]随机初始化， 通过在客户端截断(0， μ+2σ )正态分布随机数， 得到每一轮的计算能力值 λ*。 3.根据权利要求2所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S4 中， 每一轮训练过程， 均需计算模型损失值， 用于衡量模型训练的好坏。 4.根据权利要求2所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S4 中， 训练全局模型的方法包括： 通过最小化损失函数， 计算得到网络 真实输出和真实标签的 误差loss， 通过网络真实输出和真实标签的误差loss 的反向传播得到参数的梯度值， 通过 随机梯度下降算法进行网络参数优化更新。 5.根据权利要求4所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S4 中， 风能数据集包括 风速风向数据集和发电量数据集。 6.根据权利要求2所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S5 中， 设备权 重的计算公式为 λ*/T。 7.根据权利要求6所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 步骤S6 中 的截止时长Tfinal的值通过初始设定得到 。 8.根据权利要求6所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S6 中， 对训练后的全局模型参数进行优化， 是在已有联邦平均算法得到当前客户端所有数据 的平均损失Fk(w)基础上加入一个余项 μ||w ‑wt||2， 即取本地局部优化的参数和服务器传过 来的全局参数向量的距离 差值。 9.根据权利要求8所述的边缘场景下动态权重的联邦学习方法， 其特征在于， 在步骤S8 中， 对各客户端传回的全局模型参数进行聚合的公式如下： 权　利　要　求　书 1/2 页 2 CN 115526333 A 2其中， 为第t边缘服务器和客户端之间的通信轮中， 第 i客户端返回给边缘服务器的 全局模型参数， 为第t边缘服务器和客户端之间的通信轮中， 第i客户端返回给边缘服 务器的设备权 重。权　利　要　求　书 2/2 页 3 CN 115526333 A 3