(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211062388.9 (22)申请日 2022.08.31 (71)申请人 国网青海省电力公司超高压公司 地址 810021 青海省西宁市城中区总寨镇 城南新城大道131号 申请人 国网青海省电力公司 　 国家电网有限公司 (72)发明人 赵云龙　井晓君　施志刚　齐鹏文　 杨婕　杨文翠　周鑫鑫　康红艳　 韩婷　石岩　刘琴　李岩　罗龙　 (74)专利代理 机构 杭州裕阳联合专利代理有限 公司 33289 专利代理师 何宇梁 (51)Int.Cl. G06N 20/00(2019.01)G06F 8/61(2018.01) G16Y 30/00(2020.01) (54)发明名称 一种物联网边缘代理人工智能模型集成方 法和系统 (57)摘要 本发明涉及一种物联网边缘代理人工智能 模型集成方法和系统， 所述方法包括以下步骤： 在模型引导阶段， 获取云端的人工智 能模型， 并 对云端的人工智能模型进行修剪， 修建后减少人 工智能模型参数数量， 并去除人工智能模型层之 间的冗余连接； 对人工智 能模型进行部署， 在模 型部署阶段， 对修剪后的人工智能模 型进行压缩 并发布到物联网边缘端； 所述压缩的人工智能模 型发布到边缘端后， 对压缩后的人工智能模型进 行解压缩并在物联网边缘端重构所述人工智能 模型； 对重构后的人工智能模型采用边缘端场景 数据执行对应人工智能模型的增量学习训练， 得 到符合场景并训练好的物联网边缘端人工智能 模型。 本发明利用上述方法提高了物联网智能 化、 AI前置化水平。 权利要求书3页 说明书8页 附图4页 CN 115470930 A 2022.12.13 CN 115470930 A 1.一种物联网边缘代理人工智能模型集成方法， 其特征在于， 所述方法包括以下关键 步骤： 在模型引导阶段， 获取云端的人工智能模型， 并对云端的人工智能模型进行修剪， 修建 后减少人工智能模型参数 数量， 并去除人工智能模型层之间的冗余连接； 对人工智能模型进行部署， 在模型部署 阶段， 对修剪后的人工智能模型进行压缩并发 布到物联网边 缘端； 所述压缩的人工智能模型发布到边缘端后， 对压缩后的人工智能模型进行解压缩 并在 物联网边 缘端重构所述人工智能模型； 对重构后的人工智能模型采用边缘端场景数据执行对应人工智能模型的增量学习训 练， 在模型训练阶段， 得到符合场景并训练好的物联网边 缘端人工智能模型。 2.根据权利要求1所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 在 模型引导阶段中所述模型修剪方法如下： 给定N层人工智能模型M， 参数序列P＝{wi|1≤i≤N}， 压缩比λ在0到1之间， 删除所有在 阈值K以下的权 重； 在设定层数、 参数序列和压缩比的基础上进行修剪， 其中阈值K计算公式为： 其中 和 分别表示下限和上限函数,修剪后的模型参数序列 为P’。 3.根据权利要求1所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 对 所述人工智能模型压缩方法如下： 获取修剪后的人工智能模型参数序列， 将修剪后的人工智能模型参数序列中相似参数 进行参数映射； 利用哈希函数将修剪后人工智能相似参数映射到中心点。 4.根据权利要求3所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 所 述模型部署阶段中对所述人工智能模型压缩方法如下： 给定人工智能模型M， 经修剪后的参数序列为P ′＝{w′j|1≤j≤N ′}， 其中N′<N； 将所有相似的参数w ′j∈P′归集到C中心点Vc， 其中 一个或多个w ′j即被映射 到一个中心点Vc； 该映射被定义为哈希函数hj→c∈{0,1}， 如果hj→c＝1， 则参数wj被映射到Vc， 中心点Vc 定义公式为： 其中m是hj→c＝1的数量， 通过上述步骤， 减少了模型M 的层数和维度。 5.根据权利要求1所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 所 述模型训练阶段中， 在模型成功部署到边缘设备后， 需对模型进行解压缩， 通过从C中心点 Vc恢复参数序列P来重构模型M， 所述模型解压缩方法如下： 通过计算wi'的近似值来恢复修剪后的参数序列P'， 表示为 其计算公式为： 哈希函数和哈希种子云和物联网边 缘设备之间预 先共享；权　利　要　求　书 1/3 页 2 CN 115470930 A 2通过在P'中低于阈值K的修剪后参数填充一个小的θ 值 来获得参数序列P。 6.根据权利要求1所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 所 述模型训练阶段的增量学习方法包括： 利用云端公共数据集对重构后的人工智能模型进 行 预训练， 将预训练的模型在边缘端利用物联网边缘端 数据重新进 行迁移学习训练得到迁移 学习相关训练参数； 利用微调方法调整迁移学习的人工智能模型相关训练参数； 通过增量数据对所述迁移学习的人工智能模型进行增量学习， 并更新模型参数， 利用 损失函数计算模型训练结果得到最佳 人工智能模型。 7.根据权利要求6所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 所 述人工智能模型训练阶段中， 所述增量学习方法如下： 给定一个具有L层和每层I个神经元的AI模型M， 首先使用云上的公共数据集DS(c)对模 型M进行预训练； 给定学习率γ1、 期望准确度 ε1和迭代次数N1， 预训练过程表示为CT(DS(c), γ1, ε1,N1)； 使用迁移学习TL(dp(e),γ2, ε2,N2)在边缘侧重新训练模型M， 其中dp(e),γ2, ε2,N2分别 是边缘侧私有数据、 学习率、 期望精度和迭代 次数， 为提高准确性， 微调优化被应用到最后 一层wL＝{wiL|1≤i≤nL}； 假 设 wL层 的 输 入 和 输 出 为 xL和 wL的 损 失 函 数 定 义 为 ： 其中y和K分别是M中的标记数据和 神经元数量， 计算wL的梯度下降值计算公式为： 层wL 的权重被重新定义 为： wL＝wL‑γ2ΔwL； 通过使用增量学习， 使用新传入的边缘端场景增量数据对模型M进行更新， 并根据损失 函数得到最佳的人工智能模型。 8.根据权利要求1所述的一种物联网边缘代 理人工智能模型集成方法， 其特征在于， 提 供了一种物联网边 缘代理人工智能模型集成系统， 包括： 获取单元， 用于获取物联网系统内各项物联感知数据、 包括用于图像识别视频流数据； 处理单元， 用户对物联感知数据进行本地分析计算、 以及对图像识别基于所集成的人 工智能视 觉识别算法进行AI分析计算的本地处 理； 输出单元， 对处理单元的计算结果以及AI分析的结果进行输出， 包含产生的告警及预 警； 存储单元， 对人工智能模型、 物联感知采集数据及采集视频流数据、 以及增量数据库数 据进行存 储； 其中所述处理单元执行人工智能模型在基于所述权利要求1 ‑7任意一项所述的一种物 联网边缘代理人工智能模型集成方法基础上 执行所述本地处 理。 9.一种物联网边缘代理集成人工智能模型电子设备， 包括存储器、 处理器及存储在存 储器上并可在处理器上运行 的计算机程序， 其特征在于， 所述处理器执行所述程序时实现 如权利要求1至7任意 一项所述 一种物联网边 缘代理人工智能模型集成方法。 10.一种非暂态计算机可读存储介质， 其特征在于， 所述非暂态计算机可读存储介质存权　利　要　求　书 2/3 页 3 CN 115470930 A 3