说明:收录全网最新的团体标准 提供单次或批量下载
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111635076.8 (22)申请日 2021.12.2 9 (71)申请人 杭州海康威视数字技 术股份有限公 司 地址 310051 浙江省杭州市滨江区阡 陌路 555号 (72)发明人 杨希超 张渊 谢迪 浦世亮  (74)专利代理 机构 北京柏杉松知识产权代理事 务所(普通 合伙) 11413 代理人 项京 高莺然 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种数据处理、 网络训练方法、 电子设备及 存储介质 (57)摘要 本申请实施例提供了一种数据处理、 网络训 练方法、 电子设备及存储介质, 该方法包括: 获取 深度神经网络的网络层的输入数据, 网络层的原 始权重被分解为量化处理的N个子权重; 将输入 数据分别 与N个子权重进行卷积处理, 得到N个子 权重对应的N个中间数据; 对N个中间数据进行求 和处理, 得到网络层的输出数据。 这样, 将网络层 的原始权重分解为量化处理的N个子权重, 通过 对N值的调整, 可 以灵活的平衡网络的效率与性 能。 权利要求书2页 说明书12页 附图5页 CN 114298280 A 2022.04.08 CN 114298280 A 1.一种数据处 理方法, 其特 征在于, 所述方法包括: 获取深度神经网络的网络层的输入数据, 所述网络层的原始权重被分解为量化处理 的 N个子权重; 将所述输入数据分别与所述N个子权重进行卷积处理, 得到所述N个子权重对应的N个 中间数据; 对所述N个中间数据进行求和处 理, 得到所述网络层的输出 数据。 2.根据权利要求1所述的方法, 其特征在于, 所述子权重为所述子权重对应的量化权重 与第一尺度系数进行乘积得到的值; 所述将所述输入数据分别与所述N个子权重进行卷积处理, 得到所述N个子权重对应的 N个中间数据的步骤, 包括: 对所述输入数据进行量 化处理, 得到所述输入数据对应的量 化数据和第二尺度系数; 将所述量化数据分别与所述N个子权重对应的量化权重进行卷积处理, 得到所述N个子 权重对应的N个卷积数据; 对每个卷积数据分别与所述第 一尺度系数和所述第 二尺度系数进行乘积处理, 得到所 述N个子权重对应的N个中间数据。 3.根据权利要求2所述的方法, 其特 征在于, 所述 量化权重由‑1、 0和1组成; 所述N个子权重的和值与所述原始权重的差值小于预设阈值, 或, 所述N个子权重的和 值与所述原 始权重的比值小于预设比值。 4.根据权利要求1 ‑3任一项所述的方法, 其特征在于, 所述输入数据为第一图像, 所述 输出数据为第二图像, 所述第一图像的噪声高于所述第二图像的噪声。 5.一种网络训练方法, 其特 征在于, 所述方法包括 获取训练集, 所述训练集包括样本数据和所述样本数据对应的预期数据; 将所述样本数据输入第一深度神经网络, 得到第 一预测数据, 其中, 所述第 一深度神经 网络包括至少一个网络层; 根据所述预期数据和所述第一预测数据, 确定第一损失值; 若根据所述第一损失值确定所述第 一深度神经网络收敛, 则将所述网络层的原始权重 分解为N个量化处理的子权重, 得到第二深度神经网络 。 6.根据权利要求5所述的方法, 其特 征在于, 所述方法还 包括: 若根据所述第一损失值确定所述第 一深度神经网络未收敛, 则调整所述第 一深度神经 网络的第一参数, 并重新执行所述将所述样本数据输入第一深度神经网络, 得到第一预测 数据的步骤; 其中, 所述第一 参数包括所述原 始权重。 7.根据权利要求5所述的方法, 其特征在于, 在得到所述第二深度神经网络之后, 还包 括: 将所述样本数据输入所述第二深度神经网络, 得到第二预测数据; 根据所述预期数据和所述第二预测数据, 确定第二损失值; 若根据所述第二损失值确定所述第 二深度神经网络收敛, 则结束所述第 二深度神经网 络的训练; 若根据所述第二损失值确定所述第 二深度神经网络未收敛, 则调整所述第 二深度神经 网络的第二参数, 并重新执行所述将所述样本数据输入第二深度神经网络, 得到第二预测权 利 要 求 书 1/2 页 2 CN 114298280 A 2数据的步骤, 所述第二 参数包括所述 N个子权重的尺度系数。 8.根据权利要求5 ‑7任一项所述的方法, 其特征在于, 所述子权重为所述子权重对应的 量化权重与第一尺度系数进行乘积得到的值, 所述 量化权重由‑1、 0和1组成; 所述N个子权重的和值与所述原始权重的差值小于预设阈值, 或, 所述N个子权重的和 值与所述原 始权重的比值小于预设比值。 9.一种电子设备, 其特征在于, 包括处理器和机器可读存储介质, 所述机器可读存储介 质存储有能够被所述处理器执行的机器可执行指令, 所述处理器被所述机器可执行指 令促 使: 实现权利要求1 ‑4或权利要求5 ‑8任一所述的方法步骤。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质内存储有计算机 程序产品, 所述计算机程序产品被处理器执行时实现权利要求 1‑4或权利要求5 ‑8任一所述 的方法步骤。权 利 要 求 书 2/2 页 3 CN 114298280 A 3

.PDF文档 专利 一种数据处理、网络训练方法、电子设备及存储介质

文档预览
中文文档 20 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共20页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种数据处理、网络训练方法、电子设备及存储介质 第 1 页 专利 一种数据处理、网络训练方法、电子设备及存储介质 第 2 页 专利 一种数据处理、网络训练方法、电子设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-19 03:55:23上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。