(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111642847.6 (22)申请日 2021.12.2 9 (71)申请人 北京奕斯伟计算 技术有限公司 地址 100176 北京市北京经济技 术开发区 科创十街18号院3号楼1层101室 (72)发明人 邱亮　赖俊成　王继铭　邓帆　 (74)专利代理 机构 北京市立方律师事务所 11330 代理人 张筱宁 (51)Int.Cl. G06N 3/08(2006.01) G06N 3/10(2006.01) G06N 3/04(2006.01) (54)发明名称 数据处理方法、 装置、 电子设备及计算机可 读存储介质 (57)摘要 本申请实施例提供了一种数据处理方法、 装 置、 电子设备及计算机可读存储介质， 涉及计算 机技术领域。 该方法包括： 对边缘设备的原始数 据模型进行模型加速处理， 得到目标数据模型； 其中， 模型加速处理包括模型量化操作以及激活 功能算子替换操作； 激活功能算子替换操作包括 根据预设的查找表， 将激活功能算子替换为查找 表中记载的目标参数值； 然后基于目标数据模 型， 进行数据处理。 本申请实施例实现了对边缘 设备中内置的原始数据模型进行改进， 并采用改 进得到的目标数据模型进行数据处理， 有效降低 了数据模型在边缘设备中的计算复杂 度， 提升了 数据模型的计算速度， 从而提升了边缘设备的数 据处理速度。 权利要求书2页 说明书11页 附图3页 CN 114358280 A 2022.04.15 CN 114358280 A 1.一种数据处 理方法， 其特 征在于， 包括： 对边缘设备的原始数据模型进行模型加速处理， 得到目标数据模型； 其中， 所述模型加 速处理包括模型量化操作以及激活功能算子替换操作； 所述激活功能算子替换操作包括根 据预设的查找 表， 将所述激活功能算子替换为所述 查找表中记载的目标参数值； 基于所述目标 数据模型， 进行 数据处理。 2.根据权利要求1所述的数据处理方法， 其特征在于， 所述对边缘设备的原始数据模型 进行模型加速处 理， 得到目标 数据模型， 包括： 对边缘设备的原 始数据模型中的权 重参数进行模型量 化操作， 得到量 化数据模型； 根据所述查找表， 确定所述量化数据模型中的所述激活功能算子对应的目标参数值， 对所述激活功能算子执 行所述激活功能算子替换操作， 得到目标 数据模型。 3.根据权利要求2所述的数据处理方法， 其特征在于， 在所述对边缘设备的原始数据模 型中的权 重参数进行模型量 化操作， 得到量 化数据模型之前， 还 包括： 对原始数据模型进行模型剪枝操作， 得到 压缩后的原 始数据模型； 所述对边缘设备的原始数据模型中的权重参数进行模型量化操作， 得到量化数据模型 包括： 对所述压缩后的原 始数据模型中的权 重参数进行模型量 化操作， 得到量 化数据模型。 4.根据权利要求3所述的数据处理方法， 其特征在于， 所述对原始数据模型进行模型剪 枝操作， 得到 压缩后的原 始数据模型， 包括： 对原始数据模型进行稀疏训练， 并根据所述稀疏训练的结果裁剪所述原始数据模型中 低于预设阈值的通道； 对裁剪后的原 始数据模型进行精度值恢复， 得到 压缩后的原 始数据模型。 5.根据权利要求4所述的数据处理方法， 其特征在于， 所述对原始数据模型进行稀疏训 练， 并根据所述稀疏训练的结果裁 剪所述原 始数据模型中低于预设阈值的通道， 包括： 在所述原始数据模型的批标准化BN层的每个通道引入尺度因子， 并对所述尺度因子施 加L1正则约束， 进行稀疏训练； 其中， 所述尺度因子包括所述 通道的权 重； 对所述稀疏训练后的尺度因子进行排序， 裁剪低于预设阈值的尺度因子所对应的通 道。 6.根据权利要求2或3所述的数据处理方法， 其特征在于， 所述对边缘设备的原始数据 模型中的权 重参数进行模型量 化操作， 得到量 化数据模型， 包括： 将原始数据模型中的权 重参数的精度转换为目标精度， 进行 所述模型量 化操作； 确定所述模型量化操作对应的量化误差和截断误差， 基于所述量化误差和所述截断误 差进行误差修 正操作， 得到量 化数据模型。 7.根据权利要求6所述的数据处理方法， 其特征在于， 所述确定所述模型量化操作对应 的量化误差和截断误差， 基于所述 量化误差和所述截断误差进行误差修 正操作， 包括： 计算所述权 重参数在所述模型量 化操作前后均值的差值和方差值的除数； 根据所述差值和所述除数确定所述权重参数的权重， 基于所述权重进行误差修正操 作。 8.根据权利要求6所述的数据处理方法， 其特征在于， 所述确定所述模型量化操作对应 的量化误差和截断误差， 基于所述 量化误差和所述截断误差进行误差修 正操作， 还 包括：权　利　要　求　书 1/2 页 2 CN 114358280 A 2统计所述原 始数据模型中每一层的张量分布， 并计算每一层的量 化参数； 基于所述张量分布和所述量化参数确定所述截断误差， 基于所述截断误差进行误差修 正操作。 9.一种数据处 理装置， 其特 征在于， 包括： 加速模块， 用于对边缘设备的原始数据模型进行模型加速处理， 得到目标数据模型； 其 中， 所述模型加速处理包括模型量化操作以及激活功能算子替换操作； 所述激活功 能算子 替换操作包括根据预设的查找表， 将所述激活功能算子替换为所述查找表中记载的目标参 数值； 处理模块， 用于基于所述目标 数据模型， 进行 数据处理。 10.一种电子设备， 其特 征在于， 所述电子设备包括： 一个或多个处 理器； 存储器； 一个或多个应用程序， 其中所述一个或多个应用程序被存储在所述存储器中并被配置 为由所述一个或多个处理器执行， 所述一个或多个程序配置用于： 执行根据权利要求1至8 任一项所述的数据处 理方法。 11.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 被处理器执行时实现权利要求1至8任一项所述的数据处 理方法。权　利　要　求　书 2/2 页 3 CN 114358280 A 3