(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111644074.5 (22)申请日 2021.12.2 9 (71)申请人 北京字跳网络技 术有限公司 地址 100190 北京市海淀区紫金 数码园4号 楼2层0207 (72)发明人 范文捷　 (74)专利代理 机构 北京远智汇知识产权代理有 限公司 1 1659 代理人 刘茜阳 (51)Int.Cl. G06N 3/063(2006.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06T 1/20(2006.01) (54)发明名称 数据处理方法、 装置、 电子设备及存 储介质 (57)摘要 本公开实施例提供了一种数据处理方法、 装 置、 电子设备及存储介质， 该方法包括： 获取与目 标神经网格模 型相对应的神经网络参数； 根据所 述神经网络参数， 生成与每个网络层级相对应的 待使用着色器； 其中， 所述目标神经网络模型中 包括多个网络层级； 根据所述目标神经网络模型 所属设备的目标设备参数， 确定与所述待使用着 色器相对应的计算管线， 以在接收到待处理数据 时， 根据所述目标设备参数， 调取所述计算管线 对所述待处理数据进行处理， 得到目标处理结 果。 本公开实施例的技术方案， 以大幅降低CPU与 GPU之间的交互的方式， 减少了GP U通信带宽对模 型计算过程的限制， 提升了神经网络模型的性 能。 权利要求书2页 说明书17页 附图4页 CN 114330689 A 2022.04.12 CN 114330689 A 1.一种数据处 理方法， 其特 征在于， 应用于中央处 理器中， 包括： 获取与目标神经网格模型相对应的神经网络参数； 根据所述神经网络参数， 生成与每个网络层级相对应的待使用着色器； 其中， 所述目标 神经网络模型中包括多个网络层级； 根据所述目标神经网络模型所属设备的目标设备参数， 确定与 所述待使用着色器相对 应的计算管线， 以在接收到待处理数据时， 根据所述目标设备参数， 调取所述计算管线对所 述待处理数据进行处 理， 得到目标处 理结果。 2.根据权利要求1所述的方法， 其特征在于， 所述根据所述神经网络参数， 生成与每个 网络层级相对应的待 使用着色器， 包括： 调用着色器生成模块对所述神经网络参数进行处理， 得到所述目标神经网络模型中每 个网络层级的待 使用着色器。 3.根据权利要求1所述的方法， 其特征在于， 所述目标设备参数包括是间接缓冲参数， 所述根据所述目标神经网络模型所属设备的目标设备参数， 确定与所述待使用着色器相对 应的计算管线， 包括： 若所述目标神经网络模型所属设备的间接缓冲参数为第 一参数， 则生成与 各待使用着 色器相对应的调度着色器； 通过对所述调度着色器和所述待 使用着色器编译处 理， 得到计算管线； 其中， 所述计算管线中包括与各待使用着色器相对应的子计算管线， 以及与各子计算 管线对应的控制管线。 4.根据权利要求1所述的方法， 其特征在于， 所述目标设备参数包括间接缓冲参数， 所 述根据所述目标神经网络模型所属设备的目标设备参数， 确定与所述待使用着色器相对应 的计算管线， 包括： 若所述目标神经网络模型所属设备的间接缓冲参数为第 二参数， 则确定与 各待使用着 色器相对应的子计算管线； 基于各子计算管线， 确定所述计算管线。 5.根据权利要求1所述的方法， 其特 征在于， 还 包括： 缓存所述目标神经网络模型的神经网络参数和计算管线， 以在接收到待处理数据时， 调取所述神经网络参数和计算管线对所述待处 理数据进行处 理。 6.一种数据处 理方法， 其特 征在于， 应用于图形处 理器中， 包括： 在接收到待处理数据时， 加载预先确定出的计算管线和神经网络参数； 其中， 所述计算 管线是基于中央处理器对目标神经网络模型的神经网络参数和所述目标神经网络模型所 属目标设备参数确定的； 根据所述目标设备参数， 确定各待使用着色器对待处理数据进行处理的目标处理方 式； 其中， 所述待 使用着色器是基于中央处 理器对所述神经网络参数处 理后得到的； 基于所述目标处 理方式对所述待处 理数据进行处 理， 得到目标处 理结果。 7.根据权利要求6所述的方法， 其特征在于， 所述根据所述目标设备参数， 确定各待使 用着色器对待处 理数据进行处 理的目标处 理方式， 包括： 若所述目标设备参数为第 一参数， 则确定各待使用着色器对待处理数据进行处理的目 标处理方式为第一目标处 理方式；权　利　要　求　书 1/2 页 2 CN 114330689 A 2若所述目标设备参数为第二 参数， 则确定所述目标处 理方式为第二目标处 理方式。 8.根据权利要求7所述的方法， 其特征在于， 所述目标处理方式为第一目标处理方式， 所述基于所述目标处 理方式对所述待处 理数据进行处 理， 得到目标处 理结果， 包括： 基于与所述计算管线相对应的控制管线确定各子计算管线的执 行顺序； 基于所述执行顺序和相应的子计算管线向相应的待使用着色器发送程序 执行指令， 以 使各待使用着色器对所述待处 理数据进行处 理， 得到与所述目标处 理结果。 9.根据权利要求8所述的方法， 其特征在于， 所述基于所述目标处理方式对所述待处理 数据进行处 理， 得到目标处 理结果， 包括： 接收基于当前子计算管线发送的程序执行指令； 其中， 所述程序执行指令是基于中央 处理器根据各神经网络层级的子计算管线确定的； 基于所述程序执行指令， 对所述待处理数据进行处理， 得到数据处理结果， 并将所述数 据处理结果反馈至所述中央处理器， 以使所述中央处理器接 收到数据 处理结果时， 将所述 当前子计算管线的下一子计算管线作为所述当前子计算管线， 并基于所述当前子计算管线 发送程序执行指令， 直至所述当前子计算管线为最后一个子计算管线， 得到与所述待处理 数据相对应的目标处 理结果。 10.一种数据处 理装置， 其特 征在于， 配置 于中央处 理器中， 包括： 网络参数确定模块， 用于获取与目标神经网格模型相对应的神经网络参数； 着色器确定模块， 用于根据所述神经网络参数， 生成与每个网络层级相对应的待使用 着色器； 其中， 所述目标神经网络模型中包括多个网络层级； 管线确定模块， 用于根据所述目标神经网络模型所属设备的目标设备参数， 确定与所 述待使用着色器相对应的计算管线， 以在接收到待处理数据时， 根据所述目标设备参数， 调 取所述计算管线对所述待处 理数据进行处 理， 得到目标处 理结果。 11.一种数据处 理装置， 其特 征在于， 配置 于图形处 理器中， 包括： 网络参数加载模块， 用于在接收到待处理数据时， 加载预先确定出的计算管线和神经 网络参数； 其中， 所述计算管线是基于中央处理器对目标神经网络模型 的神经网络参数和 所述目标神经网络模型 所属目标设备参数确定的； 处理方式确定模块， 用于根据所述目标设备参数， 确定各待使用着色器对待处理数据 进行处理的目标处理方式； 其中， 所述待使用着色器是基于中央处理器对所述神经网络参 数处理后得到的； 处理结果确定模块， 用于基于所述目标处理方式对所述待处理数据进行处理， 得到目 标处理结果。 12.一种电子设备， 其特 征在于， 所述电子设备包括： 一个或多个处 理器； 存储装置， 用于存 储一个或多个程序， 当所述一个或多个程序被所述一个或多个处理器执行， 使得所述一个或多个处理器实 现如权利要求1 ‑5或6‑9中任一所述的数据处 理方法。 13.一种包含计算机可执行指令的存储介质， 所述计算机可执行指令在由计算机处理 器执行时用于执 行如权利要求1 ‑5或6‑9中任一所述的数据处 理方法。权　利　要　求　书 2/2 页 3 CN 114330689 A 3