(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111672855.5 (22)申请日 2021.12.31 (71)申请人 成都商汤科技有限公司 地址 610000 四川省成 都市中国 （四川） 自 由贸易试验区成都市天府新区湖畔路 北段366号1栋3楼1号 (72)发明人 刘亮　龚睿昊　王裕淞　王燕飞　 余锋伟　 (74)专利代理 机构 北京派特恩知识产权代理有 限公司 1 1270 代理人 王花丽　张颖玲 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 模型处理方法、 装置、 电子设备和计算机存 储介质 (57)摘要 本公开实施例提出了一种模 型处理方法、 装 置、 电子设备和计算机存储介质， 该方法包括： 获 取深度学习模型集合和运行平台集合， 其中， 采 用哈希值作为表征所述深度学习模型集合中每 一深度学习模 型的标识， 所述每一深度学习模型 包括网络拓扑结构以及各算子节 点的属性信息； 所述运行平台集合中的各运行平台是加速库中 的每一部署工具部署在硬件集合中每一硬件上 形成的； 确定所述每一深度学习模 型在所述各运 行平台上的测速结果； 基于每一所述测速结果与 对应的深度学习模型和运行平台之间的映射关 系， 构建数据库。 权利要求书2页 说明书13页 附图6页 CN 114330668 A 2022.04.12 CN 114330668 A 1.一种模型处 理方法， 其特 征在于， 所述方法包括： 获取深度学习模型集合和运行平台集合， 其中， 采用哈希值作为表征所述深度学习模 型集合中每一深度学习模型的标识， 所述每一深度学习模型包括网络拓扑结构以及各算子 节点的属性信息； 所述运行平台集合中的各运行平台是加速库中的每一部署工具部署在硬 件集合中每一硬件上 形成的； 确定所述每一深度学习模型在所述各运行平台上的测速结果； 基于每一所述测速结果与对应的深度 学习模型和运行平台之间的映射关系， 构建数据 库。 2.根据权利要求1所述的方法， 其特征在于， 在所述获取深度学习模型集合后， 所述方 法还包括： 获取所述每一深度学习模型的网络 拓扑结构以及各算子节点的属性信息； 确定所述每一深度学习模型中各算子节点的哈希值以及所述各算子节点的属性信息 的哈希值； 对所述各算子节点的哈希值以及所述各算子节点的属性信 息的哈希值进行哈希 处理， 得到所述每一所述深度学习模型的哈希值。 3.根据权利要求2所述的方法， 其特征在于， 所述确定所述每一深度学习 模型中各算子 节点的哈希值以及所述各算子节点的属性信息的哈希值， 包括： 基于所述每一深度学习 模型的网络拓扑结构以及各算子节点的属性信 息， 构建所述每 一深度学习模型的有向无环图； 确定每一所述有向无环图中各算子节点的哈希值以及所述各算子节点的属性信息的 哈希值。 4.根据权利要求3所述的方法， 其特征在于， 所述对所述各算子节点的哈希值以及所述 各算子节点的属性信息的哈希值进行哈希处理， 得到所述每一所述深度学习模型的哈希 值， 包括： 对每一所述有向无环图中各算子节点的哈希值以及所述各算子节点的属性信息的哈 希值进行哈希处 理， 得到每一所述有向无环图中各算子节点的唯一表示 值； 对每一所述有向无环图中各算子节点的唯一表示 值进行排序； 对排序后的各算子节点的唯一表示值进行哈希 处理， 得到所述每一所述深度 学习模型 的哈希值。 5.根据权利要求1至4任一项所述的方法， 其特 征在于， 所述方法还 包括： 获取所述每一深度学习 模型的网络拓扑结构以及各算子节点的属性信 息之前， 删除所 述每一深度学习模型的参数信息 。 6.根据权利要求1至 5任一项所述的方法， 其特 征在于， 所述方法还 包括： 响应于用户的第一测速请求， 基于所述第一测速请求包括的第一深度学习模型的标 识， 确定所述第一深度学习模型的哈希值； 基于所述第一深度学习模型的哈希值， 在所述数据库中进行查找， 得到所述第一深度 学习模型的测速结果。 7.根据权利要求6所述的方法， 其特征在于， 所述第 一测速请求还包括目标运行平台的 标识， 所述基于所述第一深度学习模型的哈希值， 在所述数据库中进 行查找， 得到所述第一权　利　要　求　书 1/2 页 2 CN 114330668 A 2深度学习模型的测速结果， 包括： 在所述数据库中查找到与所述第一深度学习模型的哈希值以及所述目标运行平台的 标识相同的第二深度学习模型； 将所述第二深度 学习模型在所述目标运行平台的测速结果， 确定为所述第 一深度学习 模型在所述目标运行平台上的测速结果。 8.根据权利要求6所述的方法， 其特征在于， 所述第 一测速请求还包括所述第 一深度学 习模型对应的硬件和 加速库中的部署工具， 所述方法还 包括： 基于所述第 一深度学习 模型对应的硬件和加速库中的部署工具， 确定所述第 一深度学 习模型对应的目标运行平台。 9.根据权利要求6 至8任一项所述的方法， 其特 征在于， 所述方法还 包括： 响应于在所述数据库中查找不到所述第 一深度学习 模型的哈希值， 在第 一线程中对所 述第一深度学习模型在各运行平台上进行测速， 得到所述第一深度学习模 型在所述各运行 平台上的测速结果； 将所述第一深度学习模型在所述各运行平台上的测速结果， 添加到所述数据库中。 10.根据权利要求9所述的方法， 其特 征在于， 所述方法还 包括： 在所述第一线程中对所述第 一深度学习模型进行测速的同时， 在第 二线程中响应所述 用户的第二测速请求。 11.根据权利要求1至 5任一项所述的方法， 其特 征在于， 所述方法还 包括： 响应于用户的第三测速请求， 基于所述第三测速请求包括的第一运行平台的标识， 在 所述数据库中查找到与所述第一 运行平台的标识相同的第二 运行平台； 基于所述数据库中各深度学习 模型在所述第 二运行平台上的测速结果， 确定所述各深 度学习模型在所述第一 运行平台上的测速结果。 12.一种模型处 理装置， 其特 征在于， 所述装置包括： 获取模块， 用于获取深度 学习模型集合和运行平台集合， 其中， 采用哈希值作为表征所 述深度学习模型集合中每一深度学习模型的标识， 所述每一深度学习模型包括网络拓扑结 构以及各算子节点的属性信息； 所述运行平台集合中的各运行平台是加速库中的每一部署 工具部署在硬件集 合中每一硬件上 形成的； 确定模块， 用于确定所述每一深度学习模型在所述各运行平台上的测速结果； 构建模块， 用于基于每一所述测速结果与对应的深度学习 模型和运行平台之间的映射 关系， 构建数据库。 13.一种电子设备， 其特征在于， 包括处理器和用于存储能够在处理器上运行的计算机 程序的存 储器； 其中， 所述处理器用于运行所述计算机程序以执行权利要求1至11任一项所述的模型处理方 法。 14.一种计算机存储介质， 其上存储有计算机程序， 其特征在于， 该计算机程序被处理 器执行时实现权利要求1至1 1任一项所述的模型处 理方法。权　利　要　求　书 2/2 页 3 CN 114330668 A 3